Em um post recente , o vice-presidente de inteligência artificial da Meta, Jerome Pesenti, afirmou que o Facebook não usará mais software de reconhecimento facial . A empresa também planeja excluir mais de um bilhão de impressões faciais.
Desde 2010, os usuários do Facebook podiam utilizar a tecnologia de reconhecimento facial para identificar automaticamente os indivíduos em quaisquer fotos ou vídeos carregados no site de mídia social.
No entanto, a crescente pressão legal e política em relação ao uso de software de reconhecimento facial levou Meta a declarar que o sistema será encerrado na plataforma nas próximas semanas.
Mudanças no horizonte
Meta atualmente planeja apagar os modelos de reconhecimento facial individuais de mais de um bilhão de usuários – como resultado, o Facebook não será capaz de reconhecer rostos automaticamente em fotos e vídeos.
A impressão facial de identificação de indivíduos que optaram pelo reconhecimento facial será excluída. Os usuários que não optaram pelo sistema não têm impressão facial para excluir, no entanto, e Pesenti afirmou que todos os usuários agora são incentivados a marcar suas imagens manualmente.
As mudanças que estamos anunciando hoje envolvem uma mudança em toda a empresa desse tipo de identificação ampla e em direção a formas mais restritas de autenticação pessoal.Jerome Pesenti, vice-presidente de inteligência artificial
Uma ferramenta controversa
O Facebook permitia que seus usuários marcassem automaticamente pessoas em fotos e vídeos com software de reconhecimento facial desde 2010 – simplificando enormemente o processo e tornando muito mais fácil para os usuários descobrirem quando outra pessoa enviou uma foto deles.
Pesenti reiterou que o sistema de reconhecimento fez muito mais do que isso, no entanto, afirmando que a tecnologia era especialmente útil para usuários com deficiência visual e cegos. Esses usuários poderiam anteriormente ser capazes de identificar amigos e familiares nas fotos, graças aos nomes de usuário incluídos automaticamente no texto alternativo da imagem.
O Facebook permitiu que os usuários marcassem fotos e vídeos com software de reconhecimento facial desde 2010
Embora os usuários ainda possam adicionar texto alternativo e tags às suas imagens e vídeos, o Facebook não os ajudará fazendo sugestões automaticamente.
Esse pivô vem, aparentemente, como parte do plano da Meta de criar um “metaverso” expansivo – um mundo virtual onde os usuários podem se comunicar por meio de fones de ouvido de RV. Pesenti afirmou ainda que a empresa ainda pretende considerar a tecnologia de reconhecimento facial nos casos em que os usuários são solicitados a verificar sua identidade, como forma de proteger as pessoas contra fraudes .
No entanto, Pesenti enfatizou que as vantagens propostas do software precisam ser pesadas contra “as crescentes preocupações sobre o uso [da] tecnologia como um todo”.
Sob pressão
As “preocupações crescentes” a que se refere Pesenti têm, de fato, fervido continuamente por quase uma década. Em 2020, a Meta pagou US $ 650 milhões para resolver uma ação coletiva em que os usuários alegaram que a empresa havia produzido e armazenado varreduras faciais sem primeiro obter consentimento. A tecnologia de reconhecimento facial também provocou críticas de todos os cantos do mundo, com o Information Commissioner’s Office (ICO) do Reino Unido até mesmo intervindo para tratar de preocupações generalizadas sobre a tecnologia que está sendo usada nos refeitórios das escolas .
Mulheres negras são mal classificadas por algoritmos até35%do tempo
Os algoritmos de software de reconhecimento facial também costumam ter preconceitos raciais notórios contra pessoas de cor, e demonstram uma precisão absurdamente pobre e taxas de erro aumentadas, particularmente quando lidando com mulheres negras de 18 a 30 anos. Em 2018, um estudo marcante conduzido pelos pesquisadores Buolamwini e Gebru calculou que as mulheres negras eram mal classificadas por alguns algoritmos em até 35% das vezes. Em contraste, os homens brancos quase sempre foram classificados corretamente.
Esses erros podem ter um impacto enorme na vida de seus sujeitos classificados incorretamente – principalmente se forem usados pelas autoridades para identificar possíveis suspeitos.