Software de reconhecimento facial ultrapreciso causa preocupação

O nome é PimEyes e custa US$ 29,99 (R$ 142 na cotação de hoje) por mês para usar. É um software de reconhecimento facial que, a partir do upload de uma foto, varre a internet atrás de imagens da mesma pessoa. E, a reportagem do New York Times descobriu e o Olhar Digital confirmou, é sombriamente preciso.

Nos testes do NYT, vários membros da equipe jornalística submeteram fotos suas a testes. O PimEyes achou fotos que esqueceram existir, ou que nem sabiam que um dia haviam sido tiradas.

Uma das repórteres aparece dançando num evento de um museu de arte há mais de uma década, e, em outra, chorando após receber uma proposta de casamento – ela não gostava dessa última foto, mas o fotógrafo estava usando para anunciar seu negócio no Yelp.

Um repórter de tecnologia foi achado no festival de música de Coachella em 2011, no meio de uma multidão. Um correspondente apareceu em múltiplas fotos de casamento e, de forma borrada, numa foto tirada num aeroporto da Grécia.

A pesquisa funcionou mesmo no caso de uma pessoa usando óculos escuros na foto apresentada, olhando para o lado, de máscara, ou com barba – encontrando fotos sem barba (mais sobre isso no final).

Preocupação com privacidade

O PimEyes funciona subindo uma foto e clicando numa caixa, afirmando que a foto é sua. Ainda que várias vezes no site seja dito que é para uso exclusivo pessoal, não há qualquer freio além dessa caixa, a honestidade de uma pessoa anônima na internet. Nada impede realemente o usuário de subir imagens de outras pessoas.

O programa não varre redes sociais, mas sites abertos, como páginas de notícias, fóruns, álbuns de fotógrafos e, o mais preocupante de tudo, sites pornográficos.

A ideia, segundo a empresa, é estar do lado certo: ajudar uma pessoa a encontrar o uso abusivo da própria imagem e tirá-la do ar. Em tese, isso pode ser usado contra, num exemplo que eles dão, pornô de vingança, para tirar do ar o conteúdo abusivo. Mas pode também ser usado por uma pessoa para encontrar fotos indesejadas de outra.

De fato, uma das histórias levantadas pelo NYT foi a da engenheira da computação Cher Scarlett. Em 2005, aos 19 anos, ela estava sem dinheiro e fez uma audição para a indústria pornográfica. Ela odiou e desistiu imediatamente da ideia. Mas, pelo PimEyes, descobriu que suas imagens continuavam no ar.

No próprio programa de reconhecimento facial, ela descobriu que havia uma opção para remover as fotos: o plano premium PROTect que custava até US$ 299,99. “É basicamente extorsão”, afirma ela, que pagou pelo plano mais caro.

Segundo o NYT, o PrimEyes afirmou ter devolvido o dinheiro para Scarlett e lembrou que há um plano gratuito para remover imagens, mas é meio difícil de achar. Em solidariedade à Ucrânia, a empresa também bloqueou usuários russos.

Meu teste de reconhecimento facial

A plataforma permite um teste grátis de uma pesquisa simplificada. Subindo uma foto minha, achei algumas fotos de perfil em sites públicos e múltiplas versões de uma foto que havia subido no Reddit em 2020.

O que aconteceu então foi que meu cachorro comeu meus óculos e tive que fazer uma gambiarra para enxergar com uma lente só. Acabei com um visual de Dragon Ball, que foi foi um hit nível mais que 9 mil.

Não é muito surpresa essa imagem acabar viral. E ela parece bastante com a imagem que eu subi, com a mesma barba e o mesmo cabelo que uso ainda hoje.

A surpresa foi no final da lista, onde ele achou uma foto “potencialmente explícita” (é um falso positivo, de alguém bem parecido, aparentemente cantando sem camisa; minha carreira musical se limita a karaokê).

E o mais surpreendente de tudo: uma foto real minha de 2009, sem barba, com bigode pintado com lápis para uma festa junina (é a no canto inferior esquerdo). Se você apresentasse minha foto de hoje a eu mesmo em 2009, acho que não me reconheceria.

Testes com outras fotos trouxeram novamente uma montanha do meu meme Dragon Ball e alguns falsos positivos óbvios, gente que nem parece comigo (diferente do cantor misterioso).

O teste gratuito não apresenta os links de onde as fotos foram encontradas, e as apresenta de forma borrada, de forma que você não consiga fazer a busca reversa. Clicar nelas leva a uma tela pedindo para assinar. Não é difícil concordar que, se você achar uma foto problemática (não foi meu caso), pode acabar parecendo uma extorsão.

O PrimEyes funciona principalmente no site. Há um app para Android, mas como um APK (um arquivo de instalação não autorizado pela loja oficial). Como o endereço é óbvio para qualquer pessoa procurando pelo nome PrimEyes, logo na página inicial, vamos deixar o link: é aqui. Lembrando que pesquisar por outros viola os termos de uso do próprio site e pode terminar no tribunal, e não temos como nos responsabilizar pelos resultados de um site de terceiros.

Olhardigital.com.br