Apple e Google terão de derrubar aplicativos de IA que criam ‘deepfakes’ sexuais
Ler Resumo
A Procuradoria do município de São Francisco, nos Estados Unidos, enviou na última quinta-feira, 16, notificações legais à Apple e ao Google que ordenam a derrubada de aplicativos de inteligência artificial (IA) disponíveis nas lojas das empresas e que conseguem gerar “deepfakes” sexuais de indivíduos reais.
A Procuradoria do município de São Francisco, nos EUA, enviou na última quinta-feira, 16, notificações legais à Apple e ao Google por causa de aplicativos, disponíveis nas lojas das empresas, que conseguem criar “deepfakes” sexuais por meio de ferramentas de inteligência artificial (IA).
De acordo com informações do Wired, o Procurador do município, David Chiu, também exigiu que as empresas parem de lucrar com tecnologias nocivas. Chiu exigiu que as duas empresas removessem de suas lojas de aplicativos 13 apps diferentes que permitiam aos usuários gerar imagens por IA que “deixam nus” as pessoas selecionadas, de forma não consensual.
As cartas do procurador, de acordo com a imprensa americana, diziam ainda que as empresas deveriam “parar de ajudar e encorajar” a venda de imagens deepfakes explícitas e cortar as relações com os desenvolvedores dos aplicativos. Não é a primeira vez que David Chiu age em situações similares. Foi seu escritório que, anteriormente, já havia entrado na justiça contra 16 outros sites que permitiam a criação de deepfakes. Para ele, as gigantes americanas devem ter lucrado “milhões de dólares em taxas” por causa dos aplicativos que oferecem a geração de imagens sexuais falsas.
O problema com os deepfakes sexuais já se arrasta há algum tempo. Apesar dos termos de serviço e políticas das plataformas de IA incluírem a proibição do uso de suas ferramentas para a criação de conteúdo sexual e violento, muitos sites e aplicativos, frequentemente anunciados como ferramentas para a “troca de rostos” — ou seja, permitem colocar rostos específicos em outros corpos — permitem, a partir do momento em que o usuário entra no aplicativo, a criação de imagens sexuais falsas sem o consentimento das vítimas.
Nos documentos de Chiu enviados às empresas, o procurador explica como essas ferramentas têm sido utilizadas como forma de diminuir e humilhar, em sua maioria, mulheres e crianças. A Apple e o Google tem em suas políticas a proibição expressa de conteúdos de abuso, pornografia ou assédio em suas plataformas. Anteriormente, as empresas já removeram dezenas de aplicativos de IA que permitiam a criação de conteúdo sexual, em sua maioria apontados à elas por causa de pesquisadores e órgãos que analisam o tema.
