O escritório do procurador David Chiu de São Francisco, nos Estados Unidos, entrou com uma ação judicial contra 16 sites que utilizam inteligência artificial para criar imagens pornográficas falsas, os chamados deepfakes, de mulheres e meninas sem o consentimento das mesmas. A ação é a primeira desse tipo e busca enfrentar o crescente problema de nudes falsos gerados por IA.
Os sites processados permitem que os usuários enviem fotos de pessoas vestidas, que são então manipuladas por ferramentas de IA para criar imagens que simulam nudez.
Processo contra deepfakes de nudez
O processo, anunciado em uma conferência de imprensa nessa última quinta-feira (15), acusa os operadores desses sites de violarem leis estaduais e federais que proíbem a pornografia de vingança, pornografia infantil e a criação de deepfakes.-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
Além disso, a ação invoca a lei de concorrência desleal da Califórnia, que proíbe práticas comerciais ilegais e injustas.
Em uma publicação da rede social x (o antigo Twitter), o procurador David Chiu contou que “este é um grande problema multifacetado que nós, como sociedade, precisamos resolver o mais rápido possível”.
De acordo com o escritório do Procurador, esses sites foram visitados mais de 200 milhões de vezes apenas nos primeiros seis meses de 2024. “Esta investigação nos levou aos cantos mais obscuros da internet, e estou absolutamente horrorizado pelas mulheres e meninas que passaram por essa exploração”, declarou Chiu no X.
Uma das páginas investigadas, cujo nome foi mantido em sigilo, chegou a promover seus serviços com o slogan: “Imagine perder tempo saindo em encontros quando você pode usar [o site] para obter nudes dela”.
A queixa também destaca a dificuldade de responsabilizar os operadores desses sites, já que muitos permanecem anônimos ou escondidos por trás de estruturas empresariais complexas. Mesmo assim, a ação busca não apenas penalidades civis, mas também a retirada desses sites do ar e a prevenção permanente de futuras criações de pornografia deepfake.
Combate aos nudes falsos
O problema dos nudes falsos gerados por IA tem recebido crescente atenção, principalmente com o avanço das tecnologias de IA generativa, que têm sido usadas para explorar e chantagear as vítimas — envolvendo até celebridades, como a cantora Taylor Swift.No Brasil, um projeto de lei que torna crime criar e divulgar imagens íntimas ou de nudez feitas por inteligência artificial foi aprovado no final do ano passado pela Câmara dos Deputados. O PL 9930/18 aguarda votação no Senado.
Leia a matéria no Canaltech.
Trending no Canaltech:
- Cientistas descobrem como regenerar neurônios antigos
BARATO | Compre iPhone 13 de 256 GB em ótima oferta- Antony Starr | 5 filmes e séries com o ator que é o Capitão Pátria em The Boys
- BC notifica exposição de dados de 8 mil chaves Pix do BTG Pactual
- Samsung leva Circule para Pesquisar para modelos da linha Galaxy A
- Golpe do pagamento usa ligações para confirmar compras falsas; veja o que fazer
Fonte: Canal Tech
