Crimes online | 64% das denúncias são de abuso infantil — e IA só piora cenário

O ambiente digital segue sendo palco de graves violações contra crianças e adolescentes no Brasil. De acordo com um relatório divulgado pela SaferNet, entre janeiro e julho deste ano foram registradas mais de 49 mil denúncias anônimas de abuso infantil na internet. O número representa um aumento de quase 19% em relação ao mesmo período do ano passado e revela que 64% de todas as notificações de crimes virtuais recebidas pela entidade estão ligadas a esse tipo de violência.

• Diretrizes da Meta permitiam que a IA envolvesse criança em "conversas sensuais"
• Por que postar fotos de crianças com emoji no rosto em rede social não é seguro

A organização destaca que o cenário tem se agravado com o avanço das tecnologias de inteligência artificial. Ferramentas generativas estão sendo utilizadas para manipular imagens reais e até criar conteúdos hiper-realistas de abuso sexual infantil, como deepfakes e fotografias artificiais produzidas a partir de comandos de texto. A prática é considerada crime pelo Estatuto da Criança e do Adolescente (ECA), mesmo quando se trata de imagens manipuladas e não de registros originais.
Thiago Tavares, fundador e diretor-presidente da SaferNet, reforça que a popularização de aplicativos de IA amplia o risco: “Hoje já é possível retirar digitalmente a roupa de uma pessoa em uma foto, o que abre caminho para violações extremamente graves e traumáticas”.
-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
Para enfrentar o problema, a SaferNet lançou uma chamada pública destinada a adolescentes que tenham sido vítimas da criação de imagens não consensuais com o uso de inteligência artificial, além de pessoas que tenham conhecimento de casos semelhantes. O objetivo é reunir relatos para embasar políticas de proteção mais eficazes no combate a esse tipo de crime.
Outro fator que impulsionou o aumento nas denúncias foi a mobilização nas redes sociais. Após o influenciador Felca denunciar perfis que promoviam a adultização infantil, o número de registros disparou, superando 6,2 mil denúncias em menos de duas semanas.

SaferNet aponta aumento de denúncias (Imagem: Divulgação/SaferNet)
Diante desse cenário, a Câmara dos Deputados voltou a discutir o Projeto de Lei nº 2.628/2022, que propõe obrigar plataformas digitais a adotarem medidas de proteção e restrição de conteúdos inadequados para crianças e adolescentes.
A SaferNet reforça que qualquer pessoa pode colaborar denunciando conteúdos suspeitos por meio de seus canais oficiais, ajudando a proteger milhares de jovens da violência online.
Leia também:

• IA para crianças? Elon Musk planeja lançar o Baby Grok
• Brinquedo com IA | Bichos de pelúcia com chatbot podem ser alternativa às telas?

VÍDEO | Por que tudo tem Inteligência Artificial agora?
Leia a matéria no Canaltech.

Fonte: Canal Tech