O crescimento da IA generativa acendeu um alerta para eleições no Brasil e no mundo, com ferramentas que podem ser usadas para gerar deepfakes ou criar conteúdo nocivo sobre determinado candidato. Diante deste cenário, o Google anunciou soluções para controlar o uso de inteligência artificial nos pleitos municipais em todo o país em evento na última segunda-feira (6).
- Clique e siga o Canaltech no WhatsApp
- Deepfake, fake news e mais: como a IA pode arruinar as eleições
Mecanismos de proteção com IA
Moncau reforçou que o Google pretende garantir informações úteis, confiáveis e seguras para os eleitores, além de combater a desinformação no período.-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
“A gente tem trabalhado incessantemente para melhorar o acesso a fontes confiáveis de informação e ajudar as pessoas a entender melhor quais são os conteúdos que elas encontram na internet, permitindo assim que elas tomem as decisões mais bem informadas. Este compromisso vai além do processo eleitoral e está refletido também na nossa abordagem responsável sobre o desenvolvimento de inteligência artificial”, comentou.
O gerente de relações governamentais e políticas públicas do Google Brasil, Luiz Moncau, explica o uso de IA para as eleições de 2024 (Imagem: Luís França/Google)
Restrições no Gemini
Quem deseja usar o chatbot do Gemini para se informar sobre as eleições receberá um balde de água fria: a ferramenta não vai responder a prompts sobre candidatos políticos. A medida já estava em vigor anteriormente e também foi usada em outros países que passaram por eleições, como EUA, Índia e Itália.Qualquer comando relacionado a um candidato recebe a seguinte mensagem: “Neste momento, não posso ajudar com respostas sobre eleições e personalidades políticas. Embora nunca partilhe deliberadamente algo que seja incorreto, posso cometer erros. Por isso, enquanto me esforço para melhorar, pode tentar a Pesquisa Google”.
Gemini não responde a prompts sobre candidatos (Imagem: Captura de tela/André Magalhães/Canaltech)
Além disso, respostas sobre notícias gerais são acompanhados de dois ícones para checar a fonte original das informações — quando há um ícone verde, o dado foi confirmado, enquanto um ícone amarelo exige uma pesquisa mais aprofundada sobre o tema para verificar a fala.
Luiz Moncau explicou que a necessidade de reforçar as fontes faz parte da natureza criativa destas ferramentas. “A gente sabe que a IA é uma ferramenta de criação, não necessariamente ela vai ser uma ferramenta de te entregar fatos precisos. Então, a gente tem que deixar isso claro no produto e tenta criar mecanismos para que você busque o contexto quando você precisar”, comentou.
Foco em identificar conteúdo por IA
Outro pilar do Google envolve identificar quando um conteúdo foi gerado por IA e trazer contexto aos usuários. A empresa possui o SynthID, que funciona como uma marca d’água digital invisível a olho humano, mas é perceptível por máquinas — dessa forma, um site ou app pode informar se uma imagem, vídeo ou áudio gerado em alguma plataforma do Google conta com IA generativa.“Seria muito ruim se um produto para gerar uma imagem mostrasse aquela marca d'água gigantesca assim escrito ‘Google’. Você não ia conseguir usar, ia ficar esteticamente ruim, então a gente tem desenvolvido a tecnologia para colocar marcas d' água que são imperceptíveis aos nossos olhos, mas que são identificadas por máquina”, comentou Luiz Moncau.
A pesquisa possui a opção “Sobre esta imagem”, com dados sobre a data de publicação e outras circunstâncias nas quais uma foto foi publicada em outros sites.
“A gente tenta identificar os conteúdos gerados por IA: quando um usuário interagir com esses conteúdos, ele pode saber que aquilo foi gerado pela inteligência artificial. Muitas vezes, isso não é suficiente, então também tentamos acrescentar contexto para que sempre que o usuário interaja com alguma informação, ele consiga entender se aquilo é verdadeiro ou falso”, explicou o gerente de relações governamentais e políticas públicas do Google Brasil.
No YouTube, o usuário também precisa informar se houve uso de IA para gerar ou editar um conteúdo — pode ser um vídeo ou uma descrição, por exemplo. A plataforma de vídeos lançou um selo para verificar uso de IA generativa no ano passado e o tornou obrigatório para temas sensíveis, incluindo as eleições.
Google nas eleições
A Gigante de Mountain View também revelou novidades para busca, Google Ads e Google Trends durante o período eleitoral — veja um resumo dos anúncios.Leia a matéria no Canaltech.
Trending no Canaltech:
OFERTA | iPhone 13 vermelho de 256 GB com preço imperdível e cupom- Batman recruta seu vilão mais falido e deprimente para salvar Gotham City
- Sesi abre vagas para curso grátis de programação e robótica com foco em jovens
MENOR PREÇO | Galaxy S24 de 512 GB atinge preço recorde com cupom- Olimpíadas 2024 | Como assistir a Brasil x Rep. Dominicana no vôlei feminino
- Marvel concede poder que muda a mitologia de seus vampiros
Fonte: Canal Tech
