A OpenAI bloqueou mais de 250 mil tentativas de gerar imagens dos políticos Donald Trump, Kamala Harris, Joe Biden, Tim Walz e JD Vance no ChatGPT.

A decisão da empresa foi tomada com o intuito de evitar que o chatbot seja usado como ferramenta para a criação de deepfakes, vídeos falsos gerados por inteligência artificial.

Segundo o relatório da empresa de aprendizado de máquina Clarity, o uso desse tipo de material cresceu 900% em 2024.

Para mitigar esses riscos, a OpenAI tem rastreado operações de desinformação globais. Em outubro, por exemplo, a empresa identificou 20 redes que tentavam manipular a opinião pública por meio de conteúdo gerado por IA, desde artigos falsos até contas em redes sociais disseminando propaganda.

Nesse sentido, a CEO do Center for Democracy & Technology, Alexandra Reeve Givens, destacou que os eleitores não devem confiar em chatbots de IA para informações eleitorais, dada a incerteza sobre a precisão dos dados fornecidos.

Em resposta a isso, a OpenAI adicionou um recurso no ChatGPT que orienta os usuários a buscarem fontes de notícias confiáveis quando procuram resultados eleitorais.