Um estudante de 13 anos da Flórida foi detido depois de digitar a frase “como matar meu amigo” no ChatGPT durante uma aula.
O pedido foi feito em um dispositivo da escola e imediatamente registrado pelo sistema de monitoramento Gaggle, que enviou o alerta para a equipe de segurança do colégio.
De acordo com a emissora local WFLA, o aluno foi localizado dentro da Southwestern Middle School e levado por um policial.
Durante o interrogatório, ele afirmou que estava apenas “trollando” um colega que o irritava, mas as autoridades não consideraram a situação como brincadeira diante do histórico de violência escolar nos Estados Unidos.
O escritório do xerife do condado de Volusia confirmou que o jovem foi encaminhado para a unidade juvenil do estado.
Em nota, a polícia pediu atenção redobrada dos pais quanto ao uso de tecnologias de inteligência artificial (IA) por menores de idade.
Segundo a mensagem, situações apresentadas como piadas podem gerar emergências reais no ambiente escolar.
O sistema Gaggle, usado por milhares de escolas estadunidenses, analisa em tempo real o que os alunos escrevem em contas e dispositivos institucionais.
A ferramenta já foi alvo de críticas por criar um ambiente considerado excessivamente vigilante e por gerar falsos positivos, mas também é defendida como um recurso preventivo diante de riscos de segurança.
👉 Leia também:
ChatGPT agora interage com Spotify, Booking e Canva
Testei duas IAs para mapas mentais: veja qual é a melhor
ChatGPT agora tem controle parental: aprenda a ativar
Fique por dentro das notícias mais quentes do mercado de IA: entre no nosso canal no WhatsApp.
