Professor cria armadilha com texto oculto para flagrar uso de IA em trabalhos acadêmicos

Um professor universitário nos Estados Unidos viralizou ao revelar uma estratégia criativa para identificar o uso não autorizado de inteligência artificial em avaliações escolares. Jason Gibson, que leciona História na Alcorn State University, reprovou 32 de seus 35 alunos após eles caírem em uma armadilha inserida propositalmente no enunciado de uma redação sobre a Revolução Industrial.

O método consistiu em esconder uma instrução escrita em letras brancas sobre o fundo branco, tornando-a invisível para o olho humano, mas perfeitamente legível para os algoritmos. O comando ordenava que a inteligência artificial incluísse a palavra Madagascar em um contexto totalmente desconexo ao longo do texto. Ao copiarem o enunciado completo para ferramentas como o ChatGPT, os estudantes levaram consigo a ordem oculta sem perceberem.

O resultado foi a entrega de trabalhos com frases surreais, como citações sobre bicicletas de Madagascar que sussurram para o teto ou torradeiras em jogos de basquete. Para o docente, o episódio demonstrou não apenas a tentativa de trapaça, mas também a negligência dos alunos, que sequer leram o conteúdo gerado pela tecnologia antes de submeterem a atividade final.

A tática utilizada pelo professor é uma aplicação prática do prompt injection, uma técnica de manipulação que busca enganar modelos de linguagem. Embora usada de forma educativa neste caso, a prática representa um desafio crescente na cibersegurança, já que criminosos tentam usar comandos similares para extrair dados sigilosos ou burlar filtros de segurança de sistemas inteligentes desde que a falha foi descoberta em 2022.