Alucinações de IA: por que acontecem e como se proteger

A máquina não 'sabe', ela prevê

Um modelo de linguagem não consulta um banco de verdades. Ele prevê a próxima palavra mais provável dado o contexto. Quando o assunto é comum, o provável coincide com o correto. Quando é raro ou específico, o modelo preenche a lacuna com algo plausível — e plausível não é sinônimo de verdadeiro. É isso que chamamos de alucinação.

Por que soa tão convincente

O texto inventado tem a mesma gramática impecável e o mesmo tom seguro do texto correto. Não existe uma 'cara de mentira'. Datas, números, nomes de leis e citações são os campeões de erro, justamente porque são fáceis de inventar e difíceis de checar de cabeça.

Defesa prática

• Trate toda afirmação factual como um palpite a confirmar, não como fato.
• Peça a fonte e abra a fonte — não confie no link só porque ele existe.
• Use a IA para estruturar e redigir, e a si mesmo para verificar.
• Quanto mais específico e raro o dado, mais ceticismo ele merece.

A ferramenta é ótima para pensar junto. Só não terceirize a responsabilidade de estar certo.