Um chatbot transformou um palpite inventado em ordem de combate. Aeronaves de guerra americanas já estavam no ar quando alguém percebeu que a máquina tinha fabricado informação do zero. O mais assustador veio depois: outro sistema de inteligência artificial pegou o erro, transformou em relatório oficial e espalhou para 1,7 milhão de usuários do Pentágono que poderiam copiar e compartilhar aquele dado falso como se fosse inteligência real.
A sequência começou quando um chatbot foi consultado sobre a carga de um navio chinês. A máquina não tinha informação confiável sobre o assunto, então fez o que costuma fazer: inventou. O "achado" parecia plausível, mas era ficção pura. A hipótese bastou para que operadores militares americanos movessem aeronaves em direção ao navio. A escalada foi interrompida antes de uma abordagem acontecer, mas o estrago ao sistema de decisão já estava em curso.
Aqui mora o problema real. Não foi apenas um erro de máquina isolado. Um segundo sistema de IA pegou a alucinação do primeiro chatbot, embrulhou em formato de documento oficial e o distribuiu na rede interna do Pentágono. Milhões de militares americanos tiveram acesso àquele palpite travestido de relatório. O erro deixou de ser um incidente técnico e virou um boato institucionalizado, com aparência de verdade, pronto para ser replicado em decisões militares maiores.
A raiz do problema é simples mas aterradora: máquinas não verificam máquinas. O primeiro chatbot não era capaz de dizer "não sei". O segundo sistema não questionou a credibilidade do primeiro. E nenhum foi obrigado a esperar por um olho humano antes de disparar a informação para a rede. A velocidade da automação eliminou o atrito que costumava manter os erros fora das estruturas de poder.
Este episódio expõe uma lacuna que as Forças Armadas globais estão apenas começando a encarar: sistemas de IA agora alimentam decisões militares em tempo real, sem protocolos robustos de verificação. Não é um problema de tecnologia ruim. É um problema de confiança mal colocada. Quando máquinas alimentam máquinas, e humanos pressupõem que toda cadeia foi revisada, o risco não é apenas de erro isolado. É de erro institucionalizado.
Por que importa: As Forças Armadas brasileiras já trabalham com sistemas de inteligência artificial para análise de dados e monitoramento. Se os EUA, com recursos infinitamente maiores, carecem de protocolos que impeçam uma alucinação de IA virar ordem operacional, o Brasil e outros países menores enfrentam o mesmo risco amplificado. Um erro assim na Marinha, na Aeronáutica ou na Defesa Cibernética poderia desencadear uma reação desproporcional. A lição é clara: volume de dados e velocidade de processamento não devem nunca substituir a verificação humana em decisões que envolvam risco de conflito.