A Alemanha quer obrigar gigantes de tecnologia a abrir seus dados de treinamento para reguladores europeus. Na América Latina, candidatos já enfrentam vídeos deepfake criados para manipular eleitores. E redações mundo afora começam a marcar qual foto ou texto foi gerado por máquina. Três movimentos distintos, um problema central: sem regras sobre a matéria-prima que alimenta a inteligência artificial e como ela é verificada, a tecnologia vira arma de manipulação política e disseminação de mentiras em escala industrial.
O começo está na Alemanha. Bruxelas trabalha em um marco regulatório europeu que obrigaria empresas como Meta, Google e OpenAI a revelar quais dados usaram para treinar seus modelos de IA. A ideia é simples: se você não sabe com o quê a máquina foi alimentada, não consegue auditar se ela está enviesada, se discrimina grupos ou se foi construída sobre informações falsas. Até agora, essas empresas tratam seus dados de treinamento como segredo comercial. A proposta alemã quer transformar isso em transparência obrigatória, com pressão para que criem infraestruturas de dados públicos e verificáveis. É um choque entre o modelo fechado da indústria de tech e a lógica regulatória europeia.
Enquanto isso, a América Latina já paga o preço dessa falta de controle. Um relatório recente da AP News aponta tentativas sistemáticas de usar deepfakes em eleições: vídeos de candidatos dizendo coisas que nunca disseram, áudios falsificados circulando em redes sociais. Uruguai, México e Brasil viram esses ataques de perto. Empresas como Microsoft e Meta criaram detectores de conteúdo sintético, mas estão sempre atrás da onda. Quando a IA que gera a mentira evolui mais rápido que a IA que a detecta, ganha o caos. Os eleitores não sabem mais no que confiar. A política vira terra arrasada.
A imprensa tenta frear isso com rótulos. Reuters, Associated Press e veículos internacionais começaram a marcar explicitamente qual conteúdo foi gerado por máquina em suas coberturas. É uma confissão de que a fronteira entre o real e o sintético ficou turva demais para o leitor comum notar sozinho. O jornalismo sempre dependeu de verificação; agora depende também de algoritmo. E se o algoritmo que marcou o conteúdo foi treinado com dados enviesados, a verificação falha desde a raiz.
O fio que une esses três cenários é sempre o mesmo: controle sobre a origem. Sem saber com o quê a IA foi treinada, não há como detectar quando ela mente. Sem detectores confiáveis, candidatos manipuladores ganham espaço. Sem transparência, a imprensa não consegue confiar sequer em suas próprias ferramentas de verificação. A Alemanha está tentando quebrar esse círculo pelo topo, forçando as empresas a abrir os dados. Mas enquanto isso não vira lei global, cada país fica à mercê da desinformação que rode pelas redes.
Por que importa: Brasil terá eleições municipais em 2024 e disputas presidenciais à frente. Deepfakes já circularam aqui; fabricantes de conteúdo falso ganham sofisticação a cada mês. Se a IA que gera mentiras não for regulada e a IA que as detecta não for confiável, a campanha política no Brasil vai ficar cada vez mais poluída. Enquanto isso, o dólar que sobe e desce no Banco Central também depende de confiança, quando os mercados desconfiam que a informação é manipulada, eles puxam para fora. A falta de regras globais sobre dados de IA não é tema de laboratório; é arena de disputa pelo poder político e pela estabilidade econômica.