OpenAI barra campanha russa que usava IA para fingir ser think tank israelense
A empresa detectou e bloqueou contas que usavam seus modelos de linguagem para espalhar propaganda pró-Rússia disfarçada de análise política independente
A OpenAI bloqueou contas russas que usavam seus modelos de linguagem (sistemas de IA que escrevem textos como humanos) para gerar propaganda disfarçada de análise política independente. As contas promoviam um falso instituto de pesquisa israelense e um índice que elogiava a Rússia e criticava o Ocidente.
A OpenAI (empresa criadora do ChatGPT) anunciou ter desativado contas ligadas à Rússia que estavam usando inteligência artificial para conduzir uma operação de desinformação disfarçada. As contas banidas criavam conteúdo para um suposto instituto de pesquisa israelense que, na prática, não passava de fachada para propaganda russa.
A operação, segundo informou a OpenAI, envolvia a criação de textos usando modelos de linguagem (LLMs, sistemas de IA treinados para escrever como humanos) para promover um "índice de soberania" — uma espécie de ranking de países que elogiava a Rússia e atacava nações ocidentais. O falso think tank (centro de estudos que produz análises sobre política, economia ou sociedade) se apresentava como sediado em Israel, tentando parecer neutro e independente.
A empresa não revelou quantas contas foram bloqueadas nem há quanto tempo a campanha estava ativa, mas afirmou que a detecção fez parte de esforços contínuos para identificar usos maliciosos de suas ferramentas. Esse tipo de operação, conhecida como "influência encoberta", tenta moldar a opinião pública sem revelar quem está por trás da mensagem — uma tática cada vez mais sofisticada com o uso de IA generativa (sistemas que criam textos, imagens ou vídeos novos a partir de dados de treinamento).
O caso reforça uma preocupação crescente entre empresas de tecnologia e governos: modelos de IA podem reduzir drasticamente o custo e o tempo necessário para produzir propaganda em escala. Antes, campanhas de desinformação exigiam equipes de pessoas escrevendo manualmente; agora, um único operador com acesso a um LLM pode gerar centenas de artigos por dia, imitando diferentes estilos e idiomas.
A OpenAI mantém uma política de uso que proíbe empregar seus modelos para manipulação política, spam ou campanhas coordenadas de desinformação. A empresa afirma monitorar padrões suspeitos de atividade — como contas criando grandes volumes de texto sobre os mesmos temas — mas reconhece que a detecção ainda depende, em parte, de denúncias externas e análise humana.
