OpenAI desactiva cuentas rusas que usaban IA para difundir propaganda pro-Kremlin
La compañía detectó y bloqueó una red de cuentas que utilizaba sus modelos de lenguaje para crear contenido de un falso think tank israelí y promocionar un índice que elogiaba a Rusia mientras criticaba a Occidente.
OpenAI bloqueó cuentas rusas que utilizaban sus modelos de lenguaje (sistemas de IA que generan texto) para difundir propaganda política haciéndose pasar por un think tank israelí inexistente y promocionando un índice que elogiaba a Rusia y criticaba a Occidente, según anunció la compañía.
OpenAI ha anunciado que ha bloqueado varias cuentas originadas en Rusia que estaban utilizando sus modelos de inteligencia artificial para generar contenido en una campaña encubierta de influencia política. Según informó la compañía en su blog oficial, las cuentas empleaban herramientas como ChatGPT para producir textos que se hacían pasar por análisis de un supuesto think tank (centro de estudios y análisis político) israelí que en realidad no existía.
La campaña tenía dos ejes principales. Por un lado, difundía contenido atribuido a esta organización ficticia con sede en Israel, lo que pretendía dar credibilidad internacional a las narrativas. Por otro, promocionaba un «índice de soberanía» que clasificaba a países según criterios diseñados para presentar a Rusia de forma favorable y criticar a naciones occidentales, especialmente Estados Unidos y sus aliados europeos.
OpenAI detectó la operación como parte de su monitoreo continuo de usos indebidos de sus sistemas. La compañía no ha revelado cuántas cuentas fueron bloqueadas exactamente ni durante cuánto tiempo estuvieron activas, pero ha confirmado que todas tenían origen en Rusia y que el contenido generado se difundía en múltiples idiomas, lo que sugiere una operación coordinada y de alcance internacional.
Este caso se suma a una lista creciente de campañas de desinformación que aprovechan los LLM (modelos de lenguaje de gran tamaño, sistemas de IA capaces de generar texto coherente y convincente) para producir propaganda a escala. A diferencia de las campañas tradicionales, que requerían equipos humanos escribiendo contenido manualmente, estos modelos permiten automatizar la creación de artículos, informes y publicaciones en redes sociales con mínimo esfuerzo.
OpenAI lleva meses reforzando sus políticas contra el uso de sus herramientas para manipulación política. La compañía actualiza periódicamente sus sistemas de detección y colabora con investigadores de seguridad para identificar patrones de abuso. Sin embargo, el episodio pone de relieve la dificultad de controlar cómo se usan tecnologías que, por diseño, están disponibles públicamente y pueden generar texto indistinguible del escrito por humanos.
