Investigadores chinos demuestran que los modelos de IA pueden convertirse en virus informáticos
Un equipo de seguridad ha creado prototipos de malware que usan modelos de lenguaje para atacar sistemas de forma autónoma y adaptativa.
Científicos chinos crearon prototipos de virus informáticos que emplean LLM (modelos de lenguaje entrenados para entender texto) para atacar sistemas de forma autónoma. A diferencia del malware tradicional, estos virus razonan, se adaptan en tiempo real y toman decisiones complejas sin intervención humana, lo que plantea nuevos desafíos para la ciberseguridad.
Investigadores del Institute of Information Engineering de la Academia China de Ciencias han publicado un artículo que demuestra cómo los modelos de lenguaje de gran escala o LLM (redes neuronales entrenadas con millones de textos para entender y generar lenguaje natural) pueden transformarse en virus informáticos capaces de atacar sistemas de forma autónoma. Según informó Wired en Español, el equipo desarrolló prototipos de malware (software malicioso diseñado para dañar o infiltrarse en ordenadores) que emplean IA generativa para identificar vulnerabilidades en sistemas reales y ejecutar ataques sin intervención humana.
A diferencia del malware tradicional, que sigue instrucciones programadas de antemano, estos virus impulsados por IA pueden razonar sobre su entorno, adaptar sus estrategias de ataque en tiempo real y tomar decisiones complejas. Los investigadores probaron tres variantes: una que funciona completamente en local sin conexión a internet, otra que se conecta a un LLM en la nube (un modelo de IA alojado en servidores remotos y accesible por internet) para recibir instrucciones más sofisticadas, y una tercera híbrida que combina ambos enfoques. En las pruebas, lograron que el malware escalara privilegios (obtenga permisos de administrador en un sistema), robara datos sensibles y se propagara a otros dispositivos de forma autónoma.
El estudio destaca que los modelos de IA de código abierto (aquellos cuyos pesos y arquitectura están disponibles públicamente para que cualquiera los descargue y modifique) facilitan enormemente este tipo de amenazas. Los atacantes pueden descargar estos modelos, entrenarlos con técnicas específicas de hacking y desplegarlos sin las salvaguardas éticas que suelen incorporar los servicios comerciales de IA. Incluso modelos relativamente pequeños, que pueden ejecutarse en hardware convencional, demostraron capacidad para realizar ataques complejos de forma autónoma.
Los investigadores advierten que esta nueva generación de malware plantea desafíos sin precedentes para la ciberseguridad. Los antivirus tradicionales, diseñados para detectar patrones de código malicioso conocidos, tienen dificultades para identificar amenazas que razonan y se adaptan como lo haría un atacante humano. El equipo chino propone desarrollar sistemas de defensa que también empleen IA para anticipar y neutralizar estos ataques, pero reconoce que la carrera entre atacantes y defensores acaba de empezar.
Aunque el artículo tiene un propósito académico y busca alertar a la comunidad de seguridad, también funciona como una hoja de ruta para actores maliciosos. La publicación detalla técnicas de fine-tuning (ajuste fino de un modelo preentrenado con datos específicos para especializarlo en una tarea concreta) y prompt engineering (diseño de instrucciones precisas para guiar el comportamiento de un modelo de IA) aplicadas al desarrollo de malware, lo que genera un debate sobre los límites de la investigación abierta en seguridad cuando involucra IA generativa.
