ServiceNow crea un sistema que genera automáticamente tareas para entrenar agentes de IA empresariales
El equipo de investigación de ServiceNow presenta AutoSynthData, una herramienta que identifica los fallos de un modelo de inteligencia artificial y genera miles de ejercicios de entrenamiento adaptados a sus puntos débiles específicos dentro del entorno de trabajo de cada empresa.
ServiceNow CoreAI ha desarrollado AutoSynthData, un sistema que identifica automáticamente en qué falla un modelo de IA dentro del entorno de una empresa (qué flujos de trabajo gestiona mal, qué herramientas usa incorrectamente) y genera miles de tareas de entrenamiento nuevas y validadas que ejercitan precisamente esas capacidades débiles, adaptando el plan de estudios a medida que el modelo mejora.
Las empresas necesitan agentes de IA (programas que ejecutan tareas de forma autónoma) que funcionen bien en sus propios sistemas, con sus flujos de trabajo particulares, sus reglas internas y el estado concreto de sus bases de datos. Un modelo puede ser muy capaz en general y aun así tropezar con el entorno específico de una organización: un proceso que gestiona mal, una combinación de herramientas que usa incorrectamente o una restricción que no respeta. Esas debilidades son precisamente las que la empresa necesita corregir, pero convertirlas en datos de entrenamiento es complicado.
Según informó el equipo de investigación CoreAI de ServiceNow en su blog oficial, han desarrollado AutoSynthData para resolver ese problema. El sistema observa dónde falla el modelo que quieren mejorar (el modelo objetivo) y dónde tiene éxito un modelo más potente (el modelo profesor), y usa esa información para decidir qué debe aprender el modelo más débil a continuación. Luego genera y valida automáticamente miles de tareas nuevas que ejercitan esas capacidades concretas. A medida que el modelo mejora, el plan de estudios se adapta y se centra en lo que todavía le resulta difícil.
El proceso tiene dos fases principales. En la primera, llamada Target, el sistema crea el conjunto central de muestras de entrenamiento a partir de las especificaciones de capacidad identificadas (las cosas concretas que el modelo no sabe hacer bien). Trabajadores paralelos generan tareas independientes, y cada candidata pasa por validación, ejecución en el entorno real, evaluación con el modelo profesor y reparación si es necesario antes de ser aceptada. En la segunda fase, llamada Multiply, el sistema expande ese conjunto creando variantes nuevas de cada muestra aceptada: misma capacidad subyacente, pero con solicitudes de usuario diferentes, estados iniciales distintos, otras entidades y trayectorias de solución alternativas. Cada variante debe pasar las mismas comprobaciones que las muestras originales.
Para que una tarea generada sea útil para entrenar, debe cumplir tres propiedades clave. Primero, factibilidad: tiene que existir al menos una forma de completarla en el entorno actual, con las herramientas disponibles y sin violar las políticas de la empresa. Segundo, realismo: la solicitud debe parecerse a algo que un usuario real pediría, no a un ejercicio artificial. Tercero, dificultad: para el entrenamiento, la tarea debe exponer una debilidad del modelo actual, porque las tareas que ya resuelve de forma fiable aportan poca señal de aprendizaje nueva.
El sistema también genera automáticamente un verificador (un programa que comprueba si el agente completó correctamente la tarea) para cada ejercicio de entrenamiento. Este verificador debe ser consistente con la solicitud del usuario y las restricciones del sistema, suficientemente estricto como para rechazar soluciones incorrectas, pero no tan rígido que sólo acepte una trayectoria concreta y penalice otras soluciones válidas. ServiceNow ilustró el funcionamiento de AutoSynthData usando EnterpriseOps Gym, un entorno de simulación empresarial que publicaron recientemente para investigación en agentes de IA.
