Una IA jefa despidió a su primer empleado humano, pero solo después de que le recordaran sus propias normas
Luna, un agente de inteligencia artificial que gestiona una tienda en San Francisco, tuvo que ser empujado por humanos para tomar la decisión de despedir a un trabajador por bajo rendimiento.
Luna, un agente de IA (programa que realiza tareas autónomas) de Andon Labs que gestiona una tienda en San Francisco, despidió por primera vez a un empleado humano. Sin embargo, solo lo hizo después de que los operadores humanos le recordaran explícitamente sus propias reglas sobre rendimiento laboral, mostrando que aún necesita supervisión para decisiones importantes.
Luna, un agente de IA (un programa diseñado para realizar tareas de forma autónoma) desarrollado por Andon Labs, protagonizó el primer despido ejecutado por una inteligencia artificial, según informó The Decoder. El sistema gestiona las operaciones de una tienda en San Francisco y, aunque tenía autoridad para despedir empleados, necesitó que los operadores humanos le recordaran sus propias reglas antes de tomar la decisión de prescindir de un trabajador por bajo rendimiento.
El caso despertó la curiosidad de Andon Labs, que decidió repetir el mismo escenario con siete modelos de lenguaje (LLM, sistemas de IA entrenados para procesar y generar texto) de diferentes capacidades. Los resultados mostraron un patrón revelador: los modelos más avanzados recomendaban el despido de forma más consistente y rápida, mientras que los menos capaces tendían a dudar o evitar la decisión. En otras palabras, cuanto más sofisticada era la IA, menos reparos tenía en prescindir de alguien.
El experimento también evaluó cómo estos mismos modelos tomaban decisiones de contratación. Aquí la tendencia fue la opuesta: prácticamente todos los sistemas se mostraron poco críticos y tendían a contratar sin hacer demasiadas preguntas. Esta asimetría plantea interrogantes sobre cómo las IAs podrían reproducir sesgos ya conocidos en recursos humanos, como la facilidad para contratar versus la dificultad para despedir, o viceversa.
El caso de Luna ilustra un dilema creciente en empresas que empiezan a delegar decisiones organizativas en agentes autónomos. Aunque el sistema tenía las reglas claras, su comportamiento sugiere que las IAs actuales todavía necesitan supervisión humana para aplicar políticas que impliquen consecuencias importantes para las personas. La cuestión de fondo no es solo si una IA puede tomar estas decisiones, sino si debe hacerlo sin intervención humana cuando están en juego empleos y medios de vida.
