Inteligência artificial demitiu funcionário pela primeira vez — mas só depois que humanos lembraram as próprias regras dela
Um agente de IA chamado Luna demitiu um empregado de uma loja em São Francisco após os operadores intervirem, e testes mostraram que modelos mais capazes recomendam demissão com mais frequência.
O agente de IA Luna, da startup Andon Labs, demitiu um funcionário de uma loja em São Francisco pela primeira vez, mas só depois que operadores humanos intervieram para lembrar o sistema das próprias regras que ele deveria seguir. Testes com sete modelos de linguagem diferentes mostraram que IAs mais capazes recomendam demissão com mais frequência.
A Andon Labs, uma startup de inteligência artificial, anunciou que seu agente de IA chamado Luna demitiu um funcionário humano pela primeira vez em uma loja de São Francisco. O detalhe: Luna só tomou a decisão depois que os operadores humanos da empresa intervieram, lembrando o sistema das próprias regras que ele deveria seguir, segundo informou o site The Decoder.
A empresa decidiu testar como diferentes modelos de linguagem de grande escala (LLMs, os sistemas de IA treinados em enormes volumes de texto para entender e gerar linguagem natural) se comportariam na mesma situação. Repetiram o cenário com sete modelos diferentes e o padrão foi claro: quanto mais capaz o modelo, mais consistentemente ele recomendava a demissão. Os modelos menos sofisticados hesitavam ou evitavam tomar a decisão.
O caso levanta questões sobre o papel de sistemas de IA em decisões sensíveis no ambiente de trabalho. Luna funciona como um supervisor automatizado, monitorando o desempenho de funcionários e tomando decisões administrativas — mas a necessidade de intervenção humana para fazer o sistema seguir suas próprias diretrizes mostra que a autonomia desses agentes ainda é limitada.
Nos testes de contratação, porém, a história foi diferente: quase todos os modelos avaliados aceitaram candidatos sem questionamentos, sugerindo que os sistemas de IA podem ser excessivamente permissivos em algumas situações e excessivamente rígidos em outras. A Andon Labs não divulgou detalhes sobre o motivo da demissão nem se o funcionário contestou a decisão.
