Anthropic quer criar padrão para IA controlando máquinas no mundo real
Empresa propõe diretrizes para que sistemas de inteligência artificial possam operar equipamentos físicos de forma segura, equilibrando potencial de automação na ciência e indústria com novos riscos envolvidos
A Anthropic propôs diretrizes para padronizar como sistemas de inteligência artificial podem controlar equipamentos físicos — como robôs industriais ou máquinas de laboratório — de forma segura. A empresa argumenta que a IA pode acelerar pesquisa e fabricação, mas alertou que erros em sistemas autônomos com acesso ao mundo real criam riscos concretos que exigem regras claras.
A Anthropic (empresa criadora do Claude, um modelo de linguagem que compete com o ChatGPT) está propondo um conjunto de diretrizes para padronizar como sistemas de inteligência artificial devem interagir com equipamentos físicos — de braços robóticos em laboratórios a linhas de montagem industrial. Segundo informou a Wired en Español, a iniciativa busca criar regras claras antes que a tecnologia se espalhe sem controle.
A empresa argumenta que permitir que IA controle máquinas no mundo real pode acelerar enormemente a pesquisa científica e a fabricação. Modelos de linguagem avançados (LLMs, sigla em inglês para sistemas treinados para entender e gerar texto, como o ChatGPT ou Claude) já conseguem interpretar instruções complexas e até sugerir experimentos — mas para executá-los de verdade, precisariam acionar equipamentos diretamente. Isso poderia automatizar tarefas repetitivas em laboratórios ou otimizar processos industriais sem intervenção humana constante.
O problema é que dar autonomia física a sistemas de IA cria uma camada extra de risco. Um erro de interpretação num modelo que apenas responde perguntas é uma coisa; o mesmo erro num sistema controlando uma máquina industrial ou manuseando substâncias químicas pode causar danos reais — a pessoas, infraestrutura ou ao ambiente. A Anthropic não detalhou ainda o conteúdo exato do padrão proposto, mas deixa claro que qualquer regra precisa equilibrar inovação com segurança.
A proposta da empresa acontece num momento em que várias companhias de tecnologia já testam agentes de IA (sistemas que não apenas respondem perguntas, mas tomam ações para cumprir objetivos) integrados a ferramentas digitais. Levar essa capacidade para o mundo físico é o próximo passo lógico — e também o mais arriscado. Se um padrão for adotado amplamente pela indústria, pode definir por anos como fábricas, laboratórios e até cidades inteligentes vão usar IA de forma prática e segura.
