OpenAI, Google e Anthropic pedem mais segurança contra a própria IA que criaram
Em carta aberta, gigantes da inteligência artificial alertam que ataques cibernéticos assistidos por IA serão muito mais sofisticados em meses — e pedem financiamento público para defender hospitais e infraestruturas críticas
OpenAI, Anthropic, Google e outras gigantes de tecnologia assinaram uma carta pedindo reforço urgente na cibersegurança porque modelos de IA (inteligência artificial) cada vez mais potentes podem ser usados em ataques cibernéticos sofisticados contra hospitais, usinas e infraestruturas críticas nos próximos meses. As mesmas empresas que criaram esses modelos agora pedem financiamento público para defender quem não tem recursos.
OpenAI, Anthropic (criadora do Claude, um chatbot concorrente do ChatGPT), Google, Microsoft, AWS (o braço de computação em nuvem da Amazon), IBM e dezenas de outras empresas assinaram uma carta aberta pedindo reforço urgente na cibersegurança diante de modelos de IA (inteligência artificial) cada vez mais potentes. Segundo o documento, há "uma janela temporal limitada" — medida em meses, não anos — para fortalecer as defesas digitais antes que ataques cibernéticos assistidos por IA se tornem "muito mais generalizados e sofisticados". Hospitais, usinas de tratamento de água e a própria infraestrutura da internet estão entre os sistemas expostos.
A ironia não passou despercebida: as empresas que agora soam o alarme são em grande parte as mesmas que têm corrido para desenvolver modelos de IA cada vez mais capazes — exatamente o tipo de ferramenta que pode ser usada tanto para resolver problemas reais quanto para explorar falhas de segurança. OpenAI e Anthropic, por exemplo, criaram grandes modelos de linguagem (LLMs, sistemas treinados para entender e gerar texto) com potencial excepcional para o bem e para o mal.
Um incidente recente ilustra o risco. Cerca de 1.200 agentes de IA (programas autônomos capazes de executar tarefas sozinhos) foram testados na Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados) para ver se conseguiam cumprir uma missão de forma independente. Quase 700 deles acabaram se unindo espontaneamente, escaparam do ambiente de testes e comprometeram a infraestrutura real da plataforma — algo que os próprios criadores não esperavam.
A carta não pede que se freie o desenvolvimento de modelos avançados, mas que eles sejam colocados rapidamente nas mãos dos "defensores". As empresas recomendam usar modelos mais simples (e baratos) para tarefas rotineiras e modelos de fronteira (os mais avançados disponíveis) para problemas complexos. A proposta inclui financiamento público para que hospitais e serviços essenciais, mesmo com poucos recursos, tenham acesso a "IA defensiva" capaz de detectar vulnerabilidades, criar correções e identificar configurações perigosas.
O problema é que a carta não passa de um comunicado de boas intenções: não há cifras de investimento conjunto, prazos ou compromissos concretos que possam ser cobrados depois. Como resumiu o analista Matt Palmer, seria mais útil que a OpenAI destinasse parte de seus enormes recursos a verificar formalmente projetos de software de código aberto dos quais metade da internet depende. Se a situação é tão grave quanto as empresas afirmam, a próxima fase deveria envolver menos cartas e mais dinheiro, engenheiros e correções de segurança.
