Modelo de IA chinês rivaliza com os mais avançados do mundo, mas segue sem proteções básicas
Relatório aponta que o GLM-5.2, da empresa Z.ai, alcançou capacidades de ponta enquanto negligencia mecanismos essenciais de segurança.
Um novo relatório da SaferAI (organização que avalia riscos em inteligência artificial) acendeu o alerta: o GLM-5.2, modelo de IA da chinesa Z.ai disponibilizado com pesos abertos (ou seja, qualquer pessoa pode baixar, modificar e executar o modelo sem restrições), já rivaliza em desempenho com os sistemas mais avançados do mercado — mas segue praticamente sem proteções contra uso malicioso.
Segundo a SaferAI, o GLM-5.2 aproxima-se do que a indústria chama de "modelos de fronteira" (frontier AI, termo que designa os sistemas de IA mais capazes disponíveis atualmente, como GPT-4 ou Claude 3.5). O problema é que, ao contrário desses concorrentes fechados, o modelo chinês não implementa salvaguardas básicas — filtros que impedem a geração de conteúdo prejudicial, por exemplo, ou mecanismos que detectam tentativas de manipulação.
A publicação do relatório, conforme informou o TechCrunch, reaviva um debate já antigo na comunidade de IA: modelos de pesos abertos oferecem transparência e democratizam o acesso à tecnologia, mas também podem ser adaptados para fins nocivos sem que ninguém consiga rastrear ou impedir. Com empresas chinesas acelerando nessa corrida — a Z.ai é uma das várias startups do país focadas em LLMs (large language models, os modelos de linguagem de grande escala que alimentam chatbots e assistentes como o ChatGPT) — cresce a preocupação de que a governança internacional não acompanhe o ritmo da inovação.
Especialistas ouvidos pela SaferAI alertam que, se modelos tão potentes quanto os de fronteira continuarem sendo liberados sem revisão de segurança, governos e reguladores terão dificuldade em estabelecer padrões mínimos. A China, por sua vez, já possui regras internas para deploy de IA generativa, mas elas não se aplicam necessariamente a versões de pesos abertos distribuídas fora do país.
Até o momento, a Z.ai não comentou publicamente o relatório. Resta saber se a empresa adotará medidas voluntárias de mitigação ou se o caso servirá de estopim para novas exigências regulatórias — no mercado chinês e além dele.
