OpenAI apoia criação de padrões globais para segurança em IA avançada
A empresa anuncia apoio à Fundação Appia, uma iniciativa para criar regras comuns de avaliação e segurança para modelos de inteligência artificial de ponta
A OpenAI anunciou apoio à Fundação Appia, uma organização internacional criada para estabelecer padrões compartilhados de avaliação e segurança em IA avançada. A iniciativa busca criar frameworks (estruturas padronizadas de medição) que permitam comparar capacidades e riscos de modelos de forma consistente entre empresas e países.
A OpenAI anunciou que está apoiando a criação de padrões compartilhados para o desenvolvimento seguro de inteligência artificial avançada, segundo informou a empresa em comunicado oficial. A iniciativa se dá por meio da Fundação Appia (Appia Foundation, uma organização internacional criada para estabelecer critérios comuns de avaliação e práticas de segurança para modelos de IA de última geração).
A proposta é criar frameworks de avaliação (estruturas padronizadas que permitem medir capacidades e riscos de modelos de IA de forma consistente entre diferentes empresas e países) que possam ser adotados globalmente. Isso permitiria comparar de forma mais objetiva o desempenho e os riscos associados a diferentes modelos avançados, facilitando tanto a cooperação entre desenvolvedores quanto a criação de regulamentações mais precisas.
Para quem acompanha o setor, a movimentação faz sentido: à medida que modelos de IA se tornam mais poderosos — capazes de gerar código, sintetizar informações médicas ou auxiliar em pesquisa científica —, cresce a pressão sobre empresas e governos para estabelecer regras claras sobre como avaliar suas capacidades e limitar riscos potenciais. Hoje, cada empresa usa seus próprios métodos de teste, o que dificulta comparações e supervisão externa.
A Fundação Appia pretende reunir laboratórios de IA, governos e instituições acadêmicas para construir esses padrões de forma colaborativa. A OpenAI não detalhou o tamanho de sua contribuição nem o cronograma de implementação, mas a participação da empresa — uma das líderes globais em IA generativa (sistemas capazes de criar textos, imagens e outros conteúdos a partir de comandos simples) — sinaliza interesse em algum nível de coordenação internacional, mesmo num setor historicamente competitivo e pouco transparente.
