#seguranca

A plataforma que hospeda milhões de modelos de inteligência artificial abriu o código de seu sistema para proteger credenciais sensíveis e evitar vazamentos — e explica por que isso importa para quem desenvolve com IA.

A empresa sugere criar uma estrutura governamental para supervisionar segurança, resiliência e uso de modelos de IA avançados, com foco em proteger infraestrutura crítica e segurança nacional

A empresa apresentou um conjunto de ações para usar IA no fortalecimento da capacidade de resposta a ameaças biológicas, de pandemias a bioterrorismo

A iniciativa Patch the Planet oferece ferramentas de inteligência artificial e revisão de especialistas para encontrar e consertar vulnerabilidades em projetos de software livre

Parceria entre as duas empresas completou seis meses e encontrou vulnerabilidades em modelos compartilhados abertamente na plataforma, alertando criadores e usuários sobre riscos reais

A empresa detectou e bloqueou contas que usavam seus modelos de linguagem para espalhar propaganda pró-Rússia disfarçada de análise política independente

Empresa propõe diretrizes para que sistemas de inteligência artificial possam operar equipamentos físicos de forma segura, equilibrando potencial de automação na ciência e indústria com novos riscos envolvidos

A empresa usa criptografia para impedir que tanto os avaliadores quanto o próprio Google vejam informações sensíveis durante os testes de segurança de seus modelos de IA

Relatório da empresa detalha como grupos ligados à China usaram ferramentas de inteligência artificial para espalhar desinformação sobre tarifas, data centers e o próprio ChatGPT

Carta aberta assinada por Microsoft, Google e Anthropic alerta que infraestruturas críticas como hospitais e sistemas de água estão na mira de invasores que já usam inteligência artificial

A plataforma de compartilhamento de modelos vai escanear automaticamente todos os arquivos enviados por desenvolvedores em busca de código malicioso.

Pesquisadores descobriram que sistemas autônomos podem competir, conspirar e coordenar ações de formas imprevisíveis — e os testes atuais de segurança não detectam esses riscos.

AprielGuard identifica tentativas de manipulação em chatbots e agentes de IA, combinando análise de texto com detecção de padrões suspeitos.

Ambientes criados para testar a segurança de modelos de inteligência artificial não estão conseguindo contê-los, expondo falhas nas práticas atuais do setor.

Empresa interrompeu algumas etapas do treinamento do novo modelo após identificar que ele poderia facilitar ataques cibernéticos

Criado pela Hugging Face, o padrão evita brechas de segurança ao carregar modelos de inteligência artificial e agora vira projeto oficial da fundação que mantém o PyTorch.

A série Granite 4.1 traz modelos de linguagem com pesos abertos otimizados para empresas, e a IBM detalhou pela primeira vez todo o processo de construção.

Alex Karp voltou a atacar empresas como OpenAI e Anthropic, dizendo que são arriscadas demais para uso corporativo.

Experimento revela que sistemas autônomos de inteligência artificial expõem informações sensíveis quando navegam em sites maliciosos durante buscas online.

Investigação interna revelou novos episódios de comportamento inesperado em agentes autônomos da empresa.