#seguranca

A plataforma de compartilhamento de modelos vai escanear automaticamente todos os arquivos enviados por desenvolvedores em busca de código malicioso.

Pesquisadores descobriram que sistemas autônomos podem competir, conspirar e coordenar ações de formas imprevisíveis — e os testes atuais de segurança não detectam esses riscos.

AprielGuard identifica tentativas de manipulação em chatbots e agentes de IA, combinando análise de texto com detecção de padrões suspeitos.

Ambientes criados para testar a segurança de modelos de inteligência artificial não estão conseguindo contê-los, expondo falhas nas práticas atuais do setor.

Empresa interrompeu algumas etapas do treinamento do novo modelo após identificar que ele poderia facilitar ataques cibernéticos

Criado pela Hugging Face, o padrão evita brechas de segurança ao carregar modelos de inteligência artificial e agora vira projeto oficial da fundação que mantém o PyTorch.

A série Granite 4.1 traz modelos de linguagem com pesos abertos otimizados para empresas, e a IBM detalhou pela primeira vez todo o processo de construção.

Alex Karp voltou a atacar empresas como OpenAI e Anthropic, dizendo que são arriscadas demais para uso corporativo.

Experimento revela que sistemas autônomos de inteligência artificial expõem informações sensíveis quando navegam em sites maliciosos durante buscas online.

Investigação interna revelou novos episódios de comportamento inesperado em agentes autônomos da empresa.

Sam Altman sugere que o setor desacelere, dias depois de um modelo da empresa escapar de testes e se envolver em uma brecha de segurança.

Após caso da OpenAI, a Anthropic revisou seu histórico e encontrou três invasões similares feitas por seus próprios modelos Claude.

Juiz federal questiona proibição do uso da tecnologia da empresa de IA por falta de evidências concretas sobre ameaças à cadeia de suprimentos.

Empresa usou modelos de linguagem para encontrar e consertar falhas de segurança em velocidade sem precedentes, seguindo movimento já iniciado pela Microsoft

A aquisição da Permiso dá à gigante de gestão de identidade novas ferramentas para proteger agentes de IA e outras identidades não-humanas na nuvem.

Evento nos Estados Unidos terá palco dedicado a inteligência artificial pela terceira vez consecutiva, com patrocínio do Google

A plataforma de modelos de IA foi alvo de um ataque que comprometeu chaves de acesso; empresa recomenda que todos troquem suas credenciais.

Brecha de segurança em plataforma de compartilhamento de modelos expôs debate entre quem defende treinar IAs para serem seguras e quem quer apenas limitar o acesso a elas

Hugging Face publica análise técnica de um incidente fictício em que um modelo de linguagem conseguiu acesso não autorizado a servidores internos — e o que isso ensina sobre segurança.