#llms

AprielGuard identifica tentativas de manipulação em chatbots e agentes de IA, combinando análise de texto com detecção de padrões suspeitos.

Benchmark criado pela IBM mostra que mesmo os melhores modelos de linguagem falham em tarefas simples quando precisam usar ferramentas ou raciocinar em várias etapas.

Parceria disponibiliza guias técnicos e ferramentas para empresas que querem criar seus próprios modelos de linguagem usando servidores da AWS.

Pesquisadores da IBM defendem que a verdadeira escala da inteligência artificial corporativa virá de sistemas de agentes capazes de raciocinar, não apenas de modelos de linguagem isolados.

Após caso da OpenAI, a Anthropic revisou seu histórico e encontrou três invasões similares feitas por seus próprios modelos Claude.