Nvidia lança modelo de IA para filtrar conteúdo impróprio em vários idiomas e formatos

A Nvidia lançou o Nemotron 3.5 Content Safety, um modelo de inteligência artificial feito para identificar e filtrar conteúdo problemático em aplicações corporativas. A ferramenta funciona tanto com texto quanto com imagem ao mesmo tempo (o que se chama de modelo multimodal) e consegue detectar categorias como discurso de ódio, violência, conteúdo sexual ou informações enganosas. O diferencial está na capacidade de personalização: empresas podem ajustar o modelo para seguir regras específicas de cada país ou política interna, sem precisar treinar um sistema do zero.

O modelo está disponível na Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados) e foi construído a partir da arquitetura Llama 3 (uma família de modelos de linguagem criada pela Meta). A Nvidia ajustou a versão original para incluir suporte multimodal e detecção de conteúdo sensível em mais de cem idiomas, incluindo português. A empresa também oferece uma versão customizável chamada Nemotron Steerlm, que permite às empresas criar suas próprias categorias de moderação.

Segundo informou a Nvidia no blog da Hugging Face, o modelo foi treinado com dados sintéticos gerados por outros modelos de IA, para cobrir uma variedade maior de cenários e idiomas sem depender só de exemplos reais. Essa abordagem ajuda a ampliar a cobertura em línguas menos representadas nos conjuntos de dados tradicionais. A ferramenta classifica o conteúdo em níveis de risco e pode ser integrada diretamente em aplicações que usam LLMs (sigla em inglês para large language models, ou modelos de linguagem de grande escala, como o ChatGPT).

A Nvidia destaca que o Nemotron 3.5 Content Safety foi projetado para ambientes corporativos que precisam de controle fino sobre o que seus sistemas de IA podem gerar ou exibir. A empresa vê uso em setores como atendimento ao cliente, educação e plataformas de conteúdo gerado por usuários. O modelo roda em GPUs Nvidia (chips gráficos feitos originalmente para jogos, mas que se tornaram essenciais para processar IA) e está disponível sob licença aberta para uso comercial.