Nvidia lanza modelos de IA para filtrar contenido peligroso en aplicaciones empresariales
La compañía publica tres modelos gratuitos que detectan contenido violento, sexual o engañoso en texto e imágenes, diseñados para adaptarse a las normas de cada empresa o región.
Nvidia ha lanzado Nemotron 3.5 Content Safety, una familia de tres modelos de inteligencia artificial (redes neuronales entrenadas para realizar una tarea específica) pensados para que empresas y desarrolladores puedan filtrar contenido potencialmente peligroso en sus aplicaciones. Los modelos, publicados en Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados), son gratuitos y de pesos abiertos (es decir, cualquiera puede descargarlos, modificarlos y ejecutarlos en sus propios servidores sin depender de servicios en la nube).
Los tres modelos se especializan en distintas tareas: Nemotron-3-Safety-Text-5B analiza conversaciones de texto, Nemotron-3-Safety-Image-1B procesa imágenes, y Nemotron-3-Multimodal-Safety-8B combina ambas capacidades. Según Nvidia, pueden identificar nueve categorías de riesgos —incluyendo violencia, contenido sexual, información engañosa y lenguaje tóxico— tanto en el texto que introduce el usuario como en las respuestas que genera un chatbot o asistente virtual.
A diferencia de los filtros de seguridad integrados en modelos comerciales como ChatGPT o Claude, estos modelos están diseñados para que cada empresa los adapte a sus propias políticas. Por ejemplo, una plataforma educativa podría configurarlos para bloquear lenguaje violento, mientras que un servicio de noticias en España permitiría términos políticos que otro sistema censurarían. La personalización se logra ajustando un componente llamado adapter (un módulo pequeño que modifica el comportamiento del modelo sin necesidad de reentrenarlo desde cero), lo que reduce los costes y el tiempo de implementación.
Los modelos han sido entrenados con más de 3 millones de ejemplos etiquetados en 50 idiomas, incluyendo español, catalán y gallego, y están optimizados para ejecutarse en GPUs Nvidia (chips especializados en tareas de inteligencia artificial). La compañía afirma que Nemotron 3.5 alcanza un rendimiento comparable al de sistemas de pago como OpenAI Moderation API o Azure Content Safety, pero con la ventaja de poder funcionar sin conexión a internet y sin enviar datos sensibles a terceros, algo crítico para sectores como banca o sanidad.
El lanzamiento forma parte de la estrategia de Nvidia de posicionarse no solo como fabricante de hardware, sino también como proveedor de infraestructura de software para IA empresarial. Los modelos están disponibles bajo licencia Nvidia Open Model License, que permite uso comercial con algunas restricciones sobre redistribución. Nvidia recomienda combinarlos con sus herramientas NeMo Guardrails (un framework, o conjunto de herramientas de software, para definir reglas de seguridad en sistemas conversacionales) para integrarlos en productos finales.
