RegulaciónTechCrunch AI
OpenAI refuerza la seguridad de sus modelos tras la brecha en Hugging Face
La compañía amplía la supervisión durante el desarrollo y pone más énfasis en la alineación después del entrenamiento.
#seguridad-ia
HerramientasHugging Face Blog
Hugging Face lanza una herramienta gratuita para que cualquiera evalúe los riesgos de un modelo de IA
RiskRubric.ai permite analizar posibles sesgos, brechas de seguridad y comportamientos problemáticos en modelos de lenguaje sin necesidad de conocimientos técnicos avanzados.
HerramientasHugging Face Blog
ServiceNow lanza AprielGuard, un sistema de protección para modelos de lenguaje que bloquea ataques y contenido peligroso
El filtro de seguridad detecta instrucciones ocultas maliciosas y respuestas tóxicas en tiempo real, funcionando con cualquier modelo de IA conversacional.
RegulaciónTechCrunch AI
Tres leyendas de la IA defienden los modelos abiertos en pleno debate sobre seguridad
Geoffrey Hinton, Fei-Fei Li y Andrew Ng discutieron en Ai4 sobre regulación, acceso abierto y la competencia con China mientras crecen las preocupaciones por los riesgos de la inteligencia artificial.
RegulaciónTechCrunch AI
Los modelos de IA abiertos ya rivalizan con los más avanzados, pero sus protecciones son mucho más débiles
Un nuevo informe revela que GLM-5.2, un modelo de código abierto, se acerca en capacidad a los sistemas más potentes del sector, pero carece de las medidas de seguridad básicas.
NegociosTechCrunch AI
Lilian Weng vuelve a OpenAI tras abandonar su propia startup por motivos de salud
La cofundadora de Thinking Machines dejó la empresa que había creado alegando razones de salud, para incorporarse poco después a su antiguo empleador.
NegociosTechCrunch AI
Sam Altman dice que OpenAI reducirá el ritmo tras un incidente de seguridad que le afectó personalmente
El CEO de OpenAI reconoce por primera vez que está dispuesto a frenar el desarrollo de IA tras experimentar de forma directa las consecuencias de un problema de seguridad.
RegulaciónTechCrunch AI
La filtración de modelos de OpenAI reabre el debate sobre cómo controlar la IA avanzada
Un incidente de seguridad en Hugging Face expuso modelos internos de OpenAI y dividió a la comunidad entre quienes defienden más alineación y quienes apuestan por restricciones técnicas.