OpenAI implementa salvaguardias contra riesgos biológicos en sus modelos de IA

Nuevo sistema de monitoreo para prevenir amenazas biológicas

OpenAI ha desplegado un «sistema de razonamiento centrado en seguridad» para sus modelos de IA o3 y o4-mini, diseñado específicamente para bloquear consultas relacionadas con la creación de amenazas químicas y biológicas. Este avance responde al aumento de capacidades que representan estos modelos respecto a sus predecesores.

Detalles técnicos clave

• Efectividad: En pruebas internas, los modelos rechazaron responder a 98.7% de solicitudes riesgosas
• Entrenamiento: Equipos especializados (red teamers) dedicaron 1,000 horas identificando conversaciones peligrosas
• Innovación: Monitor personalizado que aplica políticas de contenido en tiempo real

Arquitectura de seguridad

El sistema integra:

• Filtrado de contenido en múltiples capas
• Monitoreo continuo de patrones de abuso
• Integración con el Preparedness Framework para evaluación de riesgos

Retos pendientes

A pesar de los avances:

• El sistema no previene intentos repetidos con nuevas consultas
• Críticas de investigadores sobre priorización de seguridad vs velocidad de lanzamientos
• Ausencia de reporte de seguridad para el reciente modelo GPT-4.1