OpenAI implementa salvaguardias contra riesgos biológicos en sus modelos de IA

Nuevo sistema de monitoreo para prevenir amenazas biológicas

OpenAI ha desplegado un «sistema de razonamiento centrado en seguridad» para sus modelos de IA o3 y o4-mini, diseñado específicamente para bloquear consultas relacionadas con la creación de amenazas químicas y biológicas. Este avance responde al aumento de capacidades que representan estos modelos respecto a sus predecesores.

Interfaz de OpenAI mostrando mensaje de seguridad

Detalles técnicos clave

  • Efectividad: En pruebas internas, los modelos rechazaron responder a 98.7% de solicitudes riesgosas
  • Entrenamiento: Equipos especializados (red teamers) dedicaron 1,000 horas identificando conversaciones peligrosas
  • Innovación: Monitor personalizado que aplica políticas de contenido en tiempo real

Arquitectura de seguridad

Diagrama de flujo de seguridad de OpenAI

El sistema integra:

  • Filtrado de contenido en múltiples capas
  • Monitoreo continuo de patrones de abuso
  • Integración con el Preparedness Framework para evaluación de riesgos

Retos pendientes

A pesar de los avances:

  • El sistema no previene intentos repetidos con nuevas consultas
  • Críticas de investigadores sobre priorización de seguridad vs velocidad de lanzamientos
  • Ausencia de reporte de seguridad para el reciente modelo GPT-4.1

Comparte este artículo

Otras notas de tu interés:

Tecnologia

Tren sudafricano de 7,6 km desafía el récord mundial ferroviario

Tecnologia

GTA VI en PC: posible llegada en 2027 y alerta por malware

Tecnologia

MediaMarkt adelanta ofertas del Black Friday con descuento en eReaders Kobo

Tecnologia

Nvidia crea comité de seguridad tras salida de Huang

Tecnologia

Maquinistas en España mantienen paros por seguridad ferroviaria

Tecnologia

Imec instala en Málaga su laboratorio de chips para IA y sensores

Tecnologia

Estudio revela maltrato en gatos momificados del Antiguo Egipto

Tecnologia

Dos opciones para jugar a GTA VI sin ocupar la televisión

Tecnologia

Jensen Huang renuncia a Nvidia tras investigación de la junta

Tecnologia

Bezos defiende la riqueza ante la crisis de vivienda en EE.UU.