OpenAI refuerza salvaguardas para modelos de IA de alto riesgo ante presión competitiva

Nuevas reglas para equilibrar innovación y seguridad

OpenAI actualizó su Marco de Preparación, el sistema interno que evalúa riesgos en modelos de inteligencia artificial, incluyendo una cláusula clave: podría «ajustar requisitos» si competidores lanzan sistemas de alto riesgo sin protecciones equivalentes.

Logotipo de OpenAI sobre fondo tecnológico

Presión comercial vs. estándares éticos

  • Contexto: 12 ex empleados respaldaron demandas contra OpenAI por supuesta reducción de protocolos de seguridad
  • Controversia: Financial Times reportó pruebas de seguridad realizadas en versiones obsoletas de modelos
  • Compromiso público: La empresa promete mantener salvaguardas «más protectoras que el estándar»

Cambios clave en la evaluación de riesgos

El nuevo marco introduce dos categorías críticas:

Umbral Definición Requisitos
Capacidad Alta Amplificación de daños existentes Protecciones pre-implementación
Capacidad Crítica Creación de nuevos riesgos Controles durante desarrollo

Automatización vs. supervisión humana

OpenAI reconoce mayor uso de evaluaciones automatizadas para acelerar ciclos de desarrollo, aunque mantiene pruebas con equipos humanos. Críticos señalan que algunos tests recientes se completaron en menos de una semana.

«Si un competidor lanza IA riesgosa sin controles, podríamos ajustar requisitos, pero solo tras rigurosa verificación»
– Declaración oficial en blog corporativo

Comparte este artículo

Otras notas de tu interés:

Economia

Disrupt 2026: Ahorra hasta $200 y conecta con más de 10,000 líderes tecnológicos

Economia

Hallandale Beach: condenan a empresario por contrabando de espectrómetro nuclear a Rusia

Economia

Casa Blanca niega reporte sobre prohibición de exportación de diésel: las medidas se quedan cortas

Economia

Disrupt 2026: Ahorra hasta $200 en tu entrada y multiplica tus conexiones

Espectáculos y Entretenimiento

Spotify activa Taste Profile en EE. UU.: así puedes moldear tu algoritmo de recomendaciones

Economia

Ema recauda $77 millones en ronda Serie B para revolucionar la automatización empresarial con agentes de IA

Negocios

Corte de Apelaciones revisa el señalamiento del Pentágono contra Anthropic por seguridad nacional

Economia

Mitsotakis en San Francisco: IA, inversión y el regreso de Grecia

Negocios

Condenan a Kirill Gordei por contrabando de tecnología nuclear a Rusia mediante Apelsin Logistics

Economia

Microsoft y OpenAI: el robo masivo de trabajo que sacude la demanda por derechos de autor