OpenAI refuerza salvaguardas para modelos de IA de alto riesgo ante presión competitiva

Nuevas reglas para equilibrar innovación y seguridad

OpenAI actualizó su Marco de Preparación, el sistema interno que evalúa riesgos en modelos de inteligencia artificial, incluyendo una cláusula clave: podría «ajustar requisitos» si competidores lanzan sistemas de alto riesgo sin protecciones equivalentes.

Logotipo de OpenAI sobre fondo tecnológico

Presión comercial vs. estándares éticos

  • Contexto: 12 ex empleados respaldaron demandas contra OpenAI por supuesta reducción de protocolos de seguridad
  • Controversia: Financial Times reportó pruebas de seguridad realizadas en versiones obsoletas de modelos
  • Compromiso público: La empresa promete mantener salvaguardas «más protectoras que el estándar»

Cambios clave en la evaluación de riesgos

El nuevo marco introduce dos categorías críticas:

Umbral Definición Requisitos
Capacidad Alta Amplificación de daños existentes Protecciones pre-implementación
Capacidad Crítica Creación de nuevos riesgos Controles durante desarrollo

Automatización vs. supervisión humana

OpenAI reconoce mayor uso de evaluaciones automatizadas para acelerar ciclos de desarrollo, aunque mantiene pruebas con equipos humanos. Críticos señalan que algunos tests recientes se completaron en menos de una semana.

«Si un competidor lanza IA riesgosa sin controles, podríamos ajustar requisitos, pero solo tras rigurosa verificación»
– Declaración oficial en blog corporativo

Comparte este artículo

Otras notas de tu interés:

Economia

Lovable alcanza una valoración de 13.3 mil millones de dólares tras su Serie C de 400 millones

Deportes

Caedan Wallace, de Patriots a Dolphins: un nuevo comienzo en Miami

Negocios

Stream de Sandbar: Mina Fahmi y el anillo de voz con IA para capturar ideas

Negocios

Mesh, el CRM personal de Automattic, llega a Android

Economia

Adquisición fraudulenta: Minute Media cancela la compra de VideoVerse y Vinayak Shrivastav es demandado

Politica

Seguridad de las máquinas de votación en EE. UU.: investigadores y negacionistas electorales encienden la polémica

Economia

Made by Google 2026: Pixel 11, Pixel Watch 5 y Pixel Tag, con Gemini como protagonista

Negocios

Google presenta en Made by Google 2026: Pixel 11, Pixel Watch 5 y Pixel Tag con nuevas funciones Gemini

Economia

Trump elige a Kevin Warsh para la Fed en plena moderación de la inflación en EE.UU.

Economia

Blacksmith recauda $45 millones en Serie B y alcanza una valuación de $550 millones