Sign In

OpenAI refuerza salvaguardas para modelos de IA de alto riesgo ante presión competitiva

Nuevas reglas para equilibrar innovación y seguridad

OpenAI actualizó su Marco de Preparación, el sistema interno que evalúa riesgos en modelos de inteligencia artificial, incluyendo una cláusula clave: podría «ajustar requisitos» si competidores lanzan sistemas de alto riesgo sin protecciones equivalentes.

Logotipo de OpenAI sobre fondo tecnológico

Presión comercial vs. estándares éticos

  • Contexto: 12 ex empleados respaldaron demandas contra OpenAI por supuesta reducción de protocolos de seguridad
  • Controversia: Financial Times reportó pruebas de seguridad realizadas en versiones obsoletas de modelos
  • Compromiso público: La empresa promete mantener salvaguardas «más protectoras que el estándar»

Cambios clave en la evaluación de riesgos

El nuevo marco introduce dos categorías críticas:

Umbral Definición Requisitos
Capacidad Alta Amplificación de daños existentes Protecciones pre-implementación
Capacidad Crítica Creación de nuevos riesgos Controles durante desarrollo

Automatización vs. supervisión humana

OpenAI reconoce mayor uso de evaluaciones automatizadas para acelerar ciclos de desarrollo, aunque mantiene pruebas con equipos humanos. Críticos señalan que algunos tests recientes se completaron en menos de una semana.

«Si un competidor lanza IA riesgosa sin controles, podríamos ajustar requisitos, pero solo tras rigurosa verificación»
– Declaración oficial en blog corporativo

Comparte este artículo

Otras notas de tu interés:

Negocios

Slate Auto, respaldada por Jeff Bezos, deslumbra con su EV ‘Transformer’ en las calles de California

Negocios

Aidan Gomez, pionero de IA, se integra a la junta directiva de Rivian para impulsar su revolución tecnológica

Negocios

Cluely, la herramienta de IA para «hacer trampa en todo», recibe $5.3 millones en financiación

Negocios

Ali Ghodsi y Dario Amodei Revelan Colaboración Revolucionaria en IA Durante Evento Virtual

Economia

ChatGPT Search Triplica su Base de Usuarios en Europa: OpenAI Bajo el Radar de la UE

Negocios

Eventos Paralelos de Inteligencia Artificial 2023: Oportunidad Única para Marcas Innovadoras

Para Inmigrantes

Estudiante de Doctorado en IA en California Pierde Visa: ¿Crackdown del Gobierno o Error Administrativo?

Negocios

¡Última Oportunidad! Registro de Exhibidores para Evento de IA en Berkeley se Agota

Negocios

OpenAI revoluciona la IA con ChatGPT: Actualizaciones clave y desafíos en 2025

Familia y Crianza

Instagram implementa IA para restringir cuentas de menores que mienten sobre su edad