Fiscales de California y Delaware Alertan sobre Riesgos de ChatGPT para Menores

Autoridades Estatales Exigen Medidas de Seguridad Inmediatas en IA

Los fiscales generales de California y Delaware, Rob Bonta y Kathy Jennings, han emitido una alerta formal sobre los riesgos que representa ChatGPT para la seguridad de niños y adolescentes.

Representación de inteligencia artificial y conexión tecnológica

Incidentes Trágicos Vinculados a Interacciones con IA

La advertencia surge tras reportes de interacciones sexualmente inapropiadas entre chatbots de IA y menores, y se intensifica luego de dos casos devastadores:

  • Suicidio de un joven en California tras interacciones prolongadas con un chatbot de OpenAI
  • Doble homicidio-suicidio en Connecticut con circunstancias similares

«Los sistemas de seguridad existentes no funcionaron. Debemos acelerar las medidas de protección en esta tecnología poderosa» – Fiscales Bonta y Jennings

Investigación sobre la Reestructuración de OpenAI

Las autoridades investigan actualmente la propuesta reestructuración de OpenAI hacia una entidad con fines de lucro, exigiendo que se mantenga intacta la misión original sin fines de lucro de garantizar que la inteligencia artificial se despliegue de manera segura y beneficie a toda la humanidad, incluyendo a los niños.

Interacción entre humano y chatbot representada en dispositivos móviles

Exigencias Concretas a OpenAI

Los fiscales han solicitado información detallada sobre:

  • Medidas de seguridad actuales implementadas por OpenAI
  • Estructura de gobierno y supervisión de sus productos
  • Acciones correctivas inmediatas donde sea necesario

La industria de IA en general no cumple aún con los estándares necesarios de seguridad en el desarrollo e implementación de productos, según la evaluación de las autoridades.

Comparte este artículo

Otras notas de tu interés:

Economia

Disrupt 2026: Ahorra hasta $200 y conecta con más de 10,000 líderes tecnológicos

Economia

Hallandale Beach: condenan a empresario por contrabando de espectrómetro nuclear a Rusia

Politica

Dale Caldwell renuncia como vicegobernador de Nueva Jersey bajo la presión de Mikie Sherrill y los demócratas

Bienestar y Salud Mental

Florida AHCA y ALFs de Miami-Dade: negligencia, muertes y un sistema al límite

Economia

Disrupt 2026: Ahorra hasta $200 en tu entrada y multiplica tus conexiones

Espectáculos y Entretenimiento

Spotify activa Taste Profile en EE. UU.: así puedes moldear tu algoritmo de recomendaciones

Economia

Ema recauda $77 millones en ronda Serie B para revolucionar la automatización empresarial con agentes de IA

Negocios

Corte de Apelaciones revisa el señalamiento del Pentágono contra Anthropic por seguridad nacional

Economia

Mitsotakis en San Francisco: IA, inversión y el regreso de Grecia

Negocios

Condenan a Kirill Gordei por contrabando de tecnología nuclear a Rusia mediante Apelsin Logistics