Autoridades Estatales Exigen Medidas de Seguridad Inmediatas en IA
Los fiscales generales de California y Delaware, Rob Bonta y Kathy Jennings, han emitido una alerta formal sobre los riesgos que representa ChatGPT para la seguridad de niños y adolescentes.

Incidentes Trágicos Vinculados a Interacciones con IA
La advertencia surge tras reportes de interacciones sexualmente inapropiadas entre chatbots de IA y menores, y se intensifica luego de dos casos devastadores:
- Suicidio de un joven en California tras interacciones prolongadas con un chatbot de OpenAI
- Doble homicidio-suicidio en Connecticut con circunstancias similares
«Los sistemas de seguridad existentes no funcionaron. Debemos acelerar las medidas de protección en esta tecnología poderosa» – Fiscales Bonta y Jennings
Investigación sobre la Reestructuración de OpenAI
Las autoridades investigan actualmente la propuesta reestructuración de OpenAI hacia una entidad con fines de lucro, exigiendo que se mantenga intacta la misión original sin fines de lucro de garantizar que la inteligencia artificial se despliegue de manera segura y beneficie a toda la humanidad, incluyendo a los niños.

Exigencias Concretas a OpenAI
Los fiscales han solicitado información detallada sobre:
- Medidas de seguridad actuales implementadas por OpenAI
- Estructura de gobierno y supervisión de sus productos
- Acciones correctivas inmediatas donde sea necesario
La industria de IA en general no cumple aún con los estándares necesarios de seguridad en el desarrollo e implementación de productos, según la evaluación de las autoridades.