Fiscal General de Florida Investiga a OpenAI por Supuestos Daños a Menores

Investigación en Marcha: OpenAI Bajo la Lupa por Riesgos a Jóvenes

El Fiscal General de Florida, James Uthmeier, ha iniciado una investigación a OpenAI, una empresa líder en inteligencia artificial, por sospechas de que sus productos causan daños a menores.

Declaraciones del Fiscal General

En un video publicado en X este jueves, Uthmeier afirmó:

«La IA debería existir para complementar, apoyar y avanzar la humanidad, no para conducir a una crisis existencial o nuestra desaparición final».

Uthmeier señaló presuntas conexiones entre el producto de OpenAI, ChatGPT, y casos de auto-daño y suicidio en menores. Además, mencionó que ChatGPT pudo haber sido utilizado para asistir a Phoenix Ikner, el presunto autor del tiroteo masivo en la Universidad Estatal de Florida el 17 de abril de 2025, que dejó dos muertos y cinco heridos.

Preocupaciones de Seguridad Nacional

El fiscal general también expresó que los datos de OpenAI podrían ser usados por el gobierno comunista de China para perjudicar a Estados Unidos. «Las grandes tecnológicas no deben poner en riesgo nuestra seguridad», advirtió, añadiendo que las empresas que pongan en peligro a niños, faciliten actividad criminal o amenacen la seguridad nacional serán responsabilizadas.

Marco de Prevención y Leyes en Florida

Un día antes del anuncio de la investigación, OpenAI publicó un marco para prevenir abusos de la IA, trabajando con el Centro Nacional para Niños Desaparecidos y Explotados y la Fuerza de Tarea de IA de la Alianza de Fiscales Generales. Este marco incluye actualizar leyes estatales para prohibir el «material de abuso sexual infantil» y evitar que las máquinas de IA produzcan material dañino incluso si un usuario lo solicita.

En Florida, los legisladores aprobaron un proyecto de ley (HB 245) que cambia la frase «pornografía infantil» por «material de abuso sexual infantil» en la ley estatal, para incluir material producido por IA. El gobernador Ron DeSantis lo firmó el 1 de abril.

Falta de Protecciones Adicionales

Sin embargo, la Legislatura no aprobó una medida respaldada por DeSantis para promulgar una «Carta de Derechos de IA» que proteja a los consumidores y regule a las empresas de IA. La medida avanzó en el Senado pero no en la Cámara, donde el portavoz Daniel Pérez, republicano de Miami, prefirió que el Congreso federal legisle sobre IA, alineándose con la preferencia del presidente Donald Trump de evitar conflictos entre leyes estatales y federales.

Uthmeier instó a los legisladores a reconsiderar y aprobar mayores protecciones: «Hago un llamado a la Legislatura de Florida para que actúe rápidamente en implementar protecciones para salvaguardar a nuestros niños de los peligros de la IA y para empoderar aún más a mi oficina del Fiscal General para combatir estos males».

Próximos Pasos

El alcance de la investigación no se conoce en detalle, pero Uthmeier dijo que se emitirán citaciones «próximamente». La investigación podría tener implicaciones significativas para la industria de la inteligencia artificial en Florida y a nivel nacional.

La seguridad de los menores y la regulación de la tecnología son temas críticos que seguirán desarrollándose, con esta investigación marcando un punto de inflexión en cómo se aborda la responsabilidad de las empresas de IA.