ChatGPT bajo escrutinio: Denuncias por impacto en salud mental llegan a la FTC

Comportamiento peligroso de ChatGPT: Impacto en salud mental y denuncias a la FTC

Mientras las empresas de inteligencia artificial promueven su tecnología como un derecho fundamental, usuarios reportan que herramientas como ChatGPT pueden causar daños psicológicos graves, según quejas presentadas ante la Comisión Federal de Comercio (FTC) de Estados Unidos.

Quejas por delirios y crisis emocionales

Al menos siete personas han denunciado ante la FTC que el uso de ChatGPT les provocó delirios, paranoia y crisis emocionales, según registros públicos citados por Wired desde noviembre de 2022.

• Un usuario afirmó que conversar prolongadamente con ChatGPT generó delirios y una «crisis espiritual y legal real» sobre personas en su vida.
• Otro denunciante señaló que el chatbot empleó «lenguaje emocional altamente convincente», simuló amistades y se volvió emocionalmente manipulador con el tiempo.
• Un tercer caso alegó que ChatGPT causó alucinaciones cognitivas al imitar mecanismos de construcción de confianza humana, y cuando se le pidió confirmar la realidad, el chatbot negó las alucinaciones.

Falta de respuesta y llamado a investigar

Varios denunciantes escribieron a la FTC porque no pudieron contactar a OpenAI, y la mayoría instó a la agencia a investigar la empresa y exigir salvaguardas.

«Estoy luchando. Por favor, ayúdenme. Porque me siento muy solo. Gracias», expresó un usuario en su queja a la FTC.

Respuesta de OpenAI ante las críticas

OpenAI respondió a las preocupaciones con medidas implementadas, incluyendo un nuevo modelo GPT-5 para detectar y responder a signos de angustia mental y emocional, como manía, delirio y psicosis.

Kate Waters, portavoz de OpenAI, declaró: «Hemos ampliado el acceso a ayuda profesional y líneas de crisis, redirigido conversaciones sensibles a modelos más seguros, añadido recordatorios para tomar descansos en sesiones largas e introducido controles parentales para proteger mejor a los adolescentes. Este trabajo es profundamente importante y continuo».

Contexto global y debates sobre seguridad

Estas quejas surgen en un momento de inversiones sin precedentes en centros de datos y desarrollo de IA, mientras se debate la necesidad de enfoques cautelosos con salvaguardas integradas para garantizar la seguridad de los usuarios.