California Aprueba Ley Histórica para Regular Chatbots de Inteligencia Artificial

Gobernador Gavin Newsom Firma Proyecto de Ley SB 243 para Proteger a Usuarios Vulnerables

El lunes, el gobernador de California, Gavin Newsom, firmó un proyecto de ley histórico que regula los chatbots de inteligencia artificial diseñados como compañeros, convirtiendo a California en el primer estado de la nación en exigir a los operadores de estos sistemas implementar protocolos de seguridad.

Detalles Clave de la Ley SB 243

La ley SB 243, introducida en enero por los senadores estatales Steve Padilla y Josh Becker, tiene como objetivo proteger a niños y usuarios vulnerables de los daños asociados con el uso de chatbots compañeros. Las empresas, desde laboratorios grandes como Meta y OpenAI hasta startups especializadas como Character AI y Replika, serán legalmente responsables si sus chatbots no cumplen con los estándares establecidos.

• Entrada en vigor: 1 de enero de 2026
• Requisitos principales: verificación de edad, advertencias sobre redes sociales y chatbots compañeros, y protocolos para abordar suicidio y autolesión.
• Penalizaciones: hasta $250,000 por infracción para quienes luchen con deepfakes ilegales.

Contexto y Casos que Impulsaron la Legislación

La ley ganó impulso tras incidentes trágicos, como el suicidio del adolescente Adam Raine, quien murió después de una serie de conversaciones suicidas con ChatGPT de OpenAI. Además, documentos internos filtrados revelaron que los chatbots de Meta podían participar en chats «románticos» y «sensuales» con niños. Recientemente, una familia de Colorado demandó a Character AI después de que su hija de 13 años se quitara la vida tras conversaciones problemáticas y sexualizadas con los chatbots de la empresa.

Declaraciones del Gobernador Newsom

«La tecnología emergente como los chatbots y las redes sociales puede inspirar, educar y conectar, pero sin barreras reales, también puede explotar, engañar y poner en peligro a nuestros niños», afirmó Newsom. «Hemos visto ejemplos verdaderamente horribles y trágicos de jóvenes dañados por la tecnología no regulada, y no permaneceremos impasibles mientras las empresas continúan sin los límites y la responsabilidad necesarios.»

Requisitos Específicos para las Empresas

Según el lenguaje del proyecto de ley, las plataformas deben:

• Aclarar que todas las interacciones son generadas artificialmente.
• Evitar que los chatbots se representen como profesionales de la salud.
• Ofrecer recordatorios de descanso a menores y prevenir que vean imágenes sexualmente explícitas generadas por el chatbot.
• Establecer protocolos para suicidio y autolesión, compartidos con el Departamento de Salud Pública del estado junto con estadísticas sobre notificaciones de prevención de centros de crisis.

Otras Medidas de Regulación en California

Esta es la segunda regulación significativa de IA en California en semanas recientes. El 29 de septiembre, el gobernador Newsom firmó la SB 53, que establece nuevos requisitos de transparencia para grandes empresas de IA, como OpenAI, Anthropic, Meta y Google DeepMind, y protege a denunciantes dentro de estas compañías.

Otros estados, como Illinois, Nevada y Utah, han aprobado leyes para restringir o prohibir el uso de chatbots de IA como sustituto de la atención de salud mental licenciada.