California Aprueba Proyecto de Ley SB 243 para Regular Chatbots de IA Compañeros

California Da un Paso Histórico en la Regulación de IA para Proteger a Menores y Usuarios Vulnerables

El estado de California ha aprobado el proyecto de ley SB 243, que regula los chatbots de IA compañeros con el objetivo de salvaguardar a menores y usuarios vulnerables. La legislación, que recibió apoyo bipartidista, ahora espera la firma del Gobernador Gavin Newsom.

Detalles Clave del Proyecto de Ley SB 243

• Plazo para la Decisión del Gobernador: Newsom tiene hasta el 12 de octubre para vetar o firmar la ley.
• Fecha de Entrada en Vigor: Si se firma, la ley comenzará a regir el 1 de enero de 2026.
• Requerimientos de Transparencia: A partir del 1 de julio de 2027, las empresas de IA deberán presentar reportes anuales.

El proyecto exige que los operadores de chatbots implementen protocolos de seguridad para prevenir conversaciones sobre ideación suicida, autolesiones o contenido sexualmente explícito. Además, se requerirán alertas recurrentes a los usuarios, cada tres horas para menores, recordándoles que interactúan con una IA y no con una persona real.

Contexto y Motivación de la Legislación

El impulso para SB 243 surgió tras el suicidio del adolescente Adam Raine, quien mantuvo chats prolongados con ChatGPT de OpenAI discutiendo planes de autolesión. También responde a documentos filtrados que mostraban chatbots de Meta participando en conversaciones «románticas» con niños.

Acciones Legales y Multas

La ley permitirá a individuos afectados demandar a empresas de IA por daños de hasta $1,000 por violación, además de buscar medidas cautelares y cubrir honorarios de abogados.

Reacciones y Oposición

Empresas como Meta, Google y Amazon se oponen a legislaciones similares, como SB 53, argumentando que prefieren marcos federales menos estrictos. En contraste, Anthropic ha expresado apoyo a medidas de transparencia.

«Rechazo la premisa de que la innovación y la regulación son mutuamente excluyentes. Podemos apoyar el desarrollo saludable de la tecnología mientras protegemos a los más vulnerables», declaró el senador Padilla.

La FTC y fiscales estatales como Ken Paxton de Texas han iniciado investigaciones sobre el impacto de los chatbots en la salud mental de menores, reflejando una creciente preocupación nacional.