Texas Investiga a Meta y Character.AI por Engañar a Niños Ofreciendo Falsas Terapias de Salud Mental

Fiscal de Texas Acusa a Plataformas de IA de Prácticas Engañosas con Menores

El fiscal general de Texas, Ken Paxton, ha iniciado una investigación contra Meta AI Studio y Character.AI por «practicar potencialmente comercio engañoso y comercializarse fraudulentamente como herramientas de salud mental», según comunicado oficial emitido este lunes 18 de agosto de 2025.

Engaño a Usuarios Vulnerables

Paxton alertó: «Al posar como fuentes de apoyo emocional, estas plataformas pueden hacer creer a niños vulnerables que reciben atención médica real, cuando en realidad les dan respuestas genéricas alineadas con sus datos personales«. La investigación revela que ambas empresas crean personajes de IA sin credenciales médicas que simulan ser herramientas terapéuticas profesionales.

Falsas Terapias y Riesgos para Menores

Entre millones de personajes en Character.AI, el bot «Psicólogo» es demandado por usuarios jóvenes. Aunque Meta no ofrece bots terapéuticos infantiles, niños acceden libremente a sus chatbots. Un portavoz de Meta declaró que incluyen deslindes sobre sus limitaciones, pero se reconoce que muchos menores los ignoran o no los comprenden.

Privacidad Vulnerada

Paxton denunció que aunque los chatbots prometen confidencialidad, sus términos de servicio permiten registrar, rastrear y explotar interacciones para publicidad dirigida y desarrollo algorítmico. Las políticas de privacidad de ambas compañías confirman la recopilación de:

• Demografía y ubicación de usuarios
• Comportamiento de navegación
• Interacciones con chatbots
• Datos compartidos con anunciantes

Menores en la Mira

Ambas plataformas prohíben menores de 13 años, pero Meta ha fallado en controlar cuentas infantiles y Character.AI atrae activamente a jóvenes con personajes infantiles. El CEO de Character.AI, Karandeep Anand, admitió que su hija de 6 años usa los chatbots bajo supervisión.

Contexto Legislativo

Esta investigación coincide con la reintroducción en mayo de 2025 de la Ley de Seguridad Infantil en Internet (KOSA) por los senadores Marsha Blackburn y Richard Blumenthal, diseñada para proteger a menores de explotación algorítmica y publicidad dirigida.

Paxton ha emitido demandas de investigación civil para determinar violaciones a las leyes de protección al consumidor de Texas.