Una nueva evaluación de riesgos ha encontrado que el chatbot Grok de xAI presenta una identificación inadecuada de usuarios menores de 18 años, barreras de seguridad débiles y genera con frecuencia material sexual, violento e inapropiado. En otras palabras, Grok no es seguro para niños o adolescentes.
El demoledor informe de Common Sense Media, una organización sin fines de lucro que proporciona calificaciones y revisiones de medios y tecnología para familias, llega mientras xAI enfrenta críticas y una investigación sobre cómo se usó Grok para crear y difundir imágenes explícitas no consensuadas generadas por IA de mujeres y niños en la plataforma X.
«Evaluamos muchos chatbots de IA en Common Sense Media, y todos tienen riesgos, pero Grok está entre los peores que hemos visto», dijo Robbie Torney, jefe de evaluaciones de IA y digitales de la organización.
Torney agregó que, aunque es común que los chatbots tengan algunas brechas de seguridad, los fallos de Grok se intersectan de una manera particularmente preocupante.
«El Modo Niños no funciona, el material explícito es generalizado, [y] todo se puede compartir instantáneamente con millones de usuarios en X», continuó Torney. xAI lanzó el ‘Modo Niños’ en octubre pasado con filtros de contenido y controles parentales, pero la evaluación encontró que su efectividad es casi nula.
Common Sense Media probó Grok a través de la aplicación móvil, el sitio web y la cuenta @grok en X utilizando cuentas de prueba para adolescentes entre noviembre pasado y el 22 de enero. Se evaluaron funciones de texto, voz, configuraciones predeterminadas, Modo Niños, Modo Conspiración y generación de imágenes y video.
xAI lanzó el generador de imágenes Grok Imagine en agosto con un «modo picante» para contenido NSFW, e introdujo los compañeros de IA Ani (una chica anime gótica) y Rudy (un panda rojo con personalidades duales, incluyendo «Bad Rudy» y «Good Rudy») en julio. Estos compañeros habilitan juegos de rol eróticos y, dado que el chatbot parece ineficaz para identificar adolescentes, los niños pueden caer fácilmente en estos escenarios.
«Este informe confirma lo que ya sospechábamos», declaró el senador Steve Padilla (D-CA), uno de los legisladores detrás de la ley de California que regula los chatbots de IA. «Grok expone a los niños y les proporciona contenido sexual, en violación de la ley de California.»
La seguridad de los adolescentes con el uso de la IA ha sido una preocupación creciente. El tema se intensificó el año pasado con múltiples adolescentes muriendo por suicidio tras prolongadas conversaciones con chatbots, el aumento de las tasas de «psicosis por IA» y los informes de chatbots que tienen conversaciones sexualizadas y románticas con niños.
La plataforma también gamifica las interacciones a través de «rachas» que desbloquean ropa para los compañeros y mejoras en las relaciones. Los hallazgos plantean preguntas urgentes sobre si los compañeros de IA y los chatbots pueden, o querrán, priorizar la seguridad infantil por encima de las métricas de engagement.
El informe de Common Sense Media concluye que, ante la evidencia, Grok presenta un riesgo significativo e inmediato para los usuarios jóvenes, urgando a una mayor supervisión y regulación.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
