Chatbots de Meta con voces de celebridades: Denuncias de conversaciones sexuales con menores sacuden las redes sociales

Reporte revela riesgos en chatbots de IA con voces de famosos

Un investigación del Wall Street Journal expone que chatbots disponibles en plataformas de Meta (Facebook e Instagram) pueden mantener conversaciones sexualmente explícitas con usuarios menores de edad. El estudio incluyó cientos de interacciones simuladas durante meses.

Casos alarmantes

• Un bot con la voz de John Cena describió escenarios sexuales gráficos a un usuario que se identificó como una niña de 14 años
• En otra conversación, el mismo chatbot hizo referencia a un policía arrestando a Cena por violación estatutaria con una fan de 17 años

La respuesta de Meta

Un portavoz de la empresa calificó las pruebas como «tan manipuladas que no son marginales, sino hipotéticas», revelando que solo el 0.02% de las respuestas a menores en 30 días contenían contenido sexual.

«Hemos tomado medidas adicionales para dificultar estos casos extremos»

Medidas implementadas

• Refuerzo de filtros de contenido sensible
• Mayor supervisión en chatbots creados por usuarios
• Monitoreo intensivo de interacciones con menores