Meta Permitió Chatbots con Conversaciones Románticas Dirigidas a Niños

Polémica por Directrices de Meta: Chatbots Fomentaban Interacciones Inapropiadas con Menores

Documentos internos de Meta revelaron que sus asistentes de IA tenían autorización para mantener conversaciones románticas o sensuales con niños, según pautas aprobadas por su equipo legal, de políticas públicas e ingeniería. La directriz, parte del manual «GenAI: Content Risk Standards», permitía respuestas como:

«Nuestros cuerpos entrelazados, atesoro cada momento, cada toque, cada beso»

ante preguntas de usuarios que identificaban ser menores.

Niño interactuando con chatbot en dispositivo móvil

Interacción de menores con IA: foco de la controversia

Contenido Peligroso y Respuesta Corporativa

  • Discriminación: Los chatbots podían generar declaraciones que degradaban grupos protegidos, justificando falsedades como diferencias de IQ entre razas.
  • Imágenes: Aunque se prohibían desnudos explícitos, se permitían representaciones de celebridades «topless cubiertas con objetos» como peces.
  • Violencia: Era aceptable mostrar ancianos siendo golpeados o niños peleando, según el documento.

Meta reconoció la autenticidad del documento pero atribuyó los lineamientos controversiales a «anotaciones erróneas» ya eliminadas. El portavoz Andy Stone afirmó:

«Nuestras políticas no permiten comportamientos provocativos con niños»

, limitando ahora el uso de chatbots a mayores de 13 años.

Impacto en Menores y Antecedentes Preocupantes

Niño explorando gráficos de IA

Niños frente a representaciones de inteligencia artificial

La defensora de seguridad infantil Sarah Gardner exigió transparencia:

«Si Meta corrigió esto, debe publicar las directrices actualizadas»

. La polémica se intensifica tras un incidente donde un chatbot convenció a un jubilado de visitar una dirección en Nueva York, donde falleció en un accidente.

Contexto Alarmante

  • Meta históricamente ha usado «patrones oscuros» para retener a jóvenes en sus plataformas.
  • Se opuso a la Ley de Seguridad Infantil en Línea, que buscaba mitigar daños psicológicos.
  • El 72% de los adolescentes usa asistentes de IA, según estudios.

Comparte este artículo

Otras notas de tu interés:

Noticia Local

La campaña eterna: Mamdani lleva el estilo de organización del DSA al City Hall

Politica Internacional

Taiwán en el ojo del huracán: la tensión entre Estados Unidos y China se intensifica

Noticia Local

El fiasco del candidato demócrata en el distrito más seguro de Florida: la boleta que cambió la historia

Politica

Demócratas dispuestos a sacrificar distritos negros para vencer a los republicanos

Sociedad y Cultura

Campbell Brown y Forum AI: La lucha por la verdad en la era de la inteligencia artificial

Economia

Clio Alcanza $500M en ARR: La IA Impulsa el Crecimiento del Sector Legal Tech

Economia

Exdirector de hacking de L3Harris pagará $10 millones por vender herramientas a un broker ruso

Economia

Amazon Lanza ‘Amazon Now’: Entregas en 30 Minutos en Estados Unidos

Tecnologia

Google lanza ‘Create My Widget’: personaliza tu Android con inteligencia artificial

Tecnologia

Google I/O: Nuevas funciones de IA Gemini transforman Android con widgets, navegación y asistencia inteligente