La empresa de herramientas de escritura Grammarly lanzó la semana pasada una función controvertida que utiliza inteligencia artificial para simular feedback editorial, haciéndose pasar por críticas de figuras como el novelista Stephen King, el científico Carl Sagan o la periodista tecnológica Kara Swisher. Sin embargo, Grammarly no obtuvo permiso de los cientos de expertos incluidos en esta función, llamada «Expert Review».
Una de las escritoras afectadas, la periodista Julia Angwin, ha presentado una demanda colectiva contra Superhuman, la empresa matriz que posee Grammarly. Angwin argumenta que la compañía violó los derechos de privacidad y publicidad de ella y los otros escritores impersonados.
«He trabajado durante décadas perfeccionando mis habilidades como escritora y editora, y me angustia descubrir que una empresa tecnológica está vendiendo una versión impostora de mi experiencia ganada con esfuerzo», declaró Angwin en un comunicado.
La situación es irónica, ya que Angwin ha dedicado su carrera a investigar el impacto de las empresas tecnológicas en la privacidad. Otros críticos de este tipo de tecnología, como la renombrada ética de IA Timnit Gebru, también fueron incluidos sin su consentimiento en la función «Expert Review» de Grammarly.
La función «Expert Review», disponible solo para suscriptores que pagan $144 al año, no cumple con la promesa de proporcionar feedback reflexivo. Casey Newton, fundador del boletín tecnológico Platformer y otra persona impersonada por Grammarly, probó la herramienta con uno de sus artículos.
La imitación de Kara Swisher produjo un comentario tan genérico que cuestiona por qué la empresa usaría la imagen de estos escritores. El feedback fue: «¿Podrías comparar brevemente cómo los usuarios diarios de IA versus los escépticos de la IA articulan el riesgo, creando un hilo conductor que los lectores puedan seguir?»
Newton compartió el mensaje de la IA que imitaba a Kara Swisher con la verdadera Kara Swisher. Su respuesta fue contundente: «Ustedes, ladrones rapaces de información e identidad, mejor prepárense para que yo les dé una lección al estilo McConaughey. Además, apestan», escribió Swisher en un mensaje de texto, refiriéndose a Grammarly.
Según una publicación en LinkedIn del CEO de Superhuman, Shishir Mehrotra, Grammarly ha deshabilitado la función «Expert Review». Mehrotra ofreció una disculpa, pero defendió la idea detrás de la función: «Imagina a tu profesor afilando tu ensayo, tu líder de ventas remodelando un discurso para un cliente, un crítico reflexivo desafiando tus argumentos, o un experto líder elevando tu propuesta», escribió.
A pesar de la disculpa, el daño ya está hecho y la demanda avanza, poniendo en evidencia los límites éticos del uso de IA en la simulación de identidades sin consentimiento.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
