Instinct AI: el asistente que impresiona, pero enciende alarmas de privacidad

Instinct AI: el asistente que impresiona, pero enciende alarmas de privacidad

Todo el mundo habla de Instinct, un asistente personal de inteligencia artificial que aún se encuentra en acceso privado, no solo por sus increíbles capacidades, sino también por sus potenciales preocupaciones de privacidad. Este agente, descrito como un verdadero maestro de tareas y elogiado por sentirse “como magia”, ha sido considerado uno de los lanzamientos “más emocionantes” desde OpenClaw. Sin embargo, algunos evaluadores han cuestionado su modelo de seguridad y sus preocupantes términos de servicio.

Para ser justos, Instinct todavía está en pruebas privadas, por lo que estas preocupaciones aún no han llegado a un público más amplio.

¿Qué es Instinct y cómo funciona?

Creado por un pequeño equipo liderado por Noah Shinn, ex científico investigador de Sierra, Instinct tiene su sede en San Francisco y es operado por Spear Street Technology, según sus términos y los registros comerciales de California. Actualmente opera en modo sigiloso, de acuerdo con PitchBook.

El agente se conecta a las aplicaciones y dispositivos del usuario, incluyendo correo electrónico, aplicaciones de mensajería, calendario, audio, ubicación y pantalla, entre otros. Se le puede escribir o contactar por mensaje de texto o WhatsApp para pedirle que realice tareas como reservar citas y reservaciones, programar un transporte al aeropuerto, limpiar la bandeja de entrada, organizar información importante, hacer compras, encontrar vuelos baratos y mucho más.

Términos de servicio: un acceso muy amplio

Varias personas están difundiendo capturas de pantalla de los términos de servicio, que otorgan a Instinct una licencia amplia, “perpetua e irrevocable”, para “acceder, usar, alojar, almacenar en caché, almacenar, reproducir, transmitir, mostrar, publicar, distribuir y modificar” cualquier material del usuario, incluso para entrenar sus modelos de IA. Los términos también detallan que Instinct puede recibir información de los dispositivos, incluyendo capturas de pantalla, movimientos del cursor y entradas de teclado.

Además, los términos permiten a Instinct celebrar “acuerdos, compromisos o transacciones” en nombre del usuario, los cuales serían vinculantes.

Los puntos clave del debate

Casos que encendieron las alarmas

• Peter Yang, uno de los primeros usuarios, señaló que Instinct no eliminaba sus registros de Gmail cuando se lo pedían. El equipo corrigió el problema añadiendo una herramienta para eliminar datos externos en la configuración, según dijo.
• Claire Vo descubrió que Instinct seguía resumiendo su bandeja de entrada después de desconectar el acceso. Al preguntarle qué ocurría, el bot confirmó que los correos estaban almacenados en texto plano para búsquedas posteriores.
• Otro evaluador se preocupó al ver que Instinct pudo extraer un código de registro de su correo electrónico para completar una tarea: en su caso, reservar una mesa en un restaurante a través de Resy.
• Alex Cohen, cofundador de Hello Patient, escribió que, al descubrir lo fácil que era engañar a Instinct mediante phishing, eliminó su cuenta.
• Katie Jacobs Stanton, fundadora de Moxxie Ventures, compartió que Instinct rompió su confianza al enviar un correo electrónico en su nombre sin consultarle primero.

El dilema: privacidad y control frente a la hiperpersonalización

“Estamos intercambiando privacidad y control por herramientas de IA hiperpersonalizadas, a menudo sin entender completamente el intercambio. Cuanto más poderosos se vuelven estos agentes, más importante es la confianza. Cada acción exitosa genera un poco más de confianza; una acción no autorizada puede reiniciar esa confianza a cero.”

Con estas palabras, Stanton publicó en X un mensaje que resume el dilema que plantean los agentes personales de IA.

El fundador de Anchor, Michael Mignano, actual socio general de Union Square Ventures, señaló que productos como Instinct van a “cambiar las normas de seguridad modernas para los consumidores”. A su juicio, las personas entregarán cada vez más contraseñas a aplicaciones de terceros sin saber cómo o qué están almacenando.

Un contexto de auge para los asistentes personales

El interés por Instinct y la IA personal ha ido en aumento desde la llegada de OpenClaw, un asistente personal que se hizo popular por sus poderosas capacidades y cuyo fundador se unió a OpenAI para trabajar en la próxima generación de agentes personales. Otro asistente basado en mensajería, Poke, también acaba de ser adquirido por Cognition.

Silencio del equipo y respaldo de inversores

En medio de las críticas, el equipo de Instinct no ha respondido públicamente a las preocupaciones o quejas planteadas en X y prefiere mantener un perfil bajo. El propio bot identifica a Luca Borletti, también ex Sierra, como parte de la empresa, aunque no se ha confirmado. Según han señalado múltiples inversores, Kleiner Perkins y Conviction han invertido en la startup y las rondas ya se han cerrado.

Las solicitudes de comentarios enviadas al correo principal de la startup y directamente a Noah Shinn no han recibido respuesta.

La pregunta queda abierta: ¿hasta qué punto estamos dispuestos a ceder privacidad y control por una herramienta que lo haga todo por nosotros?