El avance de los modelos de inteligencia artificial ha elevado tanto su potencial como los riesgos de mal uso. En este escenario, las compañías de IA deben caminar sobre una cuerda floja: respetar la privacidad de los clientes empresariales y, al mismo tiempo, vigilar cómo se utilizan sus tecnologías para prevenir abusos.
En ese contexto, OpenAI ha anunciado una nueva apuesta de seguridad centrada en la privacidad: Private Safety Processing. Este servicio, que la compañía está presentando en fase preliminar a clientes seleccionados, vigila posibles abusos sin retener ninguno de los datos del cliente.
Según OpenAI, este sistema automatizado amplía el alcance de la política conocida como Zero Data Retention (ZDR), que la empresa ya utiliza para ofrecer un nivel relativo de privacidad. La ZDR emplea agentes dentro de la API de OpenAI para supervisar posibles abusos en cada sesión, sin que la compañía retenga los datos del cliente.
La novedad de Private Safety Processing es que va más allá de una sola sesión. OpenAI lo describe como una forma de monitoreo de seguridad a largo plazo que evalúa las entradas y salidas de múltiples conversaciones y no solo una. Si el agente se activa, analiza las interacciones a lo largo de varias sesiones para identificar señales de posible uso indebido.
Esta tecnología ayuda a detectar usos malintencionados de la IA que se extienden a lo largo de múltiples sesiones, como el caso de alguien que intenta crear malware y reparte sus solicitudes para evitar ser detectado.
Un portavoz de OpenAI explicó que el sistema puede identificar este tipo de patrones sin revisión humana de las conversaciones de los usuarios.
El proceso se basa en agentes automatizados que vigilan las interacciones. Si el sistema detecta una posible amenaza, envía una «señal estrechamente definida» a OpenAI que advierte sobre un tipo específico de actividad. A partir de esa señal, la compañía decide si es necesaria una «acción de cumplimiento».
Si la respuesta es afirmativa, OpenAI contactará al cliente para obtener más contexto o trabajar junto con él en la solución del problema. En cualquier caso, el cliente puede compartir datos con OpenAI si así lo decide, según el portavoz.
Esta nueva estrategia de OpenAI contrasta con la política de retención de datos que Anthropic anunció recientemente, una medida que ha generado malestar entre algunos clientes. La política permite que el laboratorio conserve los datos de los usuarios —todas sus sesiones y las conversaciones incluidas— durante un período de 30 días en el caso de los «modelos cubiertos».
Según Anthropic, esos modelos incluyen todos los modelos de clase Mythos y «futuros modelos con capacidades similares». La política, anunciada en julio, fue diseñada con fines de seguridad para permitir al laboratorio analizar posibles irregularidades. Sin embargo, ha preocupado a empresas que manejan grandes volúmenes de datos sensibles y no quieren que la compañía los almacene o inspeccione.
Es importante señalar que Anthropic también se adhiere en gran medida a la política ZDR, excepto en el caso de los «modelos cubiertos», como Fable.
En cuanto a la revisión humana de los datos, Anthropic señala que puede ocurrir, pero solo a través de «una vía de acceso controlada» que involucra a «un pequeño conjunto de revisores aprobados». Cada sesión de revisión queda «registrada en un registro a prueba de manipulaciones que los revisores no pueden suprimir ni modificar».
| Aspecto | OpenAI Private Safety Processing | Anthropic (modelos cubiertos) |
|---|---|---|
| Retención de datos | No retiene datos de los clientes | Conserva sesiones y conversaciones durante 30 días |
| Monitoreo | Evalúa múltiples conversaciones a largo plazo | Analiza posibles irregularidades en los datos retenidos |
| Revisión humana | Sin revisión humana de las conversaciones | Acceso controlado por un pequeño grupo de revisores aprobados |
La rivalidad entre ambas empresas es tensa, y cada una busca obtener ventajas sobre la otra. Un informe reciente mostró que el crecimiento del segundo trimestre de OpenAI fue más lento que el de Anthropic. Además, la tasa de ingresos anualizados de Anthropic ronda los $65 mil millones, según los reportes.
Los inversores de Anthropic han señalado que la compañía podría salir a bolsa con una valoración de $2 billones, mientras que OpenAI también trabaja en su propia oferta pública inicial.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
