A medida que los agentes de inteligencia artificial se vuelven más capaces, las empresas que buscan implementarlos en aplicaciones, flujos de trabajo y productos se enfrentan a un desafío crítico: garantizar que un agente haga lo que se supone que debe hacer cuando se despliega en diferentes entornos. Microsoft ha respondido con una nueva especificación de código abierto llamada Agent Control Specification (ACS), diseñada para dar a los desarrolladores una forma más consistente y granular de controlar lo que los agentes de IA pueden hacer.
La especificación permite que los equipos de desarrollo, cumplimiento normativo y seguridad definan sus propias políticas para que los agentes las sigan. Estas reglas pueden determinar qué acciones puede realizar un agente, qué debe evitar, cuándo un humano debe aprobar una acción y qué evidencia debe registrarse para su revisión posterior. Los archivos de política se verifican en varios «puntos de intercepción» cuando el agente está ejecutando una tarea, asegurándose de que permanezca dentro de los límites establecidos.
Hoy en día, los desarrolladores suelen especificar instrucciones en un system prompt, agregar verificaciones personalizadas en el código de la aplicación o usar clasificadores para detectar entradas y salidas problemáticas. Estos enfoques funcionan, pero a menudo dejan a las empresas con controles fragmentados que son difíciles de auditar y difíciles de reutilizar en diferentes marcos, interfaces y sistemas. ACS integra esos controles en una capa de gobernanza común.
Según Microsoft, la especificación se puede usar para comprobar si un agente se mantiene dentro de las barreras de seguridad en múltiples puntos de su flujo de trabajo: antes de recibir una entrada, antes de llamar a una herramienta, después de que una herramienta devuelve un resultado y antes de que se envíe la respuesta final al usuario. Una política puede permitir una acción, bloquearla, redactar información sensible o incluso solicitar la aprobación humana.
Los desarrolladores pueden insertar clasificadores para entradas y salidas con el fin de categorizar información, predecir resultados o determinar cómo debe responder un agente; añadir modelos de lenguaje con indicaciones para que actúen como «jueces» de las políticas; y lógica para verificar llamadas a herramientas, selección de herramientas, precisión de entrada, uso de salidas y respuestas. Además, como estas políticas se pueden escribir como archivos únicos, se pueden empaquetar con los agentes, permitiendo que una política de seguridad siga al agente a través de diferentes marcos y entornos.
ACS se distribuye como un SDK con complementos para los marcos más populares del ecosistema de IA:
Con esta iniciativa, Microsoft busca estandarizar la gobernanza de agentes, facilitando a las empresas adoptar la inteligencia artificial con la confianza de que los agentes operarán dentro de los límites deseados, sin importar el entorno o el marco de desarrollo utilizado.
Estas buscando algo?
Nuestros Programas:
Al Ritmo de Miami Healthy
Aprende qué comer y cómo vivir mejor para elevar tu bienestar.
Despertando con Claudio María Domínguez
Reflexiones de espiritualidad, bienestar y conciencia Claudio María Domínguez
Misterios Ocultos
OVNIs, enigmas históricos y lo inexplicable contado por expertos.
Inmigrar a Miami
Tu puente a los Estados Unidos Te ayudamos a alcanzar tus sueños americanos con soluciones personalizada.
