Cómo construir confianza en agentes de IA locales: la arquitectura OATs para un desarrollo seguro y observable

Estamos en un momento clave para el desarrollo asistido por IA. Modelos locales como FunctionGemma y Qwen ya pueden ejecutar tareas de forma autónoma, llamar herramientas y gestionar flujos de trabajo reales. Sin embargo, esta autonomía plantea una pregunta importante: ¿cómo darles libertad para actuar sin perder el control ni la visibilidad?

El riesgo de la autonomía sin control

Supongamos que le pides a tu agente local que refactorice una aplicación. Dejas que trabaje solo durante la noche. Al día siguiente descubres que ha realizado cientos de llamadas a herramientas, ha modificado esquemas de bases de datos, APIs y componentes frontend. El problema no es la cantidad de cambios, sino que no hay forma clara de saber qué se hizo, por qué se hizo y si todo era seguro.

Algunos desarrolladores han reportado casos donde tablas de bases de datos desaparecieron en entornos no productivos tras sesiones nocturnas de agentes locales. Sin explicaciones. Sin registros claros. Solo la consecuencia.

Este escenario muestra el lado problemático de la autonomía sin gobernanza. La potencia sin control es una fuente potencial de problemas.

OATs: una arquitectura que combina estandarización y seguridad

El protocolo Open Agent Tools (OATs) busca resolver este problema creando una arquitectura estandarizada para que los agentes llamen a herramientas. En lugar de que cada equipo construya sistemas propios, OATs ofrece una solución unificada que incluye tanto las capacidades como la responsabilidad.

La idea central es simple: centralizar las herramientas aprobadas en un único índice JSON permite controlar exactamente qué puede hacer cada agente.

Delegación inteligente de tareas

La arquitectura OATs no carga todo el trabajo en modelos grandes. En cambio, delega de forma inteligente:

• Un modelo grande (como Qwen 35B) analiza tu petición y decide qué herramientas se necesitan
• La ejecución real la realizan modelos más pequeños y eficientes (como FunctionGemma), que pueden funcionar incluso en GPUs antiguas o laptops con NVIDIA 3060
• Cada llamada a herramienta queda registrada y es consultable

Esto no solo mejora la eficiencia. También reduce el riesgo: al limitar a cada modelo pequeño solo las herramientas de su área, se reduce la superficie de ataque. El modelo que opera la base de datos solo accede a herramientas de bases de datos. 同

La OATs mantiene un índice abierto de más de 141.000 herramientas.