NanoClaw, un framework especializado en agentes seguros, ha establecido una colaboración con la plataforma de gestión de cadenas de suministro JFrog para que los agentes de inteligencia artificial puedan descargar recursos exclusivamente desde repositorios verificados por JFrog. Gavriel Cohen, creador de NanoClaw y cofundador de NanoCo AI, presentó este acuerdo durante un evento en San Francisco que culminó con una celebración del Mundial de fútbol.
Cohen explicó que los agentes Claw, incluyendo OpenClaw y variantes como NanoClaw, tienen la capacidad de mejorarse a sí mismos al obtener herramientas y recursos que no poseen inicialmente. Aunque este método funciona bien cuando existe una aprobación manual para acceder a datos locales conocidos, no es lo óptimo para paquetes npm, a pesar de que el agente funcione en un entorno sandbox aislado. El riesgo de que código malicioso dentro de un contenedor realice acciones dañinas sigue latente, aunque con un alcance limitado.
Una dificultad añadida radica en que los desarrolladores no siempre están familiarizados con todos los paquetes, y la revisión exhaustiva para asegurar su legitimidad puede ser lenta. Por ello, la integración con los registros de JFrog permite ahora que las descargas de herramientas y librerías provengan de fuentes previamente analizadas y confiables, reduciendo la exposición a contenido potencialmente inseguro.
Además, Cohen anunció el lanzamiento del «agent factory», un sistema interno diseñado para gestionar y revisar automáticamente las peticiones de extracción (pull requests o PRs) mediante agentes NanoClaw. Este desarrollo busca abordar el aumento masivo de PRs generado por agentes de codificación basados en IA.
«Hoy en día es muy sencillo para un agente de código generar automáticamente una pull request en un repositorio, pero para los mantenedores es complicado discernir entre contribuciones valiosas de usuarios auténticos y otras creadas con fines de mejorar reputación mediante métodos automatizados», explicó Cohen. El «agent factory», también conocido como PR Factory, facilita este filtrado, proporcionando revisión, propuesta de planes de prueba y seguimiento mediante integraciones con Slack y acciones específicas en GitHub, donde ninguna acción crítica ocurre sin la aprobación humana directa.
Cohen también reconoció la inquietud que genera procesar PRs con código no sanitizado y posibles inyecciones malintencionadas. Comentó que muchos desarrolladores han visto advertencias estrictas en archivos como Claude.md, donde se indican comandos prohibitivos, por ejemplo, «Nunca ejecutar drop database en producción», lo que indica experiencias previas con acciones peligrosas realizadas por agentes. Sin embargo, subrayó que las instrucciones no son un mecanismo de seguridad efectivo, sino solo una guía para orientar la salida del agente.
Finalmente, Cohen remarcó que la única forma segura de impedir que un agente ejecute acciones no deseadas es restringiendo su capacidad para realizarlas. Este principio es la base de NanoClaw, que garantiza una seguridad activa y no solo basada en directrices.
