SECURITY
¿Qué trae esta receta? Auditando skills de IA con SkillSpector
Las skills amplían lo que un agente de IA puede hacer, pero también pueden incorporar instrucciones ocultas, permisos excesivos o comportamientos que no siempre son visibles a primera vista. Este taller parte por entender por qué revisar estas “recetas” importa, qué vulnerabilidades pueden esconder y qué riesgos aparecen cuando las incorporamos sin mirar sus ingredientes.
Luego, aprenderemos a usar SkillSpector, herramienta open source de NVIDIA, para auditar skills paso a paso. Comenzaremos con análisis estático, que puede utilizarse sin necesidad de conectar un modelo externo, y avanzaremos hacia análisis apoyados por LLMs, capaces de aportar mayor contexto e identificar criticidades adicionales.
El objetivo es mostrar que incorporar una revisión básica antes de usar una skill no tiene por qué ser complejo, pero puede marcar una gran diferencia. Al finalizar, las y los participantes podrán comprender los principales riesgos asociados a estas integraciones, identificar vulnerabilidades relevantes e incorporar esta validación a un pipeline de desarrollo más seguro.
Luego, aprenderemos a usar SkillSpector, herramienta open source de NVIDIA, para auditar skills paso a paso. Comenzaremos con análisis estático, que puede utilizarse sin necesidad de conectar un modelo externo, y avanzaremos hacia análisis apoyados por LLMs, capaces de aportar mayor contexto e identificar criticidades adicionales.
El objetivo es mostrar que incorporar una revisión básica antes de usar una skill no tiene por qué ser complejo, pero puede marcar una gran diferencia. Al finalizar, las y los participantes podrán comprender los principales riesgos asociados a estas integraciones, identificar vulnerabilidades relevantes e incorporar esta validación a un pipeline de desarrollo más seguro.
Register to join the workshop by Andrea Arredondo and Matias Muñoz
Register for free