← Volver a NERDflix

This isn't the hack you are looking for: defending against prompt injection and other AI mind tricks

Protagonista: Daniel Ciolek
Año: 2024
País: Argentina
Género: Terror
Track: Security
Idioma: Español

En una galaxia no tan lejana, la inteligencia artificial (AI) ha infiltrado casi todos los aspectos de nuestro universo digital. A medida que ampliamos los límites de lo que estos sistemas inteligentes pueden hacer, también abrimos inadvertidamente la puerta a una gran variedad de amenazas de seguridad que son poco comprendidas y a menudo pasadas por alto. Esta charla se explora las vulnerabilidades que afectan a los modelos de AI generativos, incluyendo prompt injection, jailbreaking y data poisoning, y explora estrategias prácticas para fortalecer los sistemas contra estos ataques. El prompt injection es una amenaza sutil pero potente, donde se diseñan inputs maliciosos para engañar a la AI y producir resultados no deseados. Exploraremos cómo operan estos inputs, demostraremos su posible impacto y discutiremos medidas para prevenirlo. El jailbreaking busca eludir las restricciones operativas establecidas por los desarrolladores para explotar los sistemas de AI más allá de su propósito previsto. Describiremos cómo los atacantes evitan las restricciones de la AI y los pasos que se pueden tomar para asegurar los sistemas contra tales explotaciones. El data poisoning, implica manipular los datos usados por la AI para inducir una toma de decisiones defectuosa. Esto puede llevar a resultados sesgados o distorsionados. Examinaremos cómo ocurre esto e introduciremos técnicas para sanitizar los datos y validar los modelos de AI para asegurar su integridad y precisión. A lo largo de la charla nos centraremos en estrategias de mitigación robustas diseñadas para proteger las implementaciones de AI. Compartiremos un conjunto de medidas preventivas y mejores prácticas que se pueden emplear para proteger contra estas amenazas emergentes.

security

This isn't the hack you are looking for: defending against prompt injection and other AI mind tricks

Sobre Daniel Ciolek

Daniel Ciolek

Head of Research and Development at InvGate

Daniel es un profesional IT apasionado con más de 15 años de experiencia en la industria. Doctor en ciencias de la computación de la facultad de ciencias exactas de la UBA y profesor de la Universidad de Quilmes. Sus intereses abarcan múltiples áreas, como la Inteligencia Artificial, la Ingeniería del Software, y la Computación de Alta Performance. Actualmente Daniel es el Head de R&D en InvGate. Trabaja junto a los equipos producto y desarrollo para ejecutar la estrategia de innovación de la compañía.