fév.
18
AI Red-Teaming of Software Engineering Agents
Keynote
- Sujet: Emerging Technologies
- Heure: 18.02.2025, 14:00 à 14h30
- Lieu: Tech Stage
- Langue:
Les agents d'ingénierie logicielle basés sur l'IA sont en train de générer la majorité des futurs codes sources et de corriger de nombreuses vulnérabilités existantes. Il est donc crucial de sécuriser ces agents, en se concentrant sur la protection de leurs composants IA/LLM contre les menaces adverses. Cet exposé présentera les résultats d'un red-teaming d'agents de développement de logiciels open source, y compris les principaux composants des agents de génie logiciel modernes, les risques d'attaques adverses sur les composants AI/LLM et les défenses prometteuses.