18
AI Robustness Challenges and Solutions
- Thema: Emerging Technologies
- Zeit: 18.02.2025, 13:30 bis 14:00 Uhr
- Standort: Tech Stage
- Sprache:
Grosse KI-Sprachmodelle (LLMs) und andere generative KI machen Intelligenz zur Massenware und automatisieren sie. Dies könnte dazu führen, dass Computerschädlinge sich verändern. In diesem Vortrag werden Beispiele für eine mögliche „Malware 2.0“ gezeigt und deren Funktionen erklärt. Ausserdem wird argumentiert, dass Fortschritte in der generativen KI eher Angreifern als Verteidigern zugutekommen. Somit steht zur Diskussion, wie sich die Sicherheitsstrategien anpassen müssen, um mit den Entwicklungen in der generativen KI Schritt zu halten.
Speaker
Prof. Dr. Florian Tramèr
Professor Dr. Florian Tramèr ist Assistenzprofessor für Informatik an der ETH Zürich und leitet das SPY-Labor. Als Mitglied des Instituts für Informationssicherheit (ZISC) und Lehrbeauftragter am Zentrum für Künstliche Intelligenz der ETH Zürich forscht er in den Bereichen Computersicherheit, maschinelles Lernen und Kryptografie. Er untersucht das Worst-Case-Verhalten von Deep-Learning-Systemen, um Bedrohungen für die Sicherheit und die Privatsphäre der Benutzer zu verstehen und zu entschärfen. Er promovierte an der Stanford University und verbrachte ein Jahr bei Google Brain.