Während Unternehmen mit Hochdruck daran arbeiten, immer leistungsstärkere KI-Modelle und -Anwendungen zu entwickeln, zeigen sich führende KI-Expertinnen und Experten aus Forschung und Wirtschaft von der Geschwindigkeit dieser Entwicklungen besorgt und warnen vor den potenziellen negativen Auswirkungen auf die Gesellschaft.

Der AI Safety Prize ist darauf ausgerichtet, Personen zu belohnen, die Sicherheitslücken in KI-Systemen identifizieren und melden. Dieser Preis ist der Erste seiner Art im deutschsprachigen Raum und markiert einen wichtigen Schritt in der Förderung der KI-Sicherheit.