Alors que les entreprises travaillent d'arrache-pied pour développer des modèles et des applications d'IA de plus en plus puissants, d'éminents experts en IA issus de la recherche et de l'industrie s'inquiètent de la rapidité de ces développements et mettent en garde contre les effets négatifs potentiels sur la société.

Le AI Safety Prize vise à récompenser les personnes qui identifient et signalent les failles de sécurité dans les systèmes d'IA. Ce prix est le premier du genre dans les pays germanophones et marque une étape importante dans la promotion de la sécurité de l'IA.