Der EU AI Act ist das weltweit erste umfassende, risikobasierte Regelwerk für künstliche Intelligenz (KI) und trat am 2. August 2024 in Kraft. Ziel ist es, vertrauenswürdige, menschenzentrierte KI zu gewährleisten, welche die Grundrechte, die Sicherheit und die Gesundheit schützt und gleichzeitig Innovation sowie den Binnenmarkt fördert.
Anwendungsbereich
Die Verordnung gilt unmittelbar in allen EU-Mitgliedstaaten und entfaltet extraterritoriale Wirkung nach dem Marktortprinzip – das heisst, es ist massgeblich, ob ein KI-System oder dessen Output in der EU verwendet wird. Damit sind auch Schweizer Anbieter oder Betreiber erfasst, sofern sie KI-Systeme in der EU bereitstellen oder deren Ergebnisse in der EU genutzt werden.
Risikoklassen und Pflichten
- Unannehmbares Risiko (verboten): z. B. Social Scoring, manipulative Praktiken, ungezieltes Scraping biometrischer Datenbanken, Emotionserkennung in Schule oder Arbeitsplatz.
- Hohes Risiko: betrifft u. a. KI-Systeme in kritischer Infrastruktur, Beschäftigung, Bildung, Justiz, Strafverfolgung und biometrischer Identifizierung.
- Begrenztes Risiko: Transparenzpflichten (z. B. Kennzeichnung von Chatbots oder Deepfakes).
- Minimales Risiko: keine besonderen Pflichten.
Für Hochrisiko-Systeme bestehen umfangreiche Anforderungen an Risikomanagement, Datenqualität, Protokollierung, menschliche Aufsicht und Konformitätsbewertung.
Seit dem 2. August 2025 gelten besondere Vorschriften für Generative KI (GPAI), darunter Transparenzpflichten zu Trainingsdaten und Massnahmen bei systemischen Risiken.
Sanktionen
Verstösse können mit bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes geahndet werden. Kleinere Unternehmen profitieren von abgestuften Schwellenwerten.
Schweizer Perspektive
Die Schweiz hat die Europarats-KI-Konvention übernommen. Regulierungen sollen primär sektoral erfolgen (z. B. Datenschutz, Nichtdiskriminierung, Transparenz).
Für Schweizer Unternehmen ist der AI Act jedoch faktisch relevant, sobald sie KI-Produkte oder -Dienste in der EU anbieten oder verwenden.
