Europas Antwort auf den KI-Boom: Der AI-Act im Fokus

Von autonomen Fahrzeugen über intelligente Sprachassistenten bis hin zu personalisierten Empfehlungssystemen - KI revolutioniert unsere Art zu arbeiten, zu kommunizieren und zu leben. Angesichts der beispiellosen Fortschritte und der damit einhergehenden Chancen und Herausforderungen ist es kein Wunder, dass KI momentan in aller Munde ist. Doch auch Befürchtungen und Ängste um mögliche Verluste von Arbeitsplätzen, Gefährdung der Demokratie durch Verbreitung von Fake News, sowie Verletzungen von Urheberrechten und vieles mehr prägen die aktuelle Diskussion.

Das erste umfassende KI-Gesetz der Welt – der «AI Act»

Die enormen Auswirkungen, die KI schon jetzt auf verschiedene Bereiche unseres Lebens hat, hat die Europäische Union (EU) dazu bewogen, einen gesetzlichen Rahmen zu implementieren, der Künstliche Intelligenz stärker regulieren soll. In Brüssel ist man sich einig, dass es unerlässlich ist, eine klare und umfassende Strategie zu entwickeln, um die Potenziale von KI zu nutzen, während man gleichzeitig sicherstellt, dass sich jede Nutzung von KI im Einklang mit den ethischen Prinzipien und Grundwerten der EU befindet.

Der Entwurf des AI-Acts wurde ursprünglich im Jahr 2021 von der Europäischen Kommission lanciert. Nach der Abstimmung im Europaparlament am 14. Juni 2023 ging er in den sogenannten Trilog über, wo die EU-Staaten bis vor kurzem über den Gesetzesentwurf verhandelt haben.

Während der Trilogverhandlungen, die informelle Dreiergespräche zwischen Vertreterinnen und Vertretern des Parlaments, des Rates und der Kommission sind, wurde der Gesetzesentwurf ausgearbeitet. Am 08. Dezember war es dann soweit, und die Verhandlungen wurden erfolgreich abgeschlossen. Nach einem letzten dreitägigen Verhandlungsmarathon wurde der AI-Act verabschiedet. Jetzt folgt eine zweijährige Umsetzungsphase, bevor das Gesetz Anwendung findet. Innerhalb dieser Übergangsphase sieht die EU-Kommission eine freiwillige Einhaltung des AI-Acts von Seiten der Unternehmen vor. Final und rechtlich bindend sollen die neuen Regeln frühestens im Jahr 2026 werden.

Welche Auswirkungen wird der AI-Act auf den Einsatz von Künstlicher Intelligenz haben?

Der gebilligte AI-Act markiert einen bedeutenden Meilenstein in der weltweiten Regulierung von Künstlicher Intelligenz. Europa ist damit der erste Kontinent, der die Nutzung von KI eindeutig reglementiert.  Die vorgeschlagene KI-Regulierung zielt darauf ab, sicherzustellen, dass Europäer:innen dem vertrauen können, was KI produziert, und garantiert, dass KI-Systeme uns Menschen keinen Schaden zufügen. Die bestehenden Grundrechte und Werte der Union sollen gewahrt und die effektive Durchsetzung des geltenden Rechts gestärkt werden. Folglich stehen Menschen und Rechtssicherheit im Mittelpunkt des Regulierungsvorschlags. Diese rechtlichen und ethischen Anforderungen sollen sich insbesondere positiv auf die Förderung von Investitionen in KI und die Entwicklung des Binnenmarkts der EU auswirken.

Gemäss der EU-KI-Verordnung greifen die Anforderungen des EU-KI-Gesetzes, wenn ein KI-System innerhalb der Europäischen Union einem Menschen Schaden zufügen kann. Um dies zu gewährleisten, führt die EU KI-Verordnung drei Kategorien von Künstlicher Intelligenz ein, die jeweils unterschiedlich reguliert werden sollen: Verbotene KI-Systeme, Hochrisiko KI-Systeme und KI-Systeme mit begrenztem oder minimalem Risiko.

KI-Systeme mit einem als inakzeptabel klassifizierten Risiko werden grundsätzlich verboten. Darunter fällt jegliche Nutzung von KI, die europäischen Grundrechten fundamental widerspricht. Ein Beispiel dafür sind biometrische Identifikationssysteme und deren Nutzbarmachung für sog. Social-Scoring Systeme wie sie in China zum Einsatz kommen.

Die zweite Kategorie, KI-Systeme mit hohem Risiko sollen nicht verboten, aber reguliert werden, d.h. sie müssen bestimmten rechtlichen Anforderungen entsprechen und vor der Einführung in den Markt einem Konformitätsbewertungsverfahren unterzogen werden. Ein wichtiger Aspekt hierbei ist die stetige menschliche Überwachung und Kontrolle solcher Systeme. Die Definition der Hoch-Risiko KI-Systeme ist im Gesetz sehr komplex und weit gefasst. Grundsätzlich umfasst dies KI-Systeme, «die erhebliche Risiken für die Gesundheit und Sicherheit oder die Grundrechte von Personen bergen». KI-Systeme, die in wichtige Bereiche des öffentlichen Lebens, wie kritische Infrastrukturen, Bildung, Arbeitsplatz, Zugang zu Dienstleistungen, Strafverfolgung, Migration und Asyl sowie Rechtspflege und demokratische Prozesse eingreifen, bergen oftmals ein solches hohes Risikopotenzial.

Unter die Kategorie KI-Systeme mit begrenztem Risiko fallen KI-Systeme, die mit Menschen interagieren, wie z.B. Chatbots. Diese sind Transparenzauflagen unterworfen, d.h. Personen muss mitgeteilt werden, dass sie mit einem KI-System interagieren. KI-Systeme mit „minimalem Risiko“, z.B. Spamfilter, sind vom Geltungsbereich der Verordnung gänzlich ausgenommen.

Konkret finden die Bestimmungen des KI-Gesetzes Anwendung, sobald ein KI-System auf dem EU-Markt betrieben, vertrieben oder genutzt wird (auch wenn der Betreiber, Anbieter oder der Entwickler ausserhalb der Union ansässig sind). Das Gesetz sieht harte Strafen bei Nichteinhaltung vor, wobei Unternehmen mit Geldbussen von bis zu 35 Millionen Euro oder 7% ihres weltweiten Einkommens belegt werden können. Zusätzlich können Geldbussen auch bei Vorlage falscher oder irreführender Dokumentation an Aufsichtsbehörden verhängt werden.

Der Rat hat spezifische Sonderregelungen für Strafverfolgungsbehörden implementiert. Eine dieser Regelungen erlaubt es, vom Vier-Augen-Prinzip abzuweichen, wenn das nationale Recht dies als unverhältnismässig einstuft. Ausserdem sind sensible Betriebsdaten von den Transparenzanforderungen ausgenommen. Anbieter und öffentliche Einrichtungen, die Hochrisikosysteme einsetzen, sind verpflichtet, diese in einer EU-Datenbank zu registrieren. Für Polizei- und Migrationskontrollbehörden existiert ein spezieller, nicht-öffentlicher Bereich in dieser Datenbank, der ausschließlich einer unabhängigen Aufsichtsbehörde zugänglich ist. In Ausnahmefällen, die mit der öffentlichen Sicherheit zusammenhängen, dürfen Strafverfolgungsbehörden Hochrisikosysteme ohne das standardmässige Konformitätsbewertungsverfahren nutzen, vorausgesetzt, sie erhalten eine richterliche Genehmigung.

Zusätzlich wurde auf Initiative Frankreichs eine weitreichende Ausnahmeregelung für alle KI-Systeme eingeführt, die für verteidigungspolitische und militärische Zwecke genutzt werden. Es wurde klargestellt, dass diese Regelung in Übereinstimmung mit den EU-Verträgen steht.

Um eine einheitliche Anwendung der Verordnung in der gesamten EU sicherzustellen, ist die Einrichtung eines Europäischen KI-Boards geplant. Dieses Gremium soll die Umsetzung überwachen, Stellungnahmen und Empfehlungen zu aufkommenden Fragen veröffentlichen und nationale Behörden beraten. Es ist vorgesehen, dass das KI-Board die verschiedenen Interessen der Akteure innerhalb KI-Branche widerspiegelt und aus Vertretern der Mitgliedstaaten besteht.

Was sind die nächsten Schritte?

Nach der Verabschiedung des KI-Gesetzes stehen weitere Schritte an, um die Bestimmungen effektiv umzusetzen und die Ziele des Gesetzes zu erreichen. Im Folgenden werden diese nächsten Schritte genauer erläutert.

• Fortlaufende Evaluation und Anpassung: Regelmässige Bewertung der Wirksamkeit und Auswirkungen des KI-Gesetzes und die notwendigen Anpassungen, um neuen Herausforderungen und technologischen Entwicklungen gerecht zu werden.
• Robuste Prüfung und Zertifizierung: Einrichtung strenger Prüfungs- und Zertifizierungsverfahren für KI-Systeme, insbesondere für solche, die als hochriskant eingestuft werden. Umfassende Bewertungen der Leistungsfähigkeit, Zuverlässigkeit und Sicherheit von KI-Systemen können deren Verlässlichkeit gewährleisten und potenzielle Schäden verhindern.
• Ethikrichtlinien: Entwicklung und Annahme umfassender ethischer Leitlinien, die Grundsätze wie Fairness, Transparenz, Verantwortlichkeit, Privatsphäre abdecken. Die Einhaltung dieser Grundsätze fördert das Vertrauen der Benutzer und Interessengruppen.
• Öffentliches Bewusstsein und Bildung: Ermächtigung der Menschen, informierte Entscheidungen über die Nutzung von KI zu treffen und sich an Debatten über ihre gesellschaftliche Auswirkung zu beteiligen. Digitale Kompetenz und das Fördern von Verständnis tragen zu einer verantwortungsvolleren und informierten Nutzung von KI-Technologien bei.
• Internationale Zusammenarbeit: Förderung der internationalen Zusammenarbeit und Zusammenarbeit zwischen Regierungen, Organisationen und Experten, um gemeinsame Standards und bewährte Praktiken für verlässliche KI festzulegen.
• Fortlaufende Forschung und Entwicklung: Fortschritte in diesen Bereichen tragen zur Verbesserung von KI-Systemen bei und adressieren potenzielle Vorurteile, Fehler oder unbeabsichtigte Konsequenzen.

Diese Schritte sind entscheidend, um ein vertrauenswürdiges KI-Ökosystem zu fördern, das sowohl Individuen, Organisationen als auch der Gesellschaft insgesamt zugute kommt. Das KI-Gesetz bildet die Grundlage, erfordert jedoch gemeinsame Anstrengungen und kontinuierliches Engagement, um die Herausforderungen anzugehen und sicherzustellen, dass KI eine positive Kraft bleibt. Gemeinsam könnte man die Zukunft von KI gestalten, indem man menschliche Werte, Fairness und Transparenz priorisieren und Vertrauen in die Technologie schaffen, die unsere Welt verändert.

Der AI-Act der EU: Was bedeutet das für die Schweiz?

Insgesamt ist es wahrscheinlich, dass der AI-Act der EU auch die Schweizer Legislative dazu anregt, ihre eigenen Vorschriften und Strategien im Bereich der KI zu überdenken und anzupassen, um so die Zusammenarbeit mit EU-Mitgliedstaaten zu erleichtern. Die genauen Auswirkungen hängen jedoch von den konkreten Vereinbarungen und Umsetzungsmechanismen ab, die zwischen der Schweiz und der EU ausgehandelt werden.

Ein Bereich, der betroffen sein wird, ist der Handel und die Marktregulierung. Der AI-Act führt neue Vorschriften und Standards für KI-Anwendungen ein. Wenn die Schweiz die intensiven Handelsbeziehungen mit der EU aufrechterhalten möchte und Dienstleistungen und Produkte im Bereich der KI auf dem EU-Markt absetzen will, wird sie die Anforderungen und Bestimmungen des AI-Act erfüllen müssen. Viele Schweizer Unternehmen, die KI-Technologien entwickeln oder anbieten, könnten deshalb in Zukunft von den Auswirkungen betroffen sein.

Auch die Gesetzgebung im Datenschutz wird beeinflusst. Der AI-Act legt Regeln für den Austausch von Daten fest, die für den Betrieb von KI-Systemen verwendet werden. Wenn die Schweiz Daten mit EU-Mitgliedstaaten austauschen möchte, müssen möglicherweise die Datenschutz- und Datensicherheitsanforderungen des AI-Act erfüllt werden. Dies kann Auswirkungen auf Unternehmen und Organisationen haben, die grenzüberschreitend mit Daten arbeiten.

Der AI-Act schafft ausserdem einheitliche Standards für den Einsatz von KI-Technologien. Die Schweiz könnte sich an diesen Bemühungen beteiligen und von der gemeinsamen Entwicklung von Standards und Best Practices profitieren. Dies würde die Interoperabilität von KI-Systemen verbessern und den Austausch von Fachwissen und Erfahrungen fördern. Darüber hinaus wird dem AI-Act wohl generell eine internationale Tragweite zukommen. Er setzt bisher einzigartige Massstäbe für den Umgang mit KI und kann als Vorbild für andere Länder und Regionen dienen. Die Schweiz, die im Hinblick auf Forschung und Entwicklung an KI-Systemen sehr fortgeschritten ist, kann von diesem globalen Trend profitieren und ihre Position als Innovationsstandort stärken.

Die sozialdemokratische Fraktion der Schweiz hatte Mitte des Jahres den Bundesrat schon aufgefordert, die Grundlagen zu schaffen für ein Gesetz, welches im Wesentlichen dem AI-Act gleicht bzw. bestmöglich mit diesem Gesetz kompatibel ist. In einer Stellungnahme liess der Bundesrat verlauten, dass er die Entwicklung des AI-Acts genau beobachte und grundsätzlich eine ähnliche Digitalisierungspolitik verfolge wie die EU. Damit ist auch gemeint, dass ein KI-Gesetz das Ziel ist, welches bestmöglich mit den europäischen Gesetzen harmoniert. Dennoch müsse man zunächst das Endresultat in der EU abwarten. Da dies nun vorhanden ist kann man davon ausgehen, dass bald auch der Schweizer Bundesrat aktiv wird.

Abschliessend lässt sich sagen, dass der AI-Act der EU die Schweiz in verschiedenen Bereichen beeinflussen wird, insbesondere in Bezug auf Handel, Datenaustausch, Zusammenarbeit und internationale Standards. Die genauen Auswirkungen werden jedoch von der Umsetzung und Interpretation des AI-Act von Seiten der Schweizer Politik abhängen, und es wird wichtig sein, die Entwicklungen in diesem Bereich aufmerksam zu verfolgen.