Am 14. März 2024 hat der Ausschuss für künstliche Intelligenz (Committee on Artificial Intelligence, CAI) des Europarates den Entwurf für das erste rechtsverbindliche internationale Übereinkommen über künstliche Intelligenz (KI) fertiggestellt und angenommen. Dieses soll gewährleisten, dass der Einsatz von KI im Einklang mit den Rechtsnormen in Bezug auf Menschenrechte, Demokratie und Rechtsstaatlichkeit erfolgt. Die Schweiz hat sich aktiv an den Verhandlungen beteiligt und begrüsst das Ergebnis.
Céliane Pochon, International Relations
Bis zu seinem Inkrafttreten muss das neue «Rahmenübereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit» noch zwei Hürden nehmen: Es muss vom Ministerkomitee des Europarates in den kommenden Wochen formell verabschiedet und im Anschluss daran von den Staaten unterzeichnet werden. Falls die Schweiz das Übereinkommen ratifiziert, wird dieses für unser Land rechtlich bindend und muss in das innerstaatliche Recht überführt werden. Im Zuge der Prüfung möglicher Regulierungsansätze für künstliche Intelligenz, welche der Bundesrat am 22. November 2023 in Auftrag gegeben hat, wird das UVEK bis Ende 2024 untersuchen, welche Anpassungen dafür nötig sind.
Das Übereinkommen schafft einen gemeinsamen und rechtsverbindlichen Rahmen, der sicherstellt, dass die Normen des Europarates in Bezug auf Menschenrechte, Demokratie und Rechtsstaatlichkeit auch bei der Entwicklung und Nutzung von KI eingehalten werden. Es fördert über die Grenzen Europas hinaus einen umfassenden Ansatz für den Umgang mit KI. Darin unterscheidet es sich beispielsweise vom KI-Gesetz der EU. Tatsächlich haben nebst den europäischen Ländern auch mehrere Beobachterstaaten an der Ausarbeitung des Textes mitgewirkt, nämlich Argentinien, Australien, Costa Rica, Israel, Japan, Kanada, Mexiko, Peru, Uruguay, der Vatikan und die Vereinigten Staaten. Über 70 Organisationen der Zivilgesellschaft sowie Delegierte der Industrie und internationaler Organisationen waren ebenfalls daran beteiligt. Der Schweizer Delegation gehörten Vertreterinnen und Vertreter des Eidgenössischen Departements für auswärtige Angelegenheiten (EDA), des Bundesamts für Justiz (BJ) und des Bundesamts für Kommunikation (BAKOM) an.
Das Übereinkommen nennt zunächst die Grundsätze für Tätigkeiten innerhalb des Lebenszyklus von KI-Systemen. Weiter definiert es die Einsprachemöglichkeiten und den Rahmen für die Beurteilung und Milderung von Risiken und nachteiligen Folgen. Die Umsetzung des Übereinkommens wird ebenfalls im Detail festgelegt und durch einen Monitoring- und Zusammenarbeitsmechanismus sowie durch Schlussbestimmungen ergänzt.
Mehr Spielraum für den Privatsektor
Das Rahmenübereinkommen gilt sowohl für private als auch für staatliche Akteure. Allerdings können die Staaten recht frei entscheiden, mit welchen Mitteln sie die Ziele des Übereinkommens erreichen wollen. Für Tätigkeiten, die von der öffentlichen Hand oder in deren Auftrag von Privaten wahrgenommen werden, gelten die Bestimmungen des Übereinkommens vorbehaltlos. Im Hinblick auf Tätigkeiten des Privatsektors wurde eine Formulierung gewählt, die mehr Flexibilität zulässt: Der Umgang mit Risiken und Auswirkungen, die von Handlungen privater Akteure ausgehen, muss von den Staaten auf eine Art und Weise geregelt werden, die mit dem Gegenstand und dem Zweck des Übereinkommens im Einklang steht.
Aus Sicht des Ministerkomitees des Europarates war die Erarbeitung einer Übereinkunft über KI dringlich. Für die Aushandlung des Textes hatte der CAI deshalb nur rund eineinhalb Jahre Zeit. Das ist sehr knapp. Die Verhandlungen wurden von Botschafter Thomas Schneider geleitet, seines Zeichens BAKOM-Vizedirektor und Vorsitzender des CAI. Eine der grössten Hausforderungen war es, einen für alle Beteiligten annehmbaren Kompromiss betreffend den Geltungsbereich des Übereinkommens zu finden. Die EU und die Vertreterinnen und Vertreter der Zivilgesellschaft plädierten dafür, das Abkommen müsse unterschiedslos auf private und staatliche Akteure anwendbar sein. Andere Länder dagegen vertraten die Ansicht, die Bestimmungen sollten in erster Linie für die Staaten gelten und nicht unmittelbar für Private.
Der erzielte Kompromiss trägt dem Umstand Rechnung, dass die Möglichkeiten, private Akteure in die Pflicht zu nehmen, je nach Land unterschiedlich sein können. Gleichzeitig appelliert er an alle Staaten, die Ziele des Übereinkommens als für alle Akteure verbindlich zu betrachten. Dieser Kompromiss entspricht dem Verhandlungsmandat der Schweiz, welches eine differenzierte Verantwortung von öffentlichen und privaten Akteuren forderte. Nach intensiven Verhandlungen wurde ausserdem beschlossen, dass die Vertragsparteien die Anwendbarkeit des Übereinkommens auf Tätigkeiten, welche die nationale Sicherheit betreffen, ausschliessen können. Dessen ungeachtet müssen solche Tätigkeiten im Einklang mit den völkerrechtlichen Verpflichtungen der jeweiligen Staaten stehen.
Kontroverse Reaktionen
Eine grosse Zahl von Organisationen der Zivilgesellschaft zeigten sich angesichts des Ergebnisses enttäuscht, denn sie hatten sich von diesem Übereinkommen mehr erwartet. Zahlreiche Vertreterinnen und Vertreter der Staaten sowie der Wissenschaft dagegen begrüssten es, dass in einer Zeit, in der weltweite Regelungen tendenziell an Bedeutung einbüssen, eine Einigung über ein neues Rechtsinstrument mit globalem Anspruch zustande gekommen ist.
Nützliche Links:
Wortlaut des Übereinkommens
Letzte Änderung 22.04.2024