Das erste „Gesetz über künstliche Intelligenz“ der Welt wurde vom Europäischen Parlament verabschiedet.
Die Anwendung der Gesichtserkennung mittels intelligenter Kameras an öffentlichen Orten wird durch das Gesetz, das die Entwicklung, Nutzung und den Verkauf von Systemen der künstlichen Intelligenz regelt, verboten.
Das am Dienstag im Europäischen Parlament debattierte Gesetz zur künstlichen Intelligenz erlegt großen Modellen wie Midjourney und ChatGPT wertvolle Verpflichtungen auf, weltweit einen zuverlässigeren und transparenteren Standard zu setzen.
Die neue Regelung, über die am Mittwoch abgestimmt wurde, wurde vom Parlament mit großer Mehrheit angenommen.
Der Ausschuss der Europäischen Union kann Verhandlungen über die Umsetzung des Gesetzes sowohl mit dem Europäischen Parlament als auch mit den Mitgliedstaaten aufnehmen.
Die abschließenden Gespräche werden voraussichtlich Anfang nächsten Jahres abgeschlossen und das Gesetz soll bis 2024 in Kraft treten.
In der Verordnung wurde künstliche Intelligenz in vier Hauptkategorien definiert: „geringes Risiko, endliches Risiko, hohes Risiko und inakzeptabel“.
Das Gesetz enthält folgende Bestimmungen:
Künstliche Intelligenz mit minimalem Risiko wie Spamfilter und Videospiele sind zulässig.
Begrenzt riskante künstliche Intelligenz, wie etwa Chatbots auf Banken- oder Fluglinien-Websites, müssen Transparenzpflichten einhalten.
Hochriskante künstliche Intelligenz wie selbstfahrende Fahrzeuge und Roboterchirurgie werden strengen Kontrollen unterliegen.
Der Einsatz künstlicher Intelligenz für Social Scoring wird definitiv verboten. Beispielsweise werden Systeme, die wie in China das Verhalten von Bürgern analysieren und auf dieser Grundlage bewerten, nicht zugelassen.
Vor der Abstimmung gab es heftige Debatten über die in der Verordnung enthaltene „Echtzeit-Gesichtserkennung“.
Ziel der Verordnung war es, Menschen an öffentlichen Orten in Ausnahmefällen zu überprüfen und sofort zu identifizieren, um vermisste Kinder aufzuspüren oder Terroranschläge zu verhindern.
Die überwiegende Mehrheit der Gesetzgeber lehnte es mit der Begründung ab, es handele sich um eine „schwerwiegende Verletzung der Privatsphäre“.
Die Echtzeit-Gesichtserkennung wurde per Mehrheitsbeschluss verboten.
„Kann zur Beeinflussung von Wahlen genutzt werden“
Laut Margrethe Vestager, Mitglied des EU-Wettbewerbsausschusses, verfolgt die ganze Welt diese Verordnung aufmerksam, da es sich um das erste Gesetz zu diesem Thema handelt.
Vestager sagte gegenüber der BBC, dass das Potenzial künstlicher Intelligenz, Vorurteile oder Diskriminierung zu verstärken, ein kostbarer Ansturm sei.
„Wenn Ihr sozialer Hintergrund gescannt werden kann, um ein vollständiges Profil von Ihnen zu erhalten, ist das Risiko, manipuliert zu werden, enorm. Wenn wir in eine Situation geraten, in der wir an nichts glauben, dann untergraben wir unsere Gesellschaft völlig.“ sagte das Mitglied des EU-Ausschusses.
Vestager beschrieb die Regulierung als „Vogelscheuche“, um den größten Risiken der Technologie entgegenzuwirken, und betonte, dass die Regulierung global sein sollte.
Auch EU-Ausschussmitglied Vestager sagte, es bestehe die Gefahr, dass künstliche Intelligenz zur Beeinflussung der nächsten Wahlen eingesetzt werden könnte.
Das Europäische Parlament stimmte außerdem zu, dass die Auswirkungen des Einsatzes künstlicher Intelligenz weiterhin beobachtet werden sollten.
Nach Ansicht des Gesetzgebers scheint ein Algorithmus manchmal den Regeln zu folgen, in der Praxis kann jedoch das Gegenteil der Fall sein.
Viele Abgeordnete befürchten, dass künstliche Intelligenz in Zukunft große Probleme bereiten könnte, wenn es keine klaren Regeln gibt.
Der Gesetzentwurf zur künstlichen Intelligenz wurde 2021 vom EU-Ratsmitglied Thierry Breton vorgelegt.
T24