Künstliche Intelligenz – Chancen und Risiken: Der KI-Technologie soll ein europäischer Rechtsrahmen gegeben werden

Dr. Martina Hilger, Ellen Horstmann, Europaabteilung

„Künstliche Intelligenz (KI) bezeichnet Systeme mit einem „intelligenten“ Verhalten, die ihre Umgebung analysieren und mit einem gewissen Grad an Autonomie handeln, um bestimmte Ziele zu erreichen“. Die Entwicklung solcher intelligenten Systeme begann mit dem britischen Mathematiker Alan Turing, der im Zweiten Weltkrieg den Enigma-Code entschlüsselte. Er gilt als Vater der Computerwissenschaft und der KI. Seine „Turingmaschine“ aus den dreißiger Jahren des letzten Jahrhunderts gilt als Vorläufer des Computers und der Digitaltechnik. KI Anwendungen haben sich nun seit mehr als 70 Jahren parallel zu Fortschritten im Bereich der Hard- und Softwareentwicklungen weiterentwickelt. Der Informatiker John McCarthy prägte 1955 den Begriff „künstliche Intelligenz“. Als der IBM Schachcomputer Deep Blue 1996 den damals amtierenden Schachweltmeister Garri Kasparow schlug, war eine Maschine erstmals dem Menschen offensichtlich intellektuell überlegen. Mittlerweile gibt es viele Beispiele für KI, die wir in unserem täglichen Leben nutzen. Beispiele sind u.a. Online-Shopping und Werbung, digitale persönliche Assistenten, automatische Übersetzungen, intelligente Häuser, Städte und Infrastrukturen, selbstfahrende Autos sowie die Navigation von Fahrzeugen.

Angesichts der rasanten technologischen Entwicklungen im KI-Bereich und eines globalen politischen Kontextes, in dem immer mehr Länder stark in KI investieren, will man in der EU geschlossen handeln, um Chancen (Innovation, Wirtschaftswachstum und Lebensqualität) zu nutzen und die Herausforderungen (Schutz der Bürger:innen) zu bewältigen.

Erster Rechtsrahmen für KI weltweit

Die Europäische Kommission (KOM) hat dazu am 21. April 2021 ein Paket zum Thema KI vorgelegt (siehe dazu auch die entsprechende Pressemitteilung) Mit dem vorgelegten Verordnungsentwurf schlägt die KOM den weltweit ersten Rechtsrahmen für KI vor.

Ziel ist es, eine europäische Führungsposition auf Basis einer auf den Menschen konzentrierten, vertrauenswürdigen KI zu schaffen und den Einsatz von KI-Innovationen in allen Wirtschaftsbereichen zu fördern. Die KI-Standards des europäischen Binnenmarktimplementiert sollen perspektivisch auch global Anwendung finden. Jedes kommerzielle KI-System, das in der EU in den Verkehr gebracht wird, soll dem Rechtsrahmen unterliegen und zwar unabhängig davon ob die Anbieter:innen in oder außerhalb der EU ansässig sind. Einzig rein private, nicht gewerbliche Verwendungen unterfallen dem Verordnungsvorschlag ausdrücklich nicht.

Dazu verfolgt der Kommissionsvorschlag einen risikobasierten Ansatz mit abgestufter Regelungsdichte. Das heißt, der Rechtsrahmen knüpft rechtliche Folgen primär nicht an eine bestimmte Art von KI-Technologie, sondern an die mit deren Einsatz verbundenen Risiken.

Die KOM schlägt hierbei vier verschiedene Kategorien vor, wobei Anwendungen mit unannehmbarem Risiko, die gegen die Werte der EU und ihrer Grundrechte verstoßen, grundsätzlich verboten sein sollen. Zu den Anwendungen mit unannehmbaren Risiken zählt die KOM KI-Systeme, die öffentlichen Stellen eine Bewertung des sozialen Verhaltens ermöglichen (Social Scoring durch Behörden) oder Spielzeug mit Sprachassistenten, das Kindern zu gefährlichem Verhalten auffordert. Eine Sonderstellung in der Kategorie „Anwendung mit unannehmbarem Risiko“ sollen biometrische Echtzeit-Fernidentifizierungssysteme einnehmen, die zu Strafverfolgungszwecken im öffentlichen Raum eingesetzt werden. Ihr Einsatz soll nur mit Ausnahmen z.B. zur Suche nach Verbrechensopfern und vermissten Kindern, zur Abwendung eines drohenden Terroranschlags oder zur Erkennung und Identifizierung von Personen, die schwere Straftaten begangen haben oder derer verdächtig sind, zugelassen sein.

Risikobasierter Ansatz mit abgestufter Regelungsdichte

KI-Anwendungen mit hohem Risiko für die Gesundheit, Sicherheit oder für andere Grundrechte natürlicher Personen sollen auf dem europäischen Markt nur bei Erfüllung strenger Auflagen einsetzbar sein. Die KOM will dazu für alle KI-Systeme mit hohem Risiko verbindliche Vorgaben zum Umgang und Dokumentation etablieren. Als KI-Systeme mit hohen Risiko gelten etwa solche, die die biometrische Fernidentifizierung natürlicher Personen in Echtzeit oder rückwirkend ermöglichen oder die als Sicherheitskomponenten von kritischen Infrastrukturen eingesetzt werden. Ebenfalls zu dieser Gruppe werden KI-Systeme gezählt, die bei der Vergabe von Studien- und Ausbildungsplätzen, der Zugangsregelung zur Schul- und Berufsausbildung sowie zur Bewertung von Prüfungen oder im Bereich von Personalmanagement bei Einstellungsverfahren eingesetzt werden. Weiterhin fallen Anwendungen in diese Kategorie, die zur Prüfung der Voraussetzungen von privaten und öffentlichen Dienstleistungen genutzt werden und solche, die im Zusammenhang stehen mit der Nutzung von Strafverfolgungs- und Strafvollzugsbehörden sowie zum Migrations-, Asyl- und Grenzkontrollmanagement.

Bei KI-Anwendungen mit geringem Risiko sind nur besondere Transparenzpflichten einzuhalten; KI-Anwendungen mit minimalem Risiko können unter Einhaltung des allgemein geltenden Rechts ohne neue Pflichten entwickelt und verwendet werden.

Nach Einschätzung der KOM fällt die große Mehrheit der in der EU zurzeit eingesetzten KI-Systeme in diese Kategorie. Anbieter:innen solcher Systeme können freiwillig die Anforderungen an vertrauenswürdige KI anwenden und freiwillige Verhaltenskodizes einhalten.

Der zukunftweisende Gesetzesvorschlag muss nun vom Europäischen Parlament und von den Mitgliedstaaten diskutiert und angenommen werden. Sobald die Verordnungen verabschiedet sind, werden sie unmittelbar in der gesamten EU gelten.

Weiterführende Links: KI in Bremen [www.ki-in-bremen.de]