Das Europäische Parlament hat einen Beschluss gefasst, der die Forderung nach Kontrolle von künstlicher Intelligenz (KI) beinhaltet. Als wesentliche Eckpunkte wurde Folgendes definiert:

• Künstliche Intelligenz kann weder menschliche Entscheidungsfindung noch menschlichen Kontakt ersetzen
• EU-Strategie zum Verbot tödlicher autonomer Waffensysteme erforderlich
• Forderung nach Verbot von „hochgradig intrusiven Anwendungen zur Bewertung des sozialen Verhaltens“ durch Behörden
• Bedenken gegen „Deepfakes“

Künstliche Intelligenz muss menschlicher Kontrolle unterliegen, so dass Menschen sie im bei unvorhergesehenem Verhalten korrigieren oder abschalten können, so die Abgeordneten des Europa-Parlaments. Der am 20. Jänner 2021 mit 364 Stimmen bei 274 Gegenstimmen und 52 Enthaltungen angenommene Initiativbericht fordert einen EU-Rechtsrahmen für Künstliche Intelligenz (KI) mit Begriffsbestimmungen und ethischen Grundsätzen, anwendbar auch auf die militärische Nutzung. Der Bericht fordert die EU und ihre Mitgliedsstaaten auf, sicherzustellen, dass KI und verwandte Technologien menschenzentriert sind (d.h. im Dienste der Menschheit und des Gemeinwohls stehen).

Militärische Nutzung und menschliche Aufsicht

Die Abgeordneten betonen, dass die Menschenwürde und die Menschenrechte bei allen verteidigungsbezogenen Aktivitäten der EU respektiert werden müssen. KI-gestützte Systeme müssen dem Menschen eine sinnvolle Kontrolle ermöglichen, damit er die Verantwortung und Rechenschaftspflicht für ihren Einsatz wahrnehmen kann.

Der Einsatz von tödlichen autonomen Waffensystemen („Lethal autonomous weapon systems“, LAWS) werfe grundlegende ethische und rechtliche Fragen zur menschlichen Kontrolle auf, sagen die Abgeordneten und bekräftigen ihre Forderung nach einer EU-Strategie zu deren Verbot sowie nach einem Verbot von sogenannten „Killer-Robotern“. Die Entscheidung, ein Ziel auszuwählen und eine tödliche Maßnahme mit einem autonomen Waffensystem zu ergreifen, muss immer von einem Menschen getroffen werden, der eine angemessene Kontrolle und Aufsicht ausübt und das erforderliche Maß an Urteilsvermögen im Einklang mit den Grundsätzen der Verhältnismäßigkeit und der Notwendigkeit zeigt.

Der Text fordert die EU auf, eine führende Rolle bei der Schaffung und Förderung eines globalen Rahmens zur Regelung des militärischen Einsatzes von KI an der Seite der UNO und der internationalen Gemeinschaft zu übernehmen.

KI im öffentlichen Sektor

Der verstärkte Einsatz von KI-Systemen im öffentlichen Dienst, insbesondere im Gesundheits- und Justizwesen, dürfe nicht den menschlichen Kontakt ersetzen oder zu Diskriminierung führen, so die Abgeordneten. Menschen sollten immer informiert werden, wenn sie von einer Entscheidung betroffen sind, die auf KI basiert, und die Möglichkeit haben, diese anzufechten.

Beim Einsatz von KI im Gesundheitswesen (z.B. robotergestützte Chirurgie, intelligente Prothesen, prädiktive Medizin) müssen die persönlichen Daten der Patienten geschützt und der Grundsatz der Gleichbehandlung gewahrt werden. Während der Einsatz von KI-Technologien im Justizbereich helfen kann, Verfahren zu beschleunigen und rationellere Entscheidungen zu treffen, müssen endgültige Gerichtsentscheidungen von Menschen getroffen werden, streng von einer Person überprüft werden und einem ordentlichen Verfahren unterliegen.

Massenüberwachung und „Deepfakes“

Die Abgeordneten warnen auch vor Gefahren für die grundlegenden Menschenrechte und die staatliche Souveränität durch den Einsatz von KI-Technologien bei der zivilen und militärischen Massenüberwachung. Sie fordern ein Verbot für Behörden, „hochgradig intrusive Anwendungen zur Bewertung des sozialen Verhaltens“ („Social Scoring“, zur Überwachung und Bewertung von Bürgern) zu verwenden. Der Bericht äußert auch Bedenken gegen „Deepfake-Technologien“, weil mit derartigen Praktiken „potenziell Länder destabilisiert, Desinformationen verbreitet und Wahlen beeinflusst werden können“.

Kunst- und Kulturschaffende sollten verpflichtet werden, solches Material als „nicht original“ zu kennzeichnen, und es sollte mehr Forschung zu Technologien betrieben werden, um diesem Phänomen entgegenzuwirken.