Generative AI: Kennzeichnungspflicht für AI-generierte Texte, Bilder und Videos

Mit einer großen Mehrheit von 499 zu 28 Stimmen (bei 93 Enthaltungen) hat das EU-Parlament heute dem Vorschlag zu einer EU-weiten Verordnung über künstliche Intelligenz (aka AI Act) zugestimmt. Das ist nun die Grundvoraussetzung für den Trilog des EU-Parlaments mit den EU-Mitgliedsstaaten, wo noch im Detail erörtert werden wird, wie was und wann genau in den einzelnen Ländern kommt.

Fest steht aber jeden falls die Bahnen, in die KI gelenkt werden soll. Zentral dabei sind die Abstufungen die genommen wurden – von verbotener AI bis hin zu KIs mit begrenztem Risiko. Hier der Überblick:

Verbotene KI

• biometrische Systeme, die es ermöglichen, Personen in Echtzeit oder nachträglich an öffentlich zugänglichen Orten aus der Ferne zu identifizieren,
• Systeme zur biometrischen Kategorisierung anhand sensibler Merkmale (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsbürgerschaft, Religion oder politische Orientierung),
• vorausschauende Polizeiarbeit (Predictive Policing; die mit Profilerstellung und Standortermittlung arbeitet und aufgrund früheren kriminellen Verhaltens abschätzt, inwieweit eine Person Gefahr läuft, straffällig zu werden),
• in der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen verwendete Emotionserkennungssysteme und
• das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre)

Hier gibt es aber auch Ausnahmen, und zwar dann, wenn es darum geht, nachträglich eine „biometrische Fernidentifizierung“ zu machen, also dann, wenn die Identifizierung erst mit erheblicher Verzögerung erfolgt. Außerdem sind Ausnahmen „zur Verfolgung schwerer Straftaten und nur nach gerichtlicher Genehmigung“ vorgesehen.

UN-Generalsekretär Guterres fordert KI-Aufsichtsbehörde

Hochrisiko-KI

Wie bereits mehrmals berichtet, wollen die EU-Parlamentarier:innen, dass bestimmte KI-Anwendungen nicht grundsätzlich verboten werden, aber von einer europäischen KI-Behörde registriert und zugelassen werden müssen. Dazu zählen:

1. KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Dazu gehören Spielzeug, Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge.
2. KI-Systeme, die in acht spezifische Bereiche fallen, und die in einer EU-Datenbank registriert werden müssen:
   • biometrische Identifizierung und Kategorisierung von natürlichen Personen
   • Verwaltung und Betrieb von kritischen Infrastrukturen
   • allgemeine und berufliche Bildung
   • Beschäftigung, Verwaltung der Arbeitnehmer und Zugang zur Selbstständigkeit
   • Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen
   • Strafverfolgung
   • Verwaltung von Migration, Asyl und Grenzkontrollen
   • Unterstützung bei der Auslegung und Anwendung von Gesetzen

Das bedeutet für die Anbieter bzw. die Unternehmen, die solche KI-Systeme einsetzen wollen, dass sie „vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet“ werden, heißt es.

Generative AI

In Reaktion auf den Boom rund um generative KI wie ChatGPT, Runway, Dall-E, Midjourney und Co, die automatisiert Texte, Bilder, Videos oder Computer-Code produzieren können, wird es auch für diese Systeme spezielle Regeln geben und zwar:

• Offenlegung, dass der Inhalt durch KI generiert wurde
• Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt
• Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden

Viele andere KI-Anwendungen werden unter „begrenztes Risiko“ fallen, aber selbst für diese wird es natürlich Regeln geben. „KI-Systeme mit begrenztem Risiko sollten minimale Transparenzanforderungen erfüllen, die es den Nutzern ermöglichen, fundierte Entscheidungen zu treffen“, heißt es aus dem EU-Parlament. „Nach der Interaktion mit den Anwendungen kann der Nutzer dann entscheiden, ob er sie weiter verwenden möchte. Die Nutzer sollten darauf aufmerksam gemacht werden, wenn sie mit KI interagieren. Dies gilt auch für KI-Systeme, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren (zum Beispiel Deepfakes).“

AI Act: Das ist die erste Regulierung für künstliche Intelligenz in der EU