AI Act: 7 Elemente sollen entscheiden, was KI ist und was nicht

Neben dem Leitfaden für verbotene AI-Anwendungen hat die EU-Kommission nun auch einen Leitfaden herausgebracht, der Unternehmen dabei helfen soll, einschätzen zu können, ob sie mit ihren KI-System unter den AI Act fallen oder nicht. Grundlegend dabei ist die Definition, welche Software überhaupt als AI-System gilt.

„Das KI-Gesetz gilt nicht für alle Systeme, sondern nur für solche Systeme, die die Definition eines „KI-Systems“ im Sinne von Artikel 3 Absatz 1 des KI-Gesetzes erfüllen. Die Definition von
eines KI-Systems ist daher der Schlüssel zum Verständnis des Anwendungsbereichs des KI-Gesetzes“, heißt es dazu.

Also, bereitmachen: Bist du KI, oder bist du es nicht?

7 Punkte, die AI von Nicht-AI unterscheiden

Der Leitfaden listet 7 Punkte, die letztendlich darüber entscheiden, ob es sich um ein zu regulierendes KI-System handelt oder nicht. Prinzipiell sei von Fall zu Fall zu entscheiden, ob es ein AI-System ist oder nicht, es gebe „keine automatische Bestimmung oder erschöpfende Liste von Systemen, die entweder unter die Definition fallen würden oder nicht“.

Außerdem, so heißt es müssen nicht alle 7 Punkte erfüllt sein. Es gebe eine „Bau-Phase“ und eine „Nutzungsphase“ des Systems. „Die sieben in dieser Definition aufgeführten Elemente
müssen nicht durchgehend in beiden Phasen des Lebenszyklus vorhanden sein“, heißt es weiter.

Was sind also die 7 Elemente?

1. Maschinenbasiertes System

• Bezieht sich auf Hardware- und Software-Komponenten
• Umfasst physische Elemente wie Prozessoren, Speicher, Netzwerkkomponenten und Ein-/Ausgabeschnittstellen
• Schließt Software wie Computercode, Anweisungen, Programme und Betriebssysteme ein
• Beinhaltet auch fortschrittliche Quantencomputing-Systeme und biologische/organische Systeme, solange sie Rechenkapazität bieten

2. Autonomie

• System muss mit einem gewissen Grad an Unabhängigkeit von menschlichem Eingreifen arbeiten können
• Steht in enger Verbindung mit der Inferenzfähigkeit des Systems
• Schließt Systeme aus, die ausschließlich mit vollständiger manueller Steuerung arbeiten
• Menschliche Beteiligung kann direkt (manuelle Kontrollen) oder indirekt (automatisierte systembasierte Kontrollen) erfolgen

3. Anpassungsfähigkeit

• Bezieht sich auf selbstlernende Fähigkeiten, die das Systemverhalten während der Nutzung verändern können
• Ist eine optionale Eigenschaft – ein System muss nicht zwingend adaptiv sein, um als KI-System zu gelten
• Kann zu unterschiedlichen Ergebnissen für gleiche Eingaben führen

4. Zielsetzung

• Systeme arbeiten nach expliziten oder impliziten Zielen
• Explizite Ziele sind klar definierte, direkt im System codierte Ziele
• Implizite Ziele können sich aus Trainingsdaten oder Systeminteraktionen ergeben
• Ziele können sich vom beabsichtigten Verwendungszweck unterscheiden

5. Inferenz

• Zentrale, unverzichtbare Eigenschaft, die KI-Systeme von anderen Systemen unterscheidet
• Umfasst zwei Hauptaspekte:
  • Prozess der Ausgabengenerierung während der Nutzungsphase
  • Fähigkeit, Modelle oder Algorithmen aus Eingaben/Daten abzuleiten
• Verwendet verschiedene KI-Techniken wie maschinelles Lernen und wissensbasierte Ansätze

6. Art der Ausgaben

• Generiert vier Hauptkategorien von Ausgaben:
  • Vorhersagen: Schätzungen über unbekannte Werte
  • Inhalte: Generierung neuen Materials (Text, Bilder, Videos, Musik)
  • Empfehlungen: Vorschläge für spezifische Aktionen oder Dienste
  • Entscheidungen: Automatisierte Schlussfolgerungen ohne menschliches Eingreifen

7. Umgebungsinteraktion

• Ausgaben müssen physische oder virtuelle Umgebungen beeinflussen können
• Umfasst Einflüsse auf:
  • Physische Objekte (z.B. Roboterarm)
  • Virtuelle Umgebungen (digitale Räume, Datenflüsse, Software-Ökosysteme)