AI Act wird harte Regeln für ChatGPT und Co. bringen
Seit 2021 wird bereits verhandelt, zuletzt ist noch einmal Unruhe hineingekommen: Denn in den Endzügen der Verhandlungen der EU-Parlamentarier:innen des geplanten AI Act ist plötzlich rund um ChatGPT eine neue Welle an generativer AI-Systeme über die Welt hereingebrochen, die dramatisch ändern, wie Content und Code produziert werden kann. Wie nun die in solchen Dingen immer gut informierte Nachrichten-Plattform Euractiv berichtet, sollen sich die Verhandler:innen im EU-Parlament nun auf strengere Regeln für Basismodelle wie ChatGPT geeinigt haben.
Das soll aus einem „fortgeschrittenen Kompromisstext“ hervorgehen, der Euractiv vorliegt. So ist nun geplant, KI-Basismodelle wie GPT-4 von OpenAI, LaMDA von Google oder StableLM von Stability AI, die allesamt auf generative KI spezialisiert sind, von so genannter Artificial General Intelligence (AGI) – also allgemeiner Künstlicher Intelligenz – zu unterscheiden. Basismodelle werden als Unterkategorie von AGI behandelt, und Euractiv zufolge müssen diese generativen KI-Modelle im Einklang mit dem EU-Recht und den Grundrechten, einschließlich der Meinungsfreiheit, entworfen und entwickelt werden. KI-Systeme werden, wie bereits zu erwarten war, in Risikostufen von „minimal“ über „begrenzt“ und „hoch“ bis „inakzeptabel“ eingestuft werden.
Auch wenn es dazu noch keine genaueren Details gibt, ist das natürlich brisant. Denn gerade bei den generativen KIs wie eben GPT-4 (unter anderem auch in Microsoft Suchmaschine Bing integriert) geht es stark darum, mit welchen Daten diese trainiert wurden. OpenAI, das Unternehmen hinter GPT-4, etwa hat noch nicht genau offen gelegt, mit welchen Daten GPT-3 oder GPT-4 trainiert wurden. Elon Musk etwa drohte Microsoft, einem engen Partner von OpenAI, bereits mit einer Klage. Er verdächtigt das Unternehmen, Twitter-Daten via API bezogen zu haben, um die LLMs (Large Language Models, Anm.) zu trainieren, allerdings ohne Zustimmung von Twitter oder seiner Nutzer:innen.
AI Act: Entwickler:innen sollen Copyrights von Trainings-Inhalten offenlegen
Copyright-Fragen müssen gelöst werden
Auch bei Publishern weltweit ist die Frage des Copyright aufgekommen. Durften OpenAI und Co in den letzten Jahren ihre KI-Modelle mit Texten oder Bildern überhaupt trainieren, und darf Microsoft dann diese Sprachmodelle zu kommerziellen Zwecken einsetzen? Microsoft hat Publishern und Content Creators bereits die Hand hingestreckt und will sie an Werbeeinnahmen der Suchmaschine Bing, die um GPT-4 aufgerüstet wurde, beteiligen. Währenddessen hat Getty Images, eine der größten Bildagenturen der Welt, Stability AI verklagt. Offenbar hatte das Startup einfach Getty-Fotos verwendet, um Stable Diffusion zu trainieren. Deswegen will die EU wie berichtet von den Anbietern diese KI-Modelle, dass sie offenlegen, mit welchen Daten diese trainiert wurden.
Beim AI Act geht es weiters darum, was nun als Hochrisiko eingestuft wird (und damit strengen Auflagen unterliegt) und was komplett verboten wird. Da gibt es offenbar einen Kuhhandel zwischen der konservativen Europäischen Volkspartei (EVP) und linken Fraktionen. So wurde das geplante Verbot, KI-gestützte Werkzeuge für die allgemeine Überwachung der zwischenmenschlichen Kommunikation zu verbieten. Der Vorschlag wurde nach dem Widerstand der konservativen Europäischen Volkspartei (EVP) fallen gelassen. Die Mitte-Rechts-Fraktion akzeptierte dafür eine Ausweitung des Verbots von Software zur biometrischen Identifizierung. Diese AI-gestützte Erkennungssoftware, die ursprünglich nur für den Echtzeit-Gebrauch verboten werden sollte, darf nun voraussichtlich nur mehr bei bei schweren Straftaten und mit vorheriger gerichtlicher Genehmigung verwendet werden. Zuvor forderte Amnesty International, die biometrische Fernidentifizierung zusätzlich zur Live-Identifizierung (in Echtzeit) in allen Zusammenhängen, einschließlich Migration und Grenzverwaltung, zu verbieten, um Menschenrechte zu wahren.
Wie geht es nun weiter? Gegenüber Euractiv wurde nun verkündet, dass alle Fraktionen den Kompromiss unterstützen müssten, es gebe keine Möglichkeit, alternative Änderungsanträge einzubringen. Am 11. Mai wird der Ausschuss im EU-Parlament über den AI Act abstimmen, das Plenum dann Mitte Juni. Danach ist der Weg frei, um in die Umsetzung zu gehen. In die Feinabstimmung geht es dann in den einzelnen Mitgliedsstaaten.
AI Act: Verhandlung verzögert sich – Kritik von Staatssekretär Florian Tursky
