EU-Kommission: Gesetz für die Anwendung künstlicher Intelligenz in Ausarbeitung
Vier Prozent des weltweiten Jahresumsatzes (maximal allerdings 20 Million Euro) Strafe drohen Unternehmen, wenn sie gegen eine Reihe verbotener Anwendungsfälle beim Einsatz von künstlicher Intelligenz verstoßen. Das geht aus einem durchgesickerten Entwurf der KI-Verordnung hervor, der nächste Woche offiziell vorgestellt werden soll. Glücklich sind damit aber nicht alle Parteien.
Social Scoring wird verboten
Der Plan, KI zu regulieren, steht schon seit einer Weile im Raum. Bereits im Februar 2020 veröffentlichte die EU-Kommission ein Whitepaper, in dem sie die Pläne für die Regulierung sogenannter „risikoreicher“ Anwendungen von künstlicher Intelligenz skizzierte. Mittlerweile steht die überarbeitete Verordnung kurz vor der Vorstellung. Sie sieht vor, dass beispielsweise „Social Scoring“ verboten wird. Dabei werden Menschen mehr oder weniger laufend überwacht und mit Punkten für verschiedene Eigenschaften und Verhaltensweisen belohnt oder bestraft. In China existiert diese Form der Überwachung bereits.
Keine KI für „risikoreiche Anwendungen“
Damit das in der EU nicht möglich wird, liegt nun der Entwurf für die 81 Seiten lange Verordnung auf. Generell regelt er die Nutzung von künstlicher Intelligenz in sogenannten „risikoreichen Anwendungen“, wenngleich eine genaue Definition hier noch fehlt. Sensiblen Bereichen könnte die Nutzung von KI-Systemen auch gänzlich untersagt werden. Jedenfalls müssten sie künftig klar geregelte Mindeststandards erfüllen, um in Europa zum Einsatz kommen zu dürfen. Als sensible Bereiche gelten beispielsweise die (automatische) Gesichtserkennung im öffentlichen Raum, Systeme, die Kreditscores oder Sozialleistungen festlegen, künstliche Intelligenzen für HR-Systeme, Notfallsysteme oder Systemen, die den Zugang zu Bildungs- oder Berufsbildungseinrichtungen ermöglichen. Hier müssen sozusagen Menschen das letzte Wort haben.
Staaten sollen Startups unterstützen
Parallel dazu will die EU festlegen, dass lediglich „neutrale“ Daten für das Lernen der KI zum Einsatz kommen. Einzelne Gruppen soll die KI so nicht benachteiligen können. Im privaten Bereich sollen Unternehmen klar erkenntlich machen, wenn eine KI die Arbeit übernimmt – beispielsweise bei Chats mit Händlern. Ein weiterer Teil der Verordnung befasst sich mit Maßnahmen zur Unterstützung der KI-Entwicklung in der EU. Die Mitgliedstaaten werden dazu angehalten, regulatorische Sandboxing-Systeme einzurichten, in denen Startups und KMUs anteilig unterstützt werden können, um KI-Systeme zu entwickeln und zu testen, bevor sie auf den Markt kommen. Langfristig will die Kommission so das „Vertrauen der Öffentlichkeit in KI“ stärken.
Das erlaubt auch Strafen bei Verstößen. Erwäget werden Geldstrafen von bis zu vier Prozent des weltweiten Jahresumsatzes (oder 20 Millionen Euro, wenn dieser Wert höher ist). Ob die 20 Millionen Euro Maximalstrafe die ganz großen Unternehmen tatsächlich abschrecken, darf zumindest angezweifelt werden. Die Zahlen sollen laut FAZ aber ohnehin noch nicht final ausgearbeitet sein. Das Gesetz soll nächste Woche vorgelegt werden, wird aber bereits aus dem Europäischen Parlament kritisiert. Der Entwurf sei „nicht scharf genug“, vor allem automatische Gesichtserkennungssysteme müssten gänzlich abgeschafft werden. Zur Umsetzung des Entwurfes muss auch das Parlament zustimmen.
Digital Services Act: EU-Kommission diskutiert über mehr Fairness im Internet
