US-Konsumentenschutz wird gegen ChatGPT-Macher OpenAI aktiv
Die Federal Trade Commission (FTC) hat eine Untersuchung gegen den beliebten Chatbot ChatGPT bzw. dessen Macher OpenAI eingeleitet. Die Behörde prüft, ob das KI-Tool Menschen geschadet hat, indem es falsche Informationen über sie generiert hat, so ein Schreiben an das Mutterunternehmen OpenAI.
Die Untersuchung der FTC, die erstmals von der Washington Post berichtet wurde, befasst sich auch mit den Datenschutz- und Datensicherheitspraktiken von OpenAI. Eine mit der Angelegenheit vertraute Person bestätigte die Untersuchung. Die US-Behörde ist in dem Riesenmarkt für den Schutz der Konsument:innen zuständig und in der Vergangenheit bereits auch gegen Google oder Amazon aktiv geworden.
In dem 20-seitigen Schreiben wird OpenAI aufgefordert, Unternehmensunterlagen und Daten zu verschiedenen Themen vorzulegen, darunter Unternehmensrichtlinien und -verfahren, finanzielle Erträge sowie Details zu den Large Language Models, die zur Schulung des Chatbots verwendet werden. Die Behörde schrieb, dass sie prüfe, ob das Unternehmen „unfaire oder irreführende Praktiken im Zusammenhang mit Risiken für Verbraucher, einschließlich Rufschädigung, betrieben hat“.
OpenAI-Chef glaubt, Gesetze einzuhalten
Unter der Leitung von Chair Lina Khan hat die FTC bereits große Technologieunternehmen wie Meta, Amazon und Microsoft ins Visier genommen. Die Aufsichtsbehörde hat auch wiederholt betont, dass KI unter den Bereich des Verbraucherschutzes fällt. „Es gibt keine KI-Ausnahme von den geltenden Gesetzen“, sagte Khan bei einer Pressekonferenz im April.
Sam Altman, CEO von OpenAI, antwortete am Donnerstagnachmittag über Twitter und zeigte sich enttäuscht über den Start der Anfrage durch einen Leak. Er fügte hinzu: „Nichtsdestotrotz ist es für uns äußerst wichtig, dass unsere Technologie sicher und verbraucherfreundlich ist, und wir sind zuversichtlich, dass wir das Gesetz einhalten.“
KI-Regulierung steht auch in den USA an
Die Untersuchung der FTC ist ein neuer Schritt in der staatlichen Regulierung der KI-Branche, die im letzten Jahr stark an Popularität gewonnen hat. Altman selbst hat regelmäßig vor den Risiken von KI gewarnt und betont, dass die neue Technologie reguliert werden muss. Er hat vor dem Kongress ausgesagt und sich mit Präsident Joe Biden und Vizepräsidentin Kamala Harris getroffen.
ChatGPT ist in die Kritik geraten, weil es falsche Informationen über verschiedene Personen, darunter Radiomoderatoren und Anwälte, wiedergegeben hat. In einem Vorfall behauptete der Chatbot, ein Anwalt werde beschuldigt, einen Studenten belästigt zu haben – dieser Vorfall hat jedoch nie stattgefunden. Generell wurde ChatGPT bereits des Öfteren der Lüge bezichtigt. Technisch funktioniert der Chatbot – stark vereinfacht – so: Er stoppelt bestehende Informationen zu neuen Texten zusammen und versucht dabei, nach Wahrscheinlichkeit die bestmögliche Antwort zu geben – aber eben nicht immer die richtige.
Gesetzgeber von New York bis Kalifornien haben in den USA bereits darüber diskutiert, wie die aufstrebende Technologie reguliert werden soll. Der Kongressabgeordnete Ted Lieu (D-CA) hat vorgeschlagen, eine KI-Kommission einzurichten, um die Auswirkungen der Technologie zu untersuchen. Der Mehrheitsführer des Senats, Charles Schumer (D-N.Y.), arbeitet an möglicher KI-Gesetzgebung. Experten sind jedoch der Ansicht, dass die Regulierung noch Monate oder sogar Jahre dauern könnte. In der EU wurde der AI Act von Parlament abgesegnet, doch noch ist die KI-Verordnung nicht durch. Zuletzt erst haben Unternehmen, Scale-ups und VCs dagegen aufbegehrt und wollen lockerere Regeln, um Innovation nicht abzuwürgen.
„OpenAI, Microsoft und andere Unternehmen, die generative KI-Systeme verkaufen, haben erklärt, dass sie eine Regulierung begrüßen“, sagte Paul Barrett, stellvertretender Direktor des NYU Stern Center for Business and Human Rights, gegenüber NPR. „Die FTC hat angemessen reagiert, indem sie umfassende Offenlegungen darüber verlangt, wie der Branchenführer OpenAI seine Künstliche-Intelligenz-Modelle erstellt und verbessert.“
Einige Branchenverbände und konservative Denkfabriken haben die Untersuchung der FTC bereits kritisiert und befürchten, dass sie die Innovation behindern könnte.
AI: Google hat nicht vor ChatGPT Angst, sondern vor Open Source
