Italienische Datenbehörde stoppt ChatGPT wegen Verarbeitung von Personendaten
Mehr als 100 Millionen Nutzer:innen in etwa zwei Monaten – noch nie ist ein Online-Tool so schnell gewachsen wie ChatGPT von OpenAI, nicht einmal Instagram oder TikTok. Doch dem Wachstum wird, zumindest in Italien, nun ein Riegel vorgeschoben. Denn die italienische Datenschutzbehörde hat soeben bekannt gegeben, dass sie ChatGPT wegen der Sammlung personenbezogener Daten sowie fehlenden Alterskontrollen sperrt.
„ChatGPT muss gestoppt werden, bis es die Datenschutzbestimmungen einhält. Die italienische Datenschutzbehörde hat mit sofortiger Wirkung die vorläufige Einschränkung der Verarbeitung der Daten italienischer Nutzer gegenüber OpenAI, dem US-Unternehmen, das die Plattform entwickelt und verwaltet, angeordnet. Gleichzeitig hat die Behörde eine Untersuchung eingeleitet“, heißt es in einem offiziellen Statement.
Die Maßnahme bezieht sich auf einen Vorfall am 20. März. Denn da sei es zu einem Verlust von Personendaten gekommen, die Unterhaltungen der Nutzer:innen mit dem Chatbot und Informationen über die Bezahlung der Abonnenten des kostenpflichtigen Dienstes betraf. Dabei geht es um den Vorfall, dass User auf die Chats anderer Nutzer:innen zugreifen konnten. Der italienischen Datenschutzbehörde zufolge seien außerdem alle Betroffenen, deren Daten von OpenAI gesammelt werden, nicht informiert wurden. Zudem gebe es keine Rechtsgrundlage, die die „massive Sammlung und Speicherung personenbezogener Daten zum Zwecke des „Trainings“ der Algorithmen“ rechtfertige. Auch gebe es keine Schutzmaßnahmen für Kinder unter 13 Jahren.
Der Vorfall am 20. März wurde von OpenAI bereits dokumentiert. Zwischen 1 und 10 Uhr Pacific Time am Montag, 20. März könnten „der Vor- und Nachname, die E-Mail-Adresse, die Zahlungsadresse, die letzten vier Ziffern der Kreditkartennummer und das Ablaufdatum der Kreditkarte eines anderen aktiven ChatGPT Plus-Benutzers sichtbar gewesen sein“, heißt es. „Es ist möglich, dass dies auch vor dem 20. März der Fall war, obwohl wir keinen solchen Fall bestätigt haben.“
ChatGPT lügt wie gedruckt – und will’s dann noch Trending Topics in die Schuhe schieben
Satte Millionenstrafe möglich
OpenAI, das eng mit Microsoft zusammen arbeitet, wird nun 20 Tage Zeit gegeben, um entsprechende Anpassungen zu treffen. Außerdem wird in den Raum gestellt, dass es eine Strafe von bis zu 20 Millionen Euro oder bis zu 4 % des weltweiten Jahresumsatzes geben könnte. 20 Millionen Euro sind für das Startup, das von Microsoft mit zehn Milliarden Dollar finanziert wurde, wohl eher eine Kleinigkeit. Legt man aber den Maßstab des Umsatzes an, könnte es auch deutlich mehr werden.
Da Bing Chat genauso wie ChatGPT auf GPT-4 basiert, stellt sich nun auch die Frage, was das für Microsofts Suchmaschine bedeutet. Die italienische Datenschutzbehörde spricht auch davon, dass durchgeführte Kontrollen gezeigt hätten, dass „die von ChatGPT bereitgestellten Informationen zudem nicht immer mit den tatsächlichen Daten“ übereinstimmen, „was zu einer unzutreffenden Verarbeitung personenbezogener Daten führt“. Damit kann gemeint sein, dass das KI-Modell manchmal halluziniert – also falsche Fakten ausspuckt. Das kann auch Personen betreffen, denen falsche Lebensläufe, Zitate usw. zugeordnet werden.
Führende Hochschule stuft ChatGPT nicht als Schummel-Tool ein
