Telegram: Wer haftet für illegale Inhalte in 200.000er-Gruppen?

Die Festsetzung des Milliardärs und Telegram-CEOs Pavel Durov in Frankreich am Wochenende hat für Furore gesorgt. Offenbar soll es französischen Behörden darum gehen, mit Durov intensiv um die mangelnde Kontrolle von Inhalten in der Messaging-App sprechen zu wollen. Telegram ist nicht nur eine Messaging-App für private Chats, sondern ermöglicht auch den Betrieb von Gruppen mit bis zu 200.000 Teilnehmer:innen sowie Kanälen, die sogar eine unlimitierte Anzahl an Abonnent:innen haben können.

Durov wird offenbar vorgeworfen, dass er Verantwortung dafür habe, dass kriminelle Inhalte (z.B. Spam, Betrügereien, Kindesmissbrauch, Aufruf zu Terrorismus) über Telegram verbreitet werden. Im Laufe des Montag wollen französische Behörden genauere Infos geben, worum es ihnen geht. Durov wurde am Sonntag Abend von einem Untersuchungsrichter in Paris dazu verdonnert, weiter in Haft zur Vernehmung bleiben zu müssen, und zwar bis zu 96 Stunden (4 Tage, also bis Donnerstag). In einer Stellungnahme seitens Telegram wurde es als „absurd“ bezeichnet, dass die Plattform oder ihr Eigentümer für den Missbrauch dieser Plattform verantwortlich gemacht werden sollte. man habe „nichts zu verbergen“, heißt es.

Telegram ist kein VLOP, aber…

Im Kern dürfte es um den Digital Services Act (DSA) der EU gehen, der seit 17. Februar für alle Online-Plattformen und nicht nur die ganz großen („Very Large Online Platforms“, kurz VLOPs) mit mehr als 45 Mio. europäischen Nutzer:innen pro Monat gilt. VLOPs sind dem DSA zufolge etwa Linkedin, Snapchat, Pinterest, Instagram oder YouTube, aber nicht Telegram. Auch bei den Betreibern von Telegram, offenbar ein Team von etwa 50 Mitarbeiter:innen, die derzeit offenbar von Dubai aus arbeiten (früher St. Petersburg, Berlin, London und Singapur), will man auf keinen Fall als VLOP gelten.

„Einige nicht wesentliche Elemente der von Telegram angebotenen Dienste können als „Online-Plattformen“ im Sinne des DSA eingestuft werden. Im August 2024 hatten diese Dienste in den vorangegangenen sechs Monaten deutlich weniger als 45 Millionen durchschnittlich monatlich aktive Empfänger in der EU – was unter der Schwelle liegt, die für die Einstufung als „sehr große Online-Plattform“ erforderlich ist“, heißt es dazu seitens Telegram.

Telegram-CEO Pavel Durov in Frankreich verhaftet, Toncoin-Kurs implodiert

Auch Telegram muss DSA-Regeln einhalten

Aber auch wenn Telegram kein VLOP ist, die grundsätzlichen Regeln des DSA gelten trotzdem für die Messaging-App – nur Unternehmen, die weniger als 50 Personen beschäftigen und einen Jahresumsatz von weniger als 10 Millionen Euro erzielen, sind davon ausgenommen. Was müssen diese nun einhalten? Die EU hat dazu folgenden Katalog veröffentlicht:

• Bekämpfung illegaler Inhalte, Waren und Dienstleistungen: Online-Plattformen müssen den Nutzern die Möglichkeit geben, illegale Inhalte, Waren und Dienstleistungen zu melden. Darüber hinaus müssen Online-Plattformen mit „vertrauenswürdigen Hinweisgebern“ (trusted flaggers) zusammenarbeiten, d. h. mit spezialisierten Stellen, deren Hinweise von den Plattformen vorrangig behandelt werden müssen.
• Schutz von Minderjährigen, einschließlich eines vollständigen Verbots, Minderjährige mit Werbung anzusprechen, die auf Profiling oder persönlichen Daten basiert.
• Den Nutzern müssen Informationen über die ihnen angezeigte Werbung zur Verfügung gestellt werden, z. B. warum die Werbung ihnen gezeigt wird und wer für die Werbung bezahlt hat.
• Verbot von Werbung, die sich an Nutzer auf der Grundlage sensibler Daten wie politischer oder religiöser Überzeugungen, sexueller Orientierung usw. richtet.
• Einem Nutzer, der von einer Entscheidung zur Inhaltsmoderation betroffen ist, z. B. Entfernung von Inhalten, Sperrung des Kontos usw., eine Begründung zukommen lassen und die Begründung in die DSA-Transparenzdatenbank hochladen.
• Den Nutzern Zugang zu einem Beschwerdemechanismus gewähren, damit Entscheidungen zur Inhaltsmoderation angefochten werden können.
• Sie veröffentlichen mindestens einmal jährlich einen Bericht über ihre Verfahren zur Inhaltsmoderation.
• Sie stellen den Nutzern klare Geschäftsbedingungen zur Verfügung und geben die wichtigsten Parameter an, auf deren Grundlage ihre Systeme zur Empfehlung von Inhalten funktionieren.
• Benennung eines Ansprechpartners für die Behörden und die Nutzer.

Sind Gruppen mit 200.000 Mitgliedern wirklich „privat“?

Laut Telegram würde man die, wohlgemerkt öffentlichen, Inhalte auf der Plattform in einer Mischung aus „AI-driven“ und manueller Moderation kontrollieren und bei Verstößen Benutzer, Bots, Beiträge, Kanäle und Gruppen sperren oder löschen. Betont wird dabei aber immer, dass es „öffentliche“ Inhalte sein müssen.

Und hier könnte der Hund begraben liegen. Denn selbst Gruppen mit 200.000 Mitgliedern können immer noch auf „privat“ gesetzt sein und würden dann durch die Content-Moderation fallen. „Die Einzel- und Gruppenchats sind Privatsache der jeweiligen Nutzer. Wir bearbeiten keine diesbezüglichen Anfragen“, heißt es dazu seitens Telegram. Nun bleibt abzuwarten, was die französischen Behörden mit Durov zu besprechen haben.

#FreePavel: Das Netzwerk, das die Freilassung des Telegram-Gründers fordert