Kritik

GoStudent: KI-Audioprotokolle werden für Tutor:innen Pflicht – wer nicht zustimmt, fliegt raus

Julia Isabelle Gerber04. Dezember 2024, 17:05

Die beiden GoStudent-Gründer Felix Ohswald und Gregor Müller wollen Audioprotokolle von Nachhilfe-Einheiten verpflichtend machen. © GoStudent

Startup Interviewer: Gib uns dein erstes AI Interview

Wer löst sie aus, was genau wird aufgezeichnet, wer kann ablehnen: Seit Tagen herrscht Aufregung rund um die Aufnahmen von Online-Unterrichtseinheiten seitens des Nachhilfe-Dienstes GoStudent. Die Tonaufzeichnungen werden dem einstigen Wiener Unicorn zufolge für KI-Zusammenfassungen verwendet. Diese sollen Unterrichtsmaterialien erneut aufrufbar, Lernfortschritte überprüfbar und Audioaufnahmen der Einheiten zugänglich machen, und zwar sowohl für Schüler:innen als auch für deren Eltern.

Doch nicht alle Tutor:innen, die die Nachhilfeeinheiten halten, sind damit einverstanden. Vorab um Einwilligung gebeten wurde laut den Tutor:innen niemand. Heute wurde ein Rundschreiben ausgeschickt: Wer sich gegen das Audio-Protokoll sträubt, muss seine Tätigkeit als Nachhilfelehrer:in bei GoStudent beenden. Fragen zu den KI-Zusammenfassungen seitens Trending Topics wollte GoStudent nicht beantworten.

Neue GoClass-Funktion zeichnet Ton auf

Zuerst tauchte am 18. September ein Hinweis auf der GoClass-Plattform auf, der Tutor:innen darüber informierte, dass Nachhilfestunden überwacht werden, “um Sicherheit zu wahren und Betrug zu verhindern”. Dabei wurde die Tutor:innen-Community skeptisch, teilte ein ehemaliger GoStudent-Tutor mit, der anonym bleiben möchte. Einige von ihnen nahmen daraufhin Kontakt mit der Tutorenanlaufstelle von GoStudent auf und wurden darauf hingewiesen, dass es sich um ein Missverständnis handle und nur das jeweilige Einloggen, Ausloggen von Tutor:in und Schüler:in sowie der verwendete Browser etc. protokolliert würden. Zu diesem Zeitpunkt wurde mehrfach bestätigt, dass das Gespräch nicht aufgezeichnet werde.

Ein paar Tage darauf, am 25. September, erhielten Tutor:innen aus Deutschland eine E-Mail von GoStudent, die die neue GoClass-Funktion vorstellte und über Folgendes informierte: “Wir zeichnen den Ton der Unterrichtseinheit auf, und unsere integrierten KI-Tools fassen den Inhalt zusammen.“ Mit dem Material möchte man sogenannte Unterrichtszusammenfassungen der Nachhilfeeinheiten für die Tutor:innen, die Schüler:innen und deren Eltern erstellen.

“Magic Quizzes“ kosten extra

Das ist aber nicht alles: Die von der KI verarbeiteten Daten fließen laut GoStudent außerdem in die neu angebotenen “Magic Quizzes“ ein. Die Quizzes, die sich auf den behandelten Inhalt der Unterrichtseinheit beziehen würden, sollten von den Nachhilfelehrer:innen am Ende der Stunde bereitgestellt werden, “um alle besprochenen Themen zu wiederholen und zu festigen“. Doch nicht alle können die neue Quiz-Funktion nutzen. Sie ist kostenpflichtig und ein Teil des Zusatzpakets “GoStudent Learning“ das für 14,90 Euro im Monat angeboten wird.

KI soll laut GoStudent Co-Founder Felix Ohswald das Lernergebnis verbessern. Das Problem: Die Tutor:innen, die abermals Kontakt mit Trending Topics aufgenommen haben, gaben an, dass weder sie noch die Eltern der betreuten Kinder und Jugendlichen nach ihrer Einwilligung zur Aufnahme gefragt wurden. Zunächst hieß es, wer sich davon abmelden möchte, muss dies manuell tun, wie der Redaktion vorliegende Screenshots beweisen.

Neue AGBs ab 1. Jänner 2025

Heute schickte GoStudent ein Rundschreiben aus, das über aktualisierte Allgemeine Geschäftsbedingungen ab 01. Jänner 2025 informierte – Trending Topics wurde das Schreiben weitergeleitet. Darin ist zu lesen:

“Wir verwenden ein Audioprotokoll deiner Nachhilfeeinheit, um eine personalisierte Zusammenfassung zu erstellen, die dir und deinen Schüler:innen zur Verfügung gestellt wird. Videos werden nicht aufgezeichnet. Wenn du diese Änderungen nicht akzeptieren möchtest, fülle bitte einen Antrag auf Pausierung oder Beendigung deiner Tätigkeit bei GoStudent aus, damit wir dich von der GoStudent-Plattform abmelden können.“

Die automatische Tonaufzeichnung startete bereits am 27. September 2024, also vor 39 Tagen. Demnach wurden die AGB mit reichlich Verzug verschickt. Jedenfalls soll den neuen Richtlinien nach künstliche Intelligenz ganz offiziell Nachhilfegespräche mithören und die Daten daraus verarbeiten dürfen. Videos sollen keine aufgezeichnet werden.

Tutor:innen werden vor die Wahl gestellt: Entweder sie ziehen mit und stimmen den Aufzeichnungen zu, oder hängen ihren Job als Nachhilfelehrer:in bei GoStudent an den Nagel.

Verwirrung um die KI-Audioprotokolle

Audioprotokolle wurden also auch schon zuvor angefertigt. Trending Topics liegen Screenshots aus der WhatsApp-Gruppe der Tutor:innen vor, sie zeigen: Viele wussten nichts von der neuen KI-basierten GoClass-Funktion. Sie hatten entweder die E-Mail nicht gelesen oder keine Ahnung, wie sie sich von der automatischen Aufnahme abmelden konnten. Auch sollen KI-Zusammenfassungen an die Tutor:innen verschickt worden sein, die zuvor keine Mail mit Informationen über das neue Tool bekommen haben wollen.

Andere wussten seit Ende September über das neue Tool Bescheid, so etwa die GoStudent-Tutorin Lena*. Ihr zufolge wurde ihr Widerspruch ignoriert: “Ich hatte der Aufzeichnung per Mail widersprochen. Trotzdem habe ich eine Nachricht mit einer sogenannten KI-Zusammenfassung einer gestrigen Stunde erhalten. Das finde ich überhaupt nicht okay.”

GoStudent-Tutor Tom teilte der Redaktion mit: “Mir wurde vom System bestätigt, dass die Aufnahmefunktion deaktiviert wird. Im Unterricht stellte sich heraus, dass die Schüler:innen jedoch eine Zusammenfassung erhalten. Der Support teilte mir auf Nachfrage mit, dass bei jedem Schüler und jeder Schülerin die Aufnahme separat deaktiviert werden muss.“

Angst um den Job

Es geht bei diese Thema laut den Tutor:innen-Community nicht nur um Vertrauensmissbrauch und datenschutzrechtliche Bedenken – viele fürchten auch um ihren Job. Zwar gibt GoStudent an, den Unterricht aufzunehmen, um mittels künstlicher Intelligenz unter anderem Zusammenfassungen zu erstellen und den Tutor:innen damit Arbeit abzunehmen. Doch die Nachhilfelehrer:innen vermuten einen anderen Grund hinter dem Vorgehen: Sie ahnen, dass GoStudent ihre KI mit den aufgenommenen Daten füttert, um letztendlich auf KI-generierte Nachhilfe ohne menschliche Lehrkräfte zu setzen.

Im April 2024 verkündete die Nachhilfe-Plattform, auf einen Lern-Chatbot namens “Amalia” mit GPT-4 von OpenAI zu setzen – allerdings, so hieß es, nur als unterstützendes Angebot zu den Nachhilfe-Einheiten. Amalia wurde mit Lerninhalten trainiert. Laut GoStudent umfassen diese “Bücher, Lehrpläne, verifizierte Texte und alle Inhalte, die unsere Bildungsexperten als valide eingestuft haben”, Trending Topics berichtete.

Ob ChatGPT von OpenAI mit den aufgezeichneten Daten gefüttert wird, bleibt unklar. Ebenso unbeantwortet bleibt zum momentanen Zeitpunkt die Frage, ob die Nachhilfeplattform tatsächlich plant, die Tutor:innen langfristig durch KI zu ersetzen. Jedenfalls sagte Ohswald kürzlich im Interview mit dem Kurier, dass KI-Nachhilfe schon ab 1 Euro pro Stunde angeboten werden könne.

GoStudent-CEO Felix Ohswald kritisiert Medien

Trending Topics ist nicht das einzige Medium, das über die Geschäftspraktiken der Nachhilfe-Plattform berichtet. Auch das Handelsblatt widmete sich in einem Artikel den neuerlich eingeführten Tonaufzeichnungen der Unterrichtseinheiten. Felix Ohswald, GoStudent-Mitgründer und CEO, reagierte daraufhin auf LinkedIn wie folgt:

“Ein schönes Beispiel für Fake News aus Deutschland, diesmal vom Handelsblatt, einer Zeitung, die ich einst wirklich respektierte und gerne gelesen habe. Bis zu dem Zeitpunkt, an dem einfach Lügengeschichten abgedruckt wurden, mit zweierlei Maß gemessen wurde und Unternehmer angefeindet wurden. (…) Das könnte man sich kaum ausdenken, aber es zeigt ein sehr klares Bild davon, warum es in Europa bergab geht: Journalisten schießen aktiv gegen Unternehmer und fühlen sich dabei noch gut. Ich wünsche dem Handelsblatt und den verantwortlichen Journalisten hinter diesen Angriffen viel Erfolg auf ihrem Weg in die Bedeutungslosigkeit.”

Dabei hat Ohswald vor rund einem Monat selbst bekanntgegeben, dass GoStudent Nachhilfestunden aufzeichnet und daraus KI-Zusammenfassungen erstellt, und zwar bei einer Million Sessions pro Monat. Auch, so schrieb er in dem Posting, war ihm bewusst, dass es sich dabei um ein DSGVO-sensibles Thema handelt.