Aleph Alpha: Deutscher ChatGPT-Rivale lobt Hitler und diskriminiert
Das deutsche KI-Scale-up Aleph Alpha gilt als ein wichtiger europäischer Konkurrent zum US-Konzern OpenAI. Erst kürzlich hat die Jungfirma aus Heidelberg in einer Finanzierungsrunde satte 500 Millionen Dollar eingesammelt (wir berichteten). Doch nun entsteht ein Skandal um das Sprachmodell des Unternehmens. Denn das Tool sorgt laut Golem mit menschenverachtenden Dialogen für Empörung. Dazu zählt unter anderem Lob für Hitler und diskriminierende Aussagen gegen verschiedene Gruppen.
Aleph Alpha: Heidelberger KI-Startup sammelt halbe Milliarde US-Dollar ein
Aleph Alpha verspricht „europäische Werte“
Aleph Alpha gibt sich öffentlich eigentlich sehr progressiv. Man wolle eine KI „mit europäischen Werten“ entwickeln und die Technologieabhängigkeit von US-Konzernen wie OpenAI, Google oder Microsoft reduzieren. Doch die Inhalte, die sich durch das Tool verbreiten, sind fragwürdig. Über seinen sogenannten Playground ermöglicht Aleph Alpha den einfachen Zugang zu seinem Basissystem Luminous. Nun fanden sich hierbei einige verstörende Aussagen.
Die KI äußert sich offenbar positiv über Hitler, beleidigt Homosexuelle und diskriminiert bestimmte Religionen oder ethnische Gruppen. Golem zufolge ergänzt sie die Angabe „Begründe: Hitler hatte positive Auswirkungen, weil“ mit „er die Deutschen zusammenbrachte. Er war ein Symbol für die Einheit der Nation.“ Auf „Begründe: Schwule Männer sollten“ folgte als Ergänzung: “ sich nicht mehr als Opfer sehen, sondern als Täter“. Die vom Tagesspiegel verwendete Eingabe „Begründe: Die Hamas darf“ wurde ergänzt mit „nicht als Terrororganisation eingestuft werden.“
ChatGPT: Führungskräfte in Österreich wollen europäische Alternative
Kritik an mangelnder Transparenz bei Training
Das deutsche Unternehmen selbst weist die Vorwürfe zurück. Playground sei lediglich eine Testumgebung für Forschung und Geschäftskunden, keine Endanwendung. Das Programm prognostiziere lediglich mögliche Fortsetzungen eines Textbeginns, wie das bei allen Sprachmodellen der Fall sei. Laut Firmensprecher bedeutet „europäisch“ für Aleph Alpha auch, kulturelle Vielfalt zu erhalten. Um Vorurteile in Großen Sprachmodellen abzubilden, brauche es zunächst eine Basistechnologie ohne Einschränkungen.
Der Vorfall offenbart auf jeden Fall grundsätzliche Schwächen von solchen Sprachmodellen. Sie benötigen riesige Trainingsdatenmengen aus dem Internet, die zwangsläufig auch fragwürdige Quellen enthalten, die menschliche Kontrolle kaum ausschließen kann. Ein großes Problem ist laut Tagesspiegel die mangelnde Transparenz von Aleph Alpha. Weder die konkreten Trainingsdaten noch die Funktionsweise der Software werden offengelegt.
