Generator

Grok-2: Neues AI-Modell von xAI generiert ziemlich fragwürdige Bilder

Jakob Steinschaden14. August 2024, 09:07

Startup Interviewer: Gib uns dein erstes AI Interview

Dass Elon Musk wenig zimperlich hinsichtlich Content-Richtlinien ist, hat er in der Vergangenheit schon mehrmals bewiesen – unter anderem, als er das erste AI-Modell seines Startups xAI auch schimpfen ließ. Nun lässt xAI, kürzlich in einer Finanzierungsrunde mit satten 6 Milliarden Dollar ausgestattet, das neue AI-Modell Grok-2 (und dem kleineren Bruder Grok-2 mini) vom Stapel. Die größte Neuerung: Nutzer:innen können auch ziemlich frei Bilder generieren lassen.

„Eine frühe Version von Grok-2 wurde in der LMSYS-Rangliste unter dem Namen „sus-column-r“ getestet. Zum Zeitpunkt dieses Blogbeitrags übertrifft sie sowohl Claude 3.5 Sonnet als auch GPT-4-Turbo“, heißt es in einer Aussendung seitens xAI, das von Elon Musk mit ehemaligen Mitarbeiter:innen von DeepMind, OpenAI, Google Research, Microsoft Research, Tesla und der University of Toronto gründete. Damit sieht man Grok-2 auf Augenhöhe mit einigen der besten AI-Modellen der Konkurrenz, allerdings kann es demnach nicht mit den derzeit besten Modellen GPT-4o von OpenAI und Gemini 1.5 Pro von Google mithalten.

Grok-2 kommt an Top-Modelle noch nicht heran

Ob Grok-2 die Versprechungen halten kann, muss sich noch zeigen, da in der offiziellen Rangliste der Chatbot Arena das AI-Modell weder unter dem offiziellen Namen noch unter dem Code-Namen „sus-column-r“ zu finden ist. Nutzbar ist Grok-2 und die Mini-Version (beide Beta) in einem ersten Schritt für zahlende Nutzer:innen der Premium-Version von X (ehemals Twitter). Im Laufe des Monats soll auch eine API dazukommen, damit Unternehmen das AI-Modell kostenpflichtig anzapfen können.

Was frühe Tester:innen bereits hervorgehoben haben, ist die neue Möglichkeit, mit Grok-2 Bilder zu generieren. Und da geht es offenbar ziemlich wild zu. Benjamin De Kraker, ein AI-Entwickler, zeigte schnell, dass sich damit etwa auch Bilder generieren lassen, die Donald Trump mit feuernden Revolvern oder einen koksenden George W. Bush zeigen. Die Bilder sind relativ einfach mit freiem Auge als AI-Content erkennbar, aber das Problem ist offensichtlich: Wenn Grok-2 besser wird, dann würden sich damit sehr einfach Fakes produzieren lassen.

Zores in der EU

In einem Nebensatz hat xAI auf verkündet, dass man mit dem brandneuen AI-Start Black Forest Labs, das aus Stability AI hervorging, zusammen arbeitet. Dessen Bildgenerator Flux-1 begeistert derzeit wie berichtet mit sehr guten AI-Bildern und will außerdem auch ein Text-to-Video-Modell auf den Markt bringen. xAI in Kombination mit den 6 Mrd. Dollar Investment im Rücken und der Black-Forest-Labs-Kooperation wird damit zum nächsten Herausforderer von OpenAI, Google und Meta, die allesamt sehr ähnliche AI-Produkte am Markt anbieten.

In der EU drohen xAI und X (also die Social-Media-Plattform, über die Grok-2 vertrieben wird) ordentliche Probleme. Die Datenschutzorganisation NYOB von Max Schrems hat bereits Beschwerden gegen den Kurzmitteilungsdienst X eingereicht. Das Unternehmen soll persönliche Daten von rund 60 Millionen Nutzer:innen ohne deren Einwilligung zur Entwicklung seiner KI verwendet haben.