Gemini: Googles nächstes LLM soll GPT-4 von OpenAI übertrumpfen
Das Rennen um das beste Large Language Model (LLM) zwischen Startup-Unicorns und Tech-Riesen ist noch lange nicht vorbei. Nachdem Google bereits PaLM 2 als Grundlage für seinen Chatbot Bard oder Spezialanwendungen die Med-PaLM 2 für medizinische Dienste lanciert hat, wird im Hintergrund bereits an nächsten großen Sprachmodell trainiert. Es läuft auf dem Namen Gemini und wird von der Google-Tochter DeepMind entwickelt. Wie die Analysten Dylan Patel und Daniel Nishball von SemiAnalysis errechnet haben wollen, soll das aktuelle Modell GPT-4 von OpenAI, das in ChatGPT und Microsofts Suchmaschien Bing steckt, fünf Mal besser sein.
Wie kommen die beiden Analyst:innen zu der Einschätzung? Nun, sie haben sich angeschaut, welches Unternehmen Zugang zu wie viel Rechen-Power hat, und sehen aus Daten von Chip-Zulieferern, dass Google Zugang zu fünf Mal mehr Rechenleistung, die in FLOPS gemessen wird, hat. Das sagt zwar nichts über die Qualität von Gemini aus, die erst noch unter Beweis gestellt werden, muss, zeigt aber, dass Google zu GPU-reichen Firmen gehört und daraus seine Vorteile ziehen kann. GPUs (Graphic Processing Units) sind die essenziellen Chips, die Machine Learning im großen Maßstab ermöglichen, und haben den Chip-Riesen Nvidia zu einer Billionen Dollar schweren Firma gemacht.
„Fähigkeiten, die in früheren Modellen nicht zu finden waren“
„Gemini wurde von Grund auf so konzipiert, dass es multimodal ist, eine hohe Effizienz bei der Tool- und API-Integration aufweist und künftige Innovationen wie Gedächtnis und Planung ermöglicht. Obwohl es sich noch im Anfangsstadium befindet, sehen wir bereits jetzt beeindruckende multimodale Fähigkeiten, die in früheren Modellen nicht zu finden waren“, heißt es seitens Google dazu. „Nach der Feinabstimmung und strengen Sicherheitstests wird Gemini wie PaLM 2 in verschiedenen Größen und mit unterschiedlichen Funktionen erhältlich sein.“ Es wird angenommen, dass Gemini noch 2023 veröffentlicht werden könnte – möglicherweise will der Internet-Konzern da OpenAI, das an GPT-5 arbeitet, zuvorkommen.
Wie intensiv der Wettstreit um das bessere LLM ist, zeigt die Reaktion von OpenAI-CEo Sam Altman über den Bericht von Semi Analysis. Auf seinen Tweet zur Story über Genesis meldete sich Altman zu Wort und meinte: „Unglaublich, dass Google diesen SemiAnalysis-Typen dazu gebracht hat, sein internes Marketing-/Recruiting-Charts zu veröffentlichen.“ Un deutet darauf hin, dass man die Qualität eines LLMs nicht bloß an der zugrunde liegenden Rechenkapazität ermessen könne, sondern sich diese in der Praxis zeigen müsse.
Aktuell ist es am Markt noch so, dass OpenAI als definitiver Marktführer angesehen wird, der mit ChatGPT und GPT-4 bereits etwa 80 Mio. Dollar Umsatz pro Monat macht, also innerhalb der nächsten zwölf Monate bereits eine Milliarde Dollar Umsatz mit seinen LLMs und Services machen könnte. Für Google als Cloud-Anbieter ist es immens wichtig, dem etwas entgegen zu setzen, immerhin ist OpenAI eng mit Microsoft und dessen Azure-Cloud verzahnt. OpenAI konnte bereits große Kunden wie Klarna, Block, Canva, Carlyle, The Estée Lauder Companies, PwC, Stripe und Zapier gewinnen – eine ähnliche Liste kann Google für PaLM 2 noch nicht vorweisen. Um noch mehr Kunden zu gewinnen, richtet OpenAI am 6. November eine eigene Developer-Konferenz in San Francisco aus.
Dazu kommt, dass der Chip-Hersteller Nvidia sich auch plötzlich ins Cloud-Geschäft einmischt. Für seine DGX Cloud konnte es bereits namhafte Kunden wie Amgen, Adobe, ServiceNow, Accenture, AstraZeneca, Getty Images, Shutterstock, InstaDeep, Oxford Nanopore, Peptone, Relation Therapeutics, ALCHEMAB Therapeutics oder Runway gewinnen, die die vortrainierten LLMs und andere Services dieses Cloud-Angebots in Anspruch nehmen.
OpenAI soll mit ChatGPT bereits 80 Mio. Dollar pro Monat machen