OpenAI soll bald Open-Source-LLM veröffentlichen
Wird das gehypte AI-Unternehmen OpenAI seinen Wurzeln und seinem Namen doch wieder gerecht? Wie The Information berichtet, steht das Team rund um CEO Sam Altman kurz davor, ein Open-Source-LLM (Large Language Model) zu veröffentlichen. Dieser Schritt kommt, nachdem in den vergangenen Wochen und Monaten zahlreiche Open-Source-Modelle veröffentlicht wurden, unter anderem auch LLaMA von Meta, das zu Forschungszwecken verwendet werden kann.
OpenAI ist für ChatGPT sowie für GPT-4, das Entwickler:innen via API in ihre eigenen Anwendungen integrieren können, weltberühmt. Diese Anwendungen sind – entgegen dem Namen der Firma – proprietär, also haben keinen quelloffenen Code und können teilweise nur gegen Gebühr genutzt werden. Doch in letzter Zeit hat sich gezeigt, dass Forscher:innen wie auch Unternehmer:innen auf Basis von Open-Source-Modellen und durch Einsatz von Techniken wie Reinforcement Learning from Human Feedback (RLHF) oder Low-Rank Adaptation of Large Language Models (LoRA) selbst leistungsstarke AI-Anwendungen erstellen können.
Immer mehr Open-Source-Möglichkeiten
Nahezu jeden Tag wächst für sie die Auswahl an Open-Source-Foundation-Models, die dann zu eigenen Zwecken und mit eigenen Daten unter sehr geringem Rechenaufwand trainiert werden können. Hier einige Modelle, die veröffentlicht wurden:
- StableLM von Stability AI
- Dolly von Databricks
- HuggingChat von HuggingFace
- LLaMA von Meta
- Bloom von BigScience
- GPT-J von EleutherAI
- (und einige mehr)
Google fürchtet Open Source mehr als OpenAI
Was OpenAI durch die Veröffentlichung eines Open-Source-LLMs bezweckt, bleibt abzuwarten. Vielleicht will man so relevant in Entwickler:innenkreisen bleiben; und zudem könnte die Open-Source-Version nicht so gut sein wie GPT-4 und somit eine Art Freemium-Modell einläuten: die schwächere Open-Source-Variante ist kostenlos nutzbar, wer mehr Leistung möchte, bezahlt für GPT-4.
Open Source gilt derzeit als größte Herausforderung für jene Unternehmen, die proprietäre KI-Modelle gegen Gebühr anbieten. So hat auch Google in einem internen Memo zugegeben, dass nicht OpenAI in der Allianz mit Microsoft die größte Herausforderung ist, sondern eben Open Source. Die Entwicklung in dem Bereich geht sehr schnell. So hat erst vor wenigen Stunden das Startup Together aus Menlo Park in Kalifornien 20 Mio. Dollar erhalten. Das Ziel: eine Plattform für Open-Source-LLMs anbieten.
AI: Google hat nicht vor ChatGPT Angst, sondern vor Open Source
