Llama 2: So funktioniert der Open-Source-Angriff von Meta auf ChatGPT
Google hat PaLM, OpenAI hat GPT-4 – und Meta hat das Large Language Model (LLM) Llama. Nun hat der Konzern, der hinter Facebook, WhatsApp und Instagram steht, mit Llama 2 die neueste Version seines KI-Modells zur Generierung von Texten veröffentlicht. Anders als Google oder OpenAI geht Meta dabei aber einen spannenden Weg: Llama 2 wird als Open Source veröffentlicht, und zwar sowohl für wissenschaftliche als auch für kommerzielle Zwecke.
Bedeutet: Jedes Unternehmen kann Llama 2 kostenlos herunterladen und für seine eigenen Zwecke einsetzen. Den Nutzungsbedingungen zufolge ist das kostenlos möglich, solange der damit verbundene Online-Dienste weniger als 700 Millionen monatlich aktive Nutzer:innen hat. Das ist eine sehr hohe Schwelle und schließt somit nur die größten Internet-Dienste etwa von Google, Amazon, TikTok oder Microsoft von der kostenlosen Nutzung aus. Was man auch nicht damit machen darf: Der Output von Llama darf nicht genutzt werden, um ein anderes LLM zu trainieren.
Nicht alle würden Llama als reines Open Source bezeichnen. Wer das LLM von Meta verwenden will, muss Nutzungsbedingungen zustimmen, die auch einschränken, was man damit machen kann. Bricht man die Regeln, kann Meta die Nutzungserlaubnis auch wieder entziehen.
Kooperation mit Amazon und Microsoft
Llama 2 ist in sechs unterschiedlichen Versionen verfügbar – jeweils mit 7, 13 oder 70 Milliarden Parametern, und davon gibt es jeweils eine auf Chat-Anwendungen optimierte Version. Wie gut Llama 2 gegen Google Bard (mit PaLM 2) und ChatGPT (mit GPT-4) abschneidet, wird noch zu sehen sein. In von Meta veröffentlichten Benchmark-Tests will man jedenfalls besser sein als MPT von MosaicML (kürzlich um 1,3 Mrd. Dollar von Databricks übernommen) und Falcon vom Technology Innovation Institute (TII).
Llama 2 wird von Meta nun via Microsofts Azure AI Model Catalogue, über AWS (Amazon Web Services), Hugging Face und GitHub verfügbar gemacht. Für die Cloud-Anbieter ist das eine spannende Sache, immerhin könnten sie so neue Kund:innen gewinnen, die das MetaLLM einsetzen wollen, und dafür viel Rechenleistung benötigen. Warum aber veröffentlicht Meta ein komplettes LLM, das Marktgerüchten zufolge mindestens 25 Mio. Dollar gekostet haben soll?
AI: Google hat nicht vor ChatGPT Angst, sondern vor Open Source
Startups sollen mit Llama 2 arbeiten
„Wir unterstützen einen offenen Innovationsansatz für KI. Verantwortungsvolle und offene Innovation lässt uns alle am KI-Entwicklungsprozess teilhaben und bringt Transparenz, Kontrolle und Vertrauen in diese Technologien. Wenn wir die heutigen Llama-Modelle öffnen, kann jeder von dieser Technologie profitieren“, heißt es dazu seitens Meta. Bedeutet: Man versucht, Llama in möglichst vielen Forschungseinrichtungen und Unternehmen zu platzieren, und hofft darauf, dass Open-Source-Entwickler:innen das Modell schnell verbessern werden.
„Wenn KI-Modelle offen zugänglich gemacht werden, können sie allen zugute kommen. Wenn Unternehmen, Startups, Unternehmer:innen und Forscher:innen Zugang zu Werkzeugen erhalten, die in einem Umfang entwickelt wurden, den sie selbst nur schwer herstellen könnten, und die von einer Rechenleistung unterstützt werden, zu der sie sonst keinen Zugang hätten, eröffnet sich ihnen eine Welt voller Möglichkeiten, zu experimentieren, aufregende Innovationen zu entwickeln und letztlich wirtschaftlich und gesellschaftlich davon zu profitieren“, heißt es weiter.
Die Öffnung des KI-Modells ermögliche es den eigenen Teams, von den externen Entwickler:innen zu lerne, diese Tools zu verbessern und Schwachstellen zu beheben.
Meta/Facebook hat in der Vergangenheit bereits Erfahrung mit Open Source gemacht. Mit React, ein führendes Framework für die Entwicklung von Web- und Mobilanwendungen, und PyTorch, das heute eines der führenden Frameworks für KI ist, hat der kalifornische Konzern bereits wichtige Software Open Source gemacht – und sich selbst dadurch nicht geschadet.
Die Open-Source-Strategie von Meta ist aber auch gegen OpenAI und Google gerichtet. Wenn Llama 2 kostenlos ist, werden viele Firmen eine Alternative zu den proprietären GPT-4 oder PaLM haben. Bei Google ist diese Einsicht bereits durchgesickert. Wie berichtet, erachtet der führende Internet-Konzern im AI-Bereich nicht OpenAI als die größte Bedrohung, sondern – Open Source.
LLMs, die auf Smartphones laufen
Doch dem nicht genug, will meta noch weiter gehen. So gibt es eine neue Partnerschaft mit dem Chip-Hersteller Qualcomm. Das Ziel: LLMs auf Prozessoren laufen lassen, die in handelsüblichen Smartphones oder PCs verbaut sind. Das würde bedeuten, dass KI-Modelle lokal auf Geräten laufen können und keine Cloud-Services mehr brauchen.
„Wir arbeiten zusammen mit Meta, um Llama so zu optimieren, dass es vollständig auf dem Gerät laufen kann – Smartphones, PCs, XR, Autos und IoT“, heißt es seitens Qualcomm. Entwickler:innen könnten dadurch Cloud-Kosten reduzieren und Nutzern „privatere, zuverlässigere und personalisierte Erlebnisse“ bieten.
Open Source: Die größte Waffe der Startups im Kampf um den AI-Markt
