Andrej Karpathy

Magic: Gründungsmitglied von OpenAI steigt bei Wiener LLM-Startup ein

Jakob Steinschaden01. März 2024, 07:44

Andrej Karpathy und Eric Steinberger von Magic. © A. Karpathy / E. Steinberger

Startup Interviewer: Gib uns dein erstes AI Interview

Die wundersame, ja magische Geschichte des von Wienern gegründeten Startups Magic geht weiter: In der Nach auf Freitag hat Mitgründer und CEO Eric Steinberger bekannt gegeben, dass sie einen weiteren, ganz großen Namen an Bord geholt haben. So ist Andrej Karpathy, eines der Gründungsmitglieder von OpenAI, nun ebenfalls als Investor an Bord gekommen. Magic hat innerhalb nur eines Jahres satte 145 Millionen Dollar eingesammelt.

Andrej Karpathy ist einer der ganz spannenden Namen in der weiter boomenden AI-Branche. Denn er gehörte 2015 zu den Gründungsmitgliedern von OpenAI, also dem Macher von ChatGPT – gemeinsam mit Ilya Sutskever, Greg Brockman, Trevor Blackwell, Vicki Cheung, Durk Kingma, Jessica Livingston, John Schulman, Pamela Vagata und Wojciech Zaremba. Sam Altman, der heutige OpenAI-CEO, und Tesla-CEO Elon Musk traten damals als Vorsitzende auf.

Karpathy trennte sich dann 2017 zwischenzeitlich von OpenAI, um Sr. Director of AI bei Tesla zu werden und dann bis 2022 das Computer-Vision-Team für den Tesla Autopilot zu leiten. Die große Bühne teilte er sich mit Elon Musk am AI Day, als Tesla größere Neuigkeiten rund um sein – durchaus auch kritisiertes – AI-Projekt rund ums autonome Fahren präsentierte. Karpathy verließ Tesla dann 2022 und kehrte 2023 zu OpenAI zurück. Dort arbeitete er an ChatGPT mit, verließ dann Anfang 2024 das AI-Startup wieder, um sich neuen Projekten zu widmen. Jetzt ist klar: Magic ist eines davon.

Das LLM von Magic ist GPT-4 und Gemini in einem Punkt deutlich überlegen

Magic schlägt OpenAI und Google in einem Punkt

Nun ist Andrej Karpathy Teil einer illustren und immer größer werdenden Investorenrunde, die Magic unterstützt. Magic entwickelt ein eigenes LLM, das einmal Code so gut schreiben können soll, um Programmierer:innen komplett zu ersetzen – heute sind Copilots ja eher als Hilfsmittel für Developer zu sehen. Steinberger und seinem Mitgründer und CTO Sebastian De Ro geht es aber nicht nur um Coding, sondern für sie ist es der Weg zu AGI – also genereller Künstlicher Intelligenz, die mehr kann als nur zu Programmieren.

Besonders heiß ist Magic, das seine Wurzeln an der Wiener HTL Spengergasse hat, weil es den Gründern zufolge Kontextfenster von 5 Millionen Token verarbeiten kann – und ist damit zumindest in dieser Hinsicht den anderen AI-Modellen von OpenAI, Google oder Meta überlegen. Das Kontextfenster definiert, wie viel Daten-Input das LLM verarbeiten kann – je größer, umso besser (mehr dazu hier). Hier der Vergleich:

Zum Vergleich:

LTM-1 von Magic: 5 Million
Gemini 1.5 von Google: 1 Million
GPT-4 Turbo von OpenAI: 128.000
Claude 2 von Anthropic: 100.000
Mixtral 8x7B von Mistral AI: 32.000
Llama 2 von Meta: 4.096

Neben Karpathy hat Magic im letzten Jahr noch weitere, große Namen als Unterstützer:innen und Investor:innen gewonnen. Mit dabei sind unter anderem auch: