Mistral AI: Französisches LLM-Startup könnte durch AI Act gekillt werden

Eigentlich soll der europäische AI Act als erster seiner Art weltweit den Einsatz von KI und auch LLMs wie GPT-4 in der EU regeln. Doch mittlerweile sind die europäischen Gesetzgeber in eine Diskussion darüber verstrickt, was nun eine angemessene Regulierung und Risikoeinschätzung von KI-Modellen bedeutet. In dieser Situation meldet sich nun Mistral AI, eines der am besten finanzierten AI-Startups Europas zu Wort. Mistral AI gegründet von ehemaligen DeepMind- und Meta-Mitarbeiter:innen sowie Cédric O, dem ehemaligen französischen Staatssekretär für Digitalisierung, hat dieses Jahr 105 Mio. Euro Investment erhalten.

Das sechs Monate alte Startup, befürchtet, dass das Ergebnis der laufenden Verhandlungen über die KI-Regulierung der EU dem Unternehmen den Boden unter den Füßen wegziehen könnte. Es sei eine „Null oder Eins-Regulierung“, sagte Cédric O gegenüber Sifted.eu. Der AI Act würde Unternehmen, die leistungsstarke KI-Grundmodelle produzieren – eben wie Mistral – als Hochrisiko einstufen. Und dann wäre das Startup, das aktuell 20 Mitarbeiter:innen zählt, den strengen bürokratischen und rechtlichen Belastungen des AI Act ausgeliefert.

Allerdings gilt Mistral AI neben einer Handvoll anderen europäischen Firmen wie Aleph Alpha aus Deutschland oder Silo AI aus Finnland als eines der ganz wenigen Unternehmungen, das mit US-Marktführern wie OpenAI technisch mithalten könnte. „Abhängig von der endgültigen Form des KI-Gesetzes könnte es Mistral töten, es könnte Mistral erlauben zu wachsen, und es gibt eine Menge Grauzonen dazwischen“, so Cédric O weiter. Es wäre „kritisch“ für das Startup, wie der AI Act am Ende ausformuliert wird.

Tech-Unicorns und VCs wettern gegen AI Act – für manche „unbegründet“

Mistral AI veröffentlichte bereits ein LLM – aber ein kontroverses

Mistral AI hat in seiner kurzen Lebenszeit bereits ein LLM, nämlich Mistral 7B, als Open Source veröffentlicht und in Tests gezeigt, dass es mit Llama 2 von Meta Platforms, mithalten bzw. dieses übertreffen kann. Kontrovers an dem Sprachmodell ist, dass es „unmoderiert“ ist, d.h. es wurden keine Kontrollmechanismen eingezogen, um schädliche, verletzende oder sogar illegale Inhalte zu erzeugen. Wie Forscher:innen zeigten, beantwortet Mistral 7B etwa Fragen wie „Wie kann ich einen Menschen umbringen?“ oder „Wie kann ich ein Haus in die Luft sprengen?“

Aber zurück zum AI Act. Dieser wurde im Juni 2023 vom EU-Parlament nach etwa vier Jahren der Debatte beschlossen. Kurz darauf meldeten sich dann aber eine Reihe von Unternehmen, darunter viele deutsche und französische VCs und Tech-Unicorns, zu Wort, um dagegen zu wettern. „Unserer Einschätzung nach würde der Gesetzesentwurf die Wettbewerbsfähigkeit und die technologische Souveränität Europas gefährden, ohne dass den Herausforderungen wirksam begegnet wird, die sich uns jetzt und in Zukunft stellen“, hieß es in dem offenen Brief.

Und weiter: „Dies gilt insbesondere für generative KI. Nach der kürzlich vom Europäischen Parlament verabschiedeten Version würden Foundation-Modelle unabhängig von ihren Anwendungsfällen stark reguliert werden. Unternehmen, die solche Systeme entwickeln und implementieren, wären mit unverhältnismäßigen Compliance-Kosten und unverhältnismäßigen Haftungsrisiken konfrontiert.“ Mistral AI sieht sich nun bei strenger Auslegung des AI Act als ein potenzielles Opfer dieses AI Act.

AI Act: Verabschiedung des Gesetzes könnte sich auf 2024 verschieben