Salesforce CFO über die KI-Zukunft: “Solange Europa kein aktiver Player ist, hat es wenig zu sagen”

Er sieht Fake News als das größte Problem, das künstliche Intelligenz mit sich bringt – und es soll uns noch lange begleiten. Kalifornien ist für ihn der KI-Pionier schlechthin, während Europa in Sachen KI-Regulierung „ nur wenig zu sagen hat“. Peter Schwartz ist Luft- und Raumfahrtingenieur, Zukunftsforscher und Future Chief Officer bei Salesforce.

3 wichtige KI-Forschungsfragen

Peter Schwartz ist bei Salesforce dafür verantwortlich, verschiedenen Stakeholdern zu vermitteln, in welche Richtung sich die neue Technologie entwickelt. Im Zentrum der Partnerschaft zwischen Menschen und KI stehen laut ihm drei bedeutende Forschungsfragen. Die erste betrifft das Vertrauen in KI-Systeme, die zweite, wie KI lernen kann, von Menschen gestellte Aufgaben korrekt zu lösen. Bei der dritten Frage geht es darum, ob autonome KI-Agenten die menschliche Arbeitskraft ersetzen können. Kurz erklärt: Der Software-Konzern will die dritte Welle der KI-Technologie geschaffen haben. Dabei sollen die Agenten selbstständig  Aufgaben in der digitalen Welt durchführen können – mit Zugriff auf eine umfangreiche Datenbasis.

Die vierte Stufe würde dann den Übergang in die Roboterphase einleiten. Sie soll innerhalb der nächsten zwei Jahre erreicht werden und den AI-Agenten ermöglichen, sich mit der realen Welt zu verbinden und auch dort selbstständig Aufgaben umzusetzen. Dies kann von der automatischen Buchung eines Hotelzimmers für die nächste Reise bis hin zur Erstellung personalisierter Videoanweisungen reichen, die erklären, wie ein Kühlschrank repariert werden kann. Das Video könnte dabei zum Beispiel auf das Niveau der eigenen technischen Fähigkeiten abgestimmt sein.

Bias, Halluzinationen und Fake News

“Die Risiken, die KI mit sich bringt, sind real, das muss man ganz klar sagen. Aber um Halluzinationen mache ich mir ehrlich gesagt keine großen Sorgen. Dieses Problem werden wir schon bald lösen.” Als größte Gefahr sieht der CFO Fake News – sowohl bewusst als auch unabsichtlich erzeugte. In Zukunft soll es zunehmend schwieriger werden, Deep Fakes, wie etwa einen gefälschten Anruf von Joe Biden, zu erkennen. Schwartz formulierte es so: “Wir leben schon seit einigen Jahren in dieser Welt der Fake News. Jetzt sind sie nur noch mächtiger geworden. Es ist ein technischer, politischer und regulatorischer Krieg ausgebrochen.”

“Gegen Fehlinformationen vorzugehen ist eine Herausforderung, für die wir die richtigen Werkzeuge finden müssen, obwohl auf dem Gebiet schon einige Fortschritte gemacht wurden,” so Schwartz. Man werde weiterhin Wasserzeichen oder andere regulatorische Anforderungen entwickeln, so der Experte. Es brauche jedenfalls eine Art Indikator.

Persönliche KI-Agenten für alle

Schwartz ist überzeugt, dass jeder Mensch in der Zukunft seinen persönlichen digitalen KI-Assistenten haben wird. Diesen wird nicht Salesforce zur Verfügung stellen, da das Unternehmen B2B-Business betreibt. Er könnte allerdings von Telekommunikationsunternehmen entwickelt werden – M1 in Singapur soll entsprechende Überlegungen dahingehend haben, verriet Schwartz. Die persönlichen Agenten für Einzelpersonen könnten laut dem CFO aber auch von großen Tech-Unternehmen oder neuen Disruptoren entwickelt oder von Regierungen bereitgestellt werden.

Die Agenten wären dann mit einer Vielzahl von anderen Agenten verbunden und würden eine Reihe an Task-Boxen enthalten. Auch müssten die Agenten sich gegenseitig überwachen, um sicherzustellen, dass die eigenen Absichten auch tatsächlich umgesetzt werden. Dafür müsse es allerdings transparente Mechanismen geben – überhaupt sei Transparenz enorm wichtig. Nur so können bei komplexen Prozessen die Absichten zurückverfolgt und durch den Menschen im Bedarfsfall „auf der höchsten Ebene” eingegriffen werden. Schwartz antizipiert sehr teure KI-Assistenten, aber auch Geschäftsmodelle, die durch Werbung finanziert werden. „Das wird eine völlig andere Welt”, so der älteste Salesforce-Mitarbeiter.

KI-Regulierung mit Iterationen

Schwartz befürwortet neue datenschutzrechtliche KI-Vorschriften. Diese werden laut ihm mehrere Iterationen durchlaufen, da sich KI noch in ihrem Anfangsstadium befindet. “Kalifornien nimmt eine Vorreiterrolle in puncto künstlicher Intelligenz und deren Regulierung ein. Die meisten anderen Bundesstaaten in den USA und die Bundesregierung haben in dieser Hinsicht noch nicht viel getan.” In Kalifornien werde tatsächlich über KI-Regulierung debattiert. Es geht dabei um die Übernahme von Verantwortung für die Folgen von LLM und ein mögliches Gesetz zur Rechenschaftspflicht. Grundsätzlich sei es aber noch zu früh für die Etablierung eines hochwirksamen Regulierungssystems. Das sieht laut Schwartz auch der Gouverneur von Kalifornien, Gavin Newsom, so.

Europa wird nicht ernst genommen

“Europa hat ein wenig getan, aber das ist nicht wirklich relevant. Kalifornien ist der Ort, an dem KI-Entwicklung tatsächlich passiert. Wie viele Unternehmen sind tatsächlich ernst zu nehmen? Es gibt Mistral.AI in Paris, aber danach wird die Liste schnell kürzer“, so der Zukunftsforscher zu den KI-Fortschritten auf europäischem Boden. Die meisten KI-Startups seien laut Schwartz direkt in Kalifornien angesiedelt, einige in Texas und wenige in Europa. “Solange Europa kein aktiver Player ist, hat es wenig zu sagen.”

Flightkeys: US-Großinvestor Insight Partners steigt bei Wiener Scale-up ein