AI-Koryphäe Yoshua Bengio: „Die KI-Macht wird sich auf 2 oder 3 Länder konzentrieren“

Vor genau einer Woche versetzte ein offener Brief des Future of Life Institute, in dem ein sofortiger Entwicklungsstopp für künstliche Intelligenz gefordert wurde, die Welt in Aufruhr. Professor Yoshua Bengio war der erste Unterzeichner, gefolgt von Elon Musk, Steve „The Woz“ Wozniak und Tausenden anderen führenden AI-Expert:innen. Wir haben die KI-Koryphäe im Mila – Quebec Artificial Intelligence Institute in Montreal getroffen, welches 1993 von Bengio ins Leben gerufen wurde und sich seitdem zu einer der führenden KI-Einrichtungen mit mehr als 1.000 auf Machine Learning spezialisierte Forscher:innen entwickelt hat.

Trending Topics: Sie waren der erste Unterzeichner des offenen Briefes, in dem eine sofortige Entwicklungspause für KI-Systeme für die Dauer von sechs Monate gefordert wird. Warum setzen Sie sich für dieses Moratorium ein?

Yoshua Bengio: Zunächst möchte ich betonen, dass die aktuellen großen Sprachmodelle und Systeme, die Bilder erzeugen und Bilder verstehen können, wissenschaftlich gesehen nicht sehr innovativ sind. Diese Technologien haben jedoch einen enormen Umfang erreicht und liefern überraschend genaue Ergebnisse, so dass wir jetzt KI-Systeme haben, die den Turing-Test bestehen. Das bedeutet, dass man mit dem System interagieren kann, ohne sicher zu sein, ob es sich um einen Menschen oder eine Maschine handelt – ein Meilenstein in der KI. Diese Systeme sind in vielerlei Hinsicht noch nicht so intelligent wie wir. Sie können nicht so denken, wie Menschen denken können. Sie halluzinieren alle möglichen Dinge. Es gibt eine Menge wissenschaftlicher Probleme, aber sie haben ein Niveau erreicht, das bereits sehr leistungsfähig ist und Menschen täuschen kann.

Dies ist der Punkt, an dem es für die Gesellschaft gefährlich wird. Diese Art von Systemen könnte so konzipiert werden, dass sie Menschen in Interaktionen beeinflussen, bei denen sie denken, dass sie mit anderen Menschen interagieren, oder sie sogar dazu bringen, anders zu wählen, was wiederum ein enormes Risiko für die Demokratie ergibt. Dank Social Media gibt es bereits eine Menge beängstigender Faktoren, die unsere Demokratie bedrohen. Aber nun stellen Sie sich vor, Sie könnten diesen Einfluss auf eine Weise skalieren, die auch noch personalisiert ist. Eine meiner Befürchtungen ist, dass KI-Systeme für Desinformation missbraucht werden könnten. Mit meiner Unterschrift möchte ich vor allem darauf aufmerksam machen, dass sich die Gesellschaft schnell anpassen und die richtigen Gesetze erlassen muss und dass wir überdenken müssen, wie unsere Gesellschaft auf globaler Ebene und nicht nur in den einzelnen Ländern organisiert ist.

Viele stellen mir die Frage: „Was ist, wenn Regierungen wie China und Russland nicht mit dem Rest der Welt in Bezug auf diese Vorschriften mitziehen?“ Wenn wir Atomkraft und Atomwaffen als Vergleich heranziehen, können wir sehen, dass es sich um ein heikles Thema handelt. Wir müssen uns an internationalen Diskussionen beteiligen, die zu internationalen Verträgen führen, damit wir die richtigen Leitplanken setzen können, um die globale Sicherheit und das globale Wohlergehen in Schach zu halten. Kurz gesagt: KI kann sehr nützlich sein, aber gleichzeitig auch sehr zerstörerisch, so dass wir die Entwicklung verlangsamen müssen, damit sich die Gesellschaft richtig anpassen kann.

Sind sechs Monate ausreichend, um sich auf jene weltbewegenden Veränderungen vorzubereiten, die AI mit sich bringen wird?

Natürlich nicht, aber es wird die Dinge ins Rollen bringen. Ich glaube nicht einmal, dass sechs Monate für die Ausarbeitung neuer Rechtsvorschriften ausreichen, wenn man bedenkt, dass die EU seit vier Jahren an Rechtsvorschriften für Künstliche Intelligenz arbeitet. Hoffentlich geht es in anderen Ländern schneller, aber im Moment gibt es nur 5 oder 6 Unternehmen, die die Macht, das Kapital und das Talent haben, mit solch fortschrittlichen Technologien umzugehen. Zunächst reicht es aus, wenn sich diese Unternehmen auf eine gemeinsame Pause einigen, damit die Regierung eingreifen kann und sich alle Akteure der Branche an die gleichen Regeln halten. Auf diese Weise kann verhindert werden, dass Unternehmen KI ausnutzen, um sich einen persönlichen Wettbewerbsvorteil zu verschaffen, der möglicherweise sogar der Gesellschaft schadet. Was ist also die Lösung? Die Lösung besteht darin, sich auf eine Reihe von Regeln zu einigen. Dafür haben wir Gesellschaften. Deshalb haben wir Regierungen, um kollektive Normen zu schaffen, die besser sind als der Dschungel.

Glauben Sie, dass unsere Regierungen und politischen Akteure bereit sind, dem offenen Brief zuzustimmen?

Nein. Genau deshalb ist es wichtig, diese Diskussionen zu führen und jetzt mit der Arbeit an diesen Fragen, Gesetzen und Vorschriften zu beginnen. Eine Anpassung wird nicht in sechs Monaten erfolgen. Kalifornien ist mit gutem Beispiel vorangegangen und hat ein Gesetz verabschiedet, das besagt, dass jede Art von KI-generierten Inhalten klar als solche gekennzeichnet werden muss. Natürlich wird es Betrüger geben, aber es ist eine einfache erste Regelung, die leicht umgesetzt werden kann. Wir wissen jedoch, dass Regierungen sehr langsam sind, wenn es um neue Vorschriften geht. Deshalb möchten wir mit diesem offenen Brief das Bewusstsein für die Notwendigkeit von Maßnahmen sowohl seitens der Regierung als auch der Gesellschaft schärfen.

Würde ein Moratorium von 6 Monaten auch Ihre persönliche Forschung am Mila Institute of Artificial Intelligence betreffen?

Als akademisches Zentrum wird sich eine KI-Entwicklungspause nicht negativ auf uns auswirken, da wir nicht über diese Art von Rechenpower verfügen. In der Tat ist fast niemand dazu in der Lage. Nur eine Handvoll Unternehmen arbeitet derzeit auf einem so hoch entwickelten Niveau und ist daher von dem Moratorium betroffen. Wir sollten diese Art von Macht nicht nur in die Hände des privaten Sektors legen. Wir brauchen Regierungen, die in die positiven Aspekte der KI investieren, z. B. in Anwendungen, in die Gesundheitsversorgung oder in die Umwelt. Ein System, das die Folgen des Klimawandels vorhersagt oder bessere Therapien findet, lässt sich nicht so einfach für Falschinformationen einsetzen.

Dies sind ganz andere Anwendungen, die für die Gesellschaft viel weniger gefährlich sind und uns sogar vor künftigen Pandemien bewahren und uns bei der Bewältigung des Klimawandels helfen können. In diese Art von KI sollte die Gesellschaft eher investieren als in Tools, die Suchmaschinen, Werbung und soziale Medien verbessern. Wir brauchen eine bessere Gesundheit. Wir brauchen eine bessere Bildung. Wir müssen den Klimawandel bekämpfen. Aber unsere Gesellschaft räumt diesen Bereichen im Moment keine Priorität ein, weil dort kein Profit zu machen ist.

Lassen Sie uns über die positiven Aspekte von Deep Learning sprechen. Können Sie Beispiele dafür nennen, wie KI den Health-Tech-Sektor beeinflusst?

Es gibt bereits kommerzielle KI-generierte Produkte, die bei der Krebserkennung helfen oder zur Verbesserung der Effizienz der Logistik im Gesundheitswesen eingesetzt werden. Ein weiteres Beispiel, mit dem ich mich beschäftige, ist die Arzneimittelforschung. Die Pharmaindustrie investiert inzwischen Milliarden in AI, weil sie erkannt hat, dass künstliche Intelligenz das Spiel völlig verändern kann. Derzeit kostet die Entdeckung eines neuen Medikaments etwa 1 Milliarde Dollar und dauert zehn Jahre, was mit KI-Algorithmen erheblich beschleunigt werden kann. Darüber hinaus kann KI das Problem der Mutationen von Krankheitserregern lösen, die eine antimikrobielle Resistenz verursachen, was wiederum zur nächsten Pandemie führen könnte.

Glauben Sie nicht, dass eine derartige KI-Revolution die Kluft zwischen reichen und einkommensschwachen Ländern vergrößern kann? Welche langfristigen Risiken sehen Sie?

Eines der Risiken jedes mächtigen Werkzeugs besteht darin, dass es allein schon die Ungleichheiten und die Machtkonzentration verstärken kann, was zu Monopolen führt. Die KI-Macht wird sich auf 2 oder 3 Länder konzentrieren, die vom Kapitalismus regiert werden, was der Demokratie schadet. Die Lösung liegt darin, dass die Regierungen den Reichtum auf internationaler Ebene verteilen. Wir müssen dafür sorgen, dass auch Entwicklungsländer und Menschen ohne technische Ausbildung von der KI-Revolution profitieren. Im nächsten Jahrzehnt wird es Arbeitsbereiche geben, die effizienter werden und weniger menschliche Arbeitskräfte erfordern. Diese negative Auswirkung auf den Arbeitsmarkt kann zu sehr starken sozialen Verwerfungen führen, die Sicherheitsnetze erforderlich machen.

Apropos Werkzeug: Was ist Ihre persönliche Meinung zu Chat GPT-4? Empfehlen Sie Startups, diese KI-Modelle als Plattformen zu betrachten, auf denen sie aufbauen können?

Zunächst einmal ist die Wissenschaft, die hinter einem Tool wie ChatGPT steht, gut verstanden. Was man wirklich braucht, um das zu replizieren, was Open AI geschaffen hat, ist eine Menge Kapital und ein kleines Team von zehn sehr guten Leuten mit klarem technologischen Verständnis. Open AI muss nicht unbedingt ein Monopol werden, aber sie haben sicherlich einen Wettbewerbsvorteil. Es ist ähnlich wie bei den Suchmaschinen und den sozialen Medien – sie werden irgendwann überholt.

Abgesehen davon glaube ich, dass es eine Menge Möglichkeiten für Startups gibt, vortrainierte Modelle zu nutzen, die von diesen Organisationen stammen. Das ist jedoch ein weiterer Grund, warum wir eine schnelle Regulierung brauchen, denn wenn plötzlich 10.000 Startups statt nur 4 bis 5 Institutionen in der KI-Forschung tätig sind, wird es Leute geben, die bereit sind, unser Wohlergehen auf das Wachstum ihres Unternehmens zu setzen. Es gibt bereits Hunderte von Startups, die auf GPT aufgebaut wurden und diese Zahl wird weiter wachsen.

Sind Sie der Meinung, dass alle KI-Modelle als Open Source zur Verfügung gestellt werden sollten?

Früher war ich mir sicher, aber jetzt ist es nicht mehr so klar. Die trainierten Modelle sollten nicht Open Source sein. Mit anderen Worten, es gibt den Code, mit dem diese Modelle trainiert werden, aber die Ausbildung ist sehr teuer und kostet bis zu 100 Millionen Dollar. Da es keine internationalen Verträge gibt, wollen Sie diese spezielle Ausbildung nicht zu vielen Menschen zugänglich machen.

Ich habe darauf keine Antwort. Das sind schwierige Fragen, und genau deshalb müssen wir das Tempo drosseln, damit viele Gelehrte, Politologen, Wirtschaftswissenschaftler, Philosophen, Sozialwissenschaftler und KI-Experten gemeinsam an der Frage arbeiten können, wie eine solche KI-Revolution zu steuern ist. Im Moment geht das alles ein bisschen zu schnell und führt sogar dazu, dass wir die Kontrolle verlieren.

Glauben Sie nicht, dass es zu spät ist, langsamer zu werden?

Genau wie beim Klimawandel ist es nie zu spät, die Dinge zu verbessern und die Schäden zu verringern. Selbst wenn die Dinge schlecht oder hoffnungslos erscheinen, haben wir die Pflicht, Wege zu finden, die Dinge zu verbessern. Und auch wenn es garantiert nicht klappt, müssen wir es immer wieder versuchen.

Fühlen Sie sich als Wissenschaftler und KI-Koryphäe für das aktuelle Geschehen verantwortlich? Wenn Sie zurückblicken, gibt es Dinge, die Sie anders gemacht hätten?

Was ich anders gemacht hätte, wäre, die gesellschaftliche Diskussion darüber, wie wir uns auf diese KI-Werkzeuge vorbereiten müssen, noch früher zu beginnen. Das erste Mal, dass ich mich intensiv mit dem Thema beschäftigt habe, war 2015, 2016 und 2017. In Montreal arbeiteten wir bereits an der Montrealer Erklärung für die verantwortungsvolle Entwicklung von KI als eine der ersten Erklärungen in diesem Bereich. Was hier wichtiger ist, ist das kollektive Bewusstsein und das Setzen von gesellschaftlichen Normen, um das Boot in eine bessere Richtung zu lenken.

Wenn Sie in die Zukunft blicken, glauben Sie an eine große KI für die ganze Welt oder wird jedes Land seine eigene KI haben?

Eine Lehre, die wir aus Politikwissenschaft und Geschichte ziehen können, ist, dass Machtkonzentration nicht gut ist. Man will nicht, dass ein Land, ein Unternehmen, eine Partei alles kontrolliert. Wir brauchen Koalitionen, die diesem Risiko standhalten, und deshalb wäre es meiner Meinung nach gut, wenn sich die Länder zusammenschließen würden. Es besteht keine Notwendigkeit für ein einziges System, wenn die Macht dezentralisiert werden kann.

Was lehrt uns die künstliche Intelligenz über die menschliche Intelligenz?

Ich arbeite seit vielen Jahrzehnten mit Neuro- und Kognitionswissenschaftler:innen zusammen, und ein Großteil unserer Forschung im Bereich Deep Learning wurde vom menschlichen Gehirn inspiriert. Wir haben ein Stadium erreicht, in dem nicht nur die Hirnforschung die KI beeinflusst, sondern die künstliche Intelligenz beginnt, unser eigenes Verständnis über die Funktionsweise des Gehirns zu beeinflussen. Eines der Gebiete, an denen ich arbeite, ist zum Beispiel die Neurowissenschaft des Bewusstseins, die zunächst sehr geheimnisvoll erscheinen mag. Sobald wir versuchen, Theorien aufzustellen, die wir an Computern testen können, wird es weniger mysteriös und diese könnten uns helfen zu verstehen, was es bedeutet, ein Mensch zu sein. Ich denke, dass es einige wenige Prinzipien gibt, wie z. B. die Gesetze der Physik, die alle Formen der Intelligenz erklären können, sei es menschliche, tierische oder künstliche Intelligenz. Die verschiedenen Bereiche können sich also gegenseitig dabei helfen, herauszufinden, was diese Prinzipien sind.

Sicher ist, dass die künstliche Intelligenz als Werkzeug unsere menschliche Intelligenz verändern wird, so wie es das Internet oder das erste iPhone getan haben. Deshalb müssen wir vorsichtig sein, wenn wir diese Innovationen auf die Welt loslassen.