Markus Hengstschläger: „Informatik sollte über den eigenen Tellerrand blicken“

In Österreich ist es mittlerweile eine große Diskussion – soll Informatik, soll Programmieren zum verpflichtenden Schulfach werden? Das forderten im Zuge des neuen Regierungsprogramms sowohl Vertreter der Wirtschaftskammer als auch der Informatikinstitute österreichischer Universitäten.

Markus Hengstschläger, Leiter des Instituts für Medizinische Genetik, Vorsitzender der österreichischen Bioethikkommission und stellv. Vorsitzender des österreichischen Rats für Forschung und Technologieentwicklung, ist in der Diskussion rund um die Zukunft der Bildung ein gefragter Mann. Bereits vergangene Woche sagte er im Doppel-Interview mit A1-Group-Chef Thomas Arnoldner, dass Grundkenntnisse in der Informatik unverzichtbar seien, es aber neben einem eigenen Fach auch die Möglichkeit gebe, diese Grundkenntnisse auch in andere Fächer einfließen zu lassen.

Im Interview mit Trending Topics spricht Hengstschläger außerdem über den Hyper-gläsernen Menschen, Biohacker, Genome Editing und ethische Grundfragen bei all diesen Entwicklungen.

Trending Topics: Sie schreiben in einem Papier zum Thema “Digitaler Wandel und Ethik” vom Hyper-gläsernen Mensch. Was meinen Sie damit genau?

Durch die digitale Transformation sehe ich enorme Potenziale auf uns zukommen, die zum Beispiel im Bereich Präzisionsmedizin inklusive medizinischer Genetik zu völlig neuen Entwicklungen führen werden.

Künstliche Intelligenz, Predictive Analytics etc. können aber auch dafür eingesetzt werden, den digitalen Fußabdruck, den Menschen im Internet hinterlassen, zum Beispiel in Bezug auf Persönlichkeitsmerkmale zu analysieren und zu interpretieren. Dafür brauchen wir auch eine entsprechende ethische Diskussion.

Sie meinen auch, dass genetische Daten das Öl von morgen sind. Nun kann man sich schon ausmalen, wie IT-Konzerne diese Daten zu Geld machen – etwa mit personalisierter Medizin, die viel effizienter und besser ist als viele heutige standardisierte Behandlungen. Aber: Welche ethischen Bedenken haben Sie dabei?

Auch bei zum Beispiel genetischen Daten müssen wir uns die grundlegende Frage stellen, auf welchen Plattformen diese Daten durch digitale Technologien, künstlichen Intelligenz einmal miteinander verglichen und ausgewertet werden und wem diese gehören. Sofern wir den digitalen Wandel auch hier positiv für einzelne Personen und unsere Gesellschaft im Gesamten gestalten wollen, müssen wir aus ethischer Sicht ebenso zu starke Monopole (z.B. IT-Konzerne aus dem Silicon) wie das Modell staatlicher Überwachung aus China kritisch hinterfragen und entsprechende Maßnahmen ergreifen.

Es ist aber natürlich andererseits auch ethisch geboten, die besten zur Verfügung stehenden Methoden zu verwenden um zum Beispiel neueste Entwicklungen in den Bereichen Diagnostik und Therapie im Sinne der Patientinnen und Patienten zu ermöglichen. Wir müssen folglich über die richtigen Rahmenbedingungen und über ethische Grenzen dafür diskutieren.

Der chinesische Forscher He Jiankui muss drei Jahre ins Gefängnis, weil er das Erbgut zweier Zwillingsschwestern so manipuliert hat, dass sie angeblich vor einer möglichen Ansteckung mit dem HI-Virus geschützt sind. Wurde hier eine Grenze überschritten, die nicht mehr wieder überschritten werden darf?

Aus meiner persönlichen Sicht ist aktuell die Anwendung von Genome Editing für Keimbahneingriffe am Menschen nicht zu befürworten. Dafür gibt es international aktuell auch breiten Konsens.

Angenommen, die Genmanipulation funktioniert wirklich so, dass Menschen vor tödlichen Krankheiten und Viren gefeit sind – sollten solche Manipulationen der Gene dann nicht erlaubt sein?

Keimbahneingriffe werden an die nächsten Generationen mit ungewissen, schwer abschätzbaren Folgen weitergegeben, weshalb ich aktuell allgemein nicht davon überzeugt bin, das zu erlauben. Wovon ich allerdings ein starker Befürworter bin, ist die „Somatische Gentherapie“. Damit ist es möglich, Erkrankungen direkt lokal an gewissen Teilen des menschlichen Körpers zu behandeln, ohne dabei in die Keimbahn von Menschen einzugreifen.

Bei Netflix ist die Doku-Serie “Unnatürliche Auswahl” zu sehen, in der auch Privatleute zu sehen sind, die mit einfachen Methoden beginnen, Gene zu manipulieren – etwa, um Hunde leuchten zu lassen. Diese Hobby-Forscher holen sich das Wissen einfach aus dem Netz, etwa von YouTube, und bestellen sich günstige Gentechnik-Kits in Online-Shops. Welche Folgen könnte diese Demokratisierung von Wissen haben, wenn jeder Zugang zu Gentechnik hat?

Ich meine, man sollte solch einen Zugang zur Anwendung von Gentechnik äußerst kritisch hinterfragen, insbesondere angesichts der zahlreichen ethischen Fragen, die diese Entwicklungen aufwerfen. Man muss sich klar fragen, inwiefern es ethisch vertretbar ist, wenn Gentechnik willkürlich ohne entsprechende Sicherheits- oder Qualitätsstandards an Menschen oder Tieren angewendet wird.

Es gibt die Meinung, dass Europa zu einer Digital-Kolonie der USA oder von China verkommen könnte. Fahren wir in Europa nicht zu oft mit angezogener Handbremse?

Ja, vielleicht könnte die Handbremse etwas gelockert werden. Andererseits ist gerade das vielleicht auch eine Chance mit Hinblick auf digitale Ethik und einem digitalen Humanismus. Wichtig ist auch, dass sich Europa aus seiner etwaigen Abhängigkeit gegenüber den USA und zunehmend auch China emanzipiert.

Es wird oft gefordert, dass die Ausbildung in der Informatik und die Bildungsarbeit über ihre gesellschaftlichen Auswirkungen so früh wie möglich beginnen muss. Vertreter der österreichischen Unis wiederum beklagten vor kurzem, dass Informatik auch unter der neuen Regierung zu kurz kommt und nur Programmierkenntnisse nicht reichen. Ihre Meinung?

Ja, entsprechende Grundkenntnisse sind äußerst wichtig. Ich denke, dass man in der Informatik so früh wie möglich gesellschaftliche Auswirkungen berücksichtigen muss, um die Chancen der digitalen Transformation optimal nutzen zu können. Eine Disziplin wie die Informatik sollte dabei auch über den eigenen Tellerrand blicken und künftig bereits in der Ausbildung verstärkt mit anderen Wissenschaftsdisziplinen zusammenarbeiten.

Im Regierungsprogramm sehe ich erste Bemühungen, einen solchen Ansatz zu verfolgen, u.a. werden auch eine Zusammenarbeit verschiedener Disziplinen mit der Informatik sowie die Einrichtung eines Calls im Bereich Digitaler Humanismus angeführt.

Welche roten Linien dürfen bei KI Ihrer Meinung nach nicht überschritten werden?

Zur Festlegung von roten Linien beim Einsatz von KI finde ich den differenzierten, kürzlich von der deutschen Datenethikkommission (DEK) vorgeschlagenen Ansatz einer Kritikalitätspyramide spannend. Hier wird vorgeschlagen, algorithmische Systeme entlang ihres möglichen Schädigungspotenzials in 5 verschiedene Kritikalitätsgrade einzuteilen, wovon der Gesetzgeber entsprechende Regulierungsinstrumentarien ableiten kann. Anwendungen mit nicht vertretbarem Schädigungspotenzial (Stufe 5), die eine solche rote Linie überschreiten können, wären beispielsweise die von der DEK angeführten autonomen Waffensysteme.