Von Peter Hossli (Interview) und Daniel Kellenberger (Foto)
Marcello Ienca (30) ist Bioethiker an der ETH Zürich. Er befasst sich mit ethischen Fragen rund um Gesundheit und Technologie. So forscht er, wie Digitalisierung die Alterspflege verändert. Er hat an der Humboldt-Universität in Berlin studiert, an der Universität Basel doktoriert und verschiedene Papiere publiziert zu künstlicher Intelligenz, Big Data in der Medizin und Roboter-Ethik.
Herr Ienca, was können Roboter besser als Sie?
Roboter – also künstliche Intelligenz – können gewisse Dinge schlechter als ich: etwa kreativ, emotional und empathisch sein. Geht es aber um logisches Denken, das Verarbeiten von Informationen oder Rechnen, sind sie bereits viel besser als ich.
Frustriert es Sie, dass Ihnen Maschine überlegen sind?
Nein, ich bin realistisch. Wir Menschen sollten Maschinen überlassen, was sie besser können.
Wo setzen Sie Roboter ein?
Roboter arbeiten ständig für uns, ohne dass wir es merken. Jede Suche bei Google wird durch künstliche Intelligenz optimiert. Neue Autos setzen auf KI. Zu Hause reinigt Roomba – ein Roboter-Staubsauger – meine Wohnung. Die Einsetzung von KI in der Medizin kann bei der Dia- gnose und Therapieentscheidung helfen. Bei komplexerem Verhalten, wenn soziale Interaktion, Empathie und emotionales Verständnis wichtig sind, sind Roboter höchstens eine Ergänzung, kein Ersatz.
Besitzen Sie einen humanoiden Roboter?
Persönlich nicht, aber ich habe sie erforscht, insbesondere wie sie in der Alterspflege eingesetzt werden.
Roboter pflegen Betagte. Was macht das mit den Menschen?
Entscheidend sind Befindlichkeit und Herkunft der Betagten. Menschen mit Demenz bevorzugen den Austausch mit Maschinen gegenüber älteren, kognitiv gesunden Menschen. Je weiter die Demenz fortgeschritten ist, desto grösser die Vorliebe für Maschinen.
Warum mögen Menschen Maschinen?
Demenzerkrankte lassen sich lieber von Maschinen waschen und anziehen. Sie schämen sich weniger. Sie spüren, dass ihre Intimität nicht gebrochen wird.
Roboter sind die besseren Pfleger?
Nein, sie können die zentrale menschliche Interaktion nicht ersetzen. Berührungen sind wichtig, zudem das Erzählen von Geschichten. Zwar können Roboter die Sprache der Patientinnen und Patienten sprechen, aber Maschinen schaffen Small Talk noch nicht. In technikfreundlichen Kulturen wie Japan werden Roboter in der Pflege eher akzeptiert als in Südeuropa oder in Frankreich.
Haben Sie Angst davor, dass Roboter dereinst als Professoren arbeiten?
Menschen sind keine Götter, sondern Tiere, die im Laufe der Evolution kognitive Fähigkeiten entwickelt haben. Unsere Gehirne bestehen aus Materie. Deshalb können sie durch Maschinen ersetzt werden. Es gibt kein wissenschaftliches Argument, dass Maschinen nie so gut werden sollten wie Menschen. Dass sie Professoren werden können, muss ich akzeptieren.
Wann wird eine Maschine so komplex sein wie ein Mensch?
Leider habe ich keine Kristallkugel. Die Entwicklung läuft rasant. Aber ein Mensch ist ein sehr komplexes System. Bis Maschinen kognitiv-emotional wie Menschen agieren, dürften zumindest 100 Jahre verstreichen.
Müssen wir Angst haben, dass die Roboter unsere Jobs wegnehmen?
Das tun sie schon. Wer bei Coop einkauft, zahlt oft beim Roboter. Roboter werden aber auch neue Jobs schaffen. Ingenieure und Datenanalysten sind sehr gefragt.
Dann können wir beruhigt sein?
Roboter übernehmen Jobs, die Menschen mit geringer oder keiner Ausbildung ausüben. Neue Jobs bedingen gute Ausbildung. Menschen, die bei Coop durch Roboter ersetzt werden, können unmöglich morgen bei Google als Datenanalysten anfangen. Nötig sind grosse Investitionen in die Bildung der neuen Generation und Weiterbildung der heutigen Arbeitskräfte. Schaffen wir keinen verträglichen Umbau, gibt es «rage against the machine»: Menschen wehren sich gegen Roboter.
Wir haben intelligente Systeme geschaffen. Können wir sie stoppen?
Derzeit können wir noch alles ausschalten. Aber wir könnten künstliche Intelligenz entwickeln, die so intelligent sein wird, dass sie sich nicht mehr kontrollieren und ausschalten lässt.
Angstmacherei – oder Realität?
Logisch ist das möglich. Aber es wird noch viel Zeit verstreichen. Allerdings sehen wir bereits, wie uns Maschinen verändert haben.
Zum Beispiel?
An wie viele Telefonnummern erinnern Sie sich?
Vor zehn Jahren noch an wichtige.
Heute erinnern Sie sich nur noch an die eigene. Ihr biologisches Gedächtnis ist nicht schlechter geworden. Aber Sie verwenden Ihr Smartphone als Erweiterung des Gedächtnisses. Durch technologische Stützen erweitern wir innere Prozesse. Es entsteht eine Abhängigkeit von Mensch zu Maschine. Google Maps hat die Fähigkeit, sich zu orientieren, verändert. Sie können sich problemlos mit dem Handy in Tokio orientieren. Bis der Akku leer ist.
Wir können Roboter programmieren, dass sie uns schlagen. Was passiert mit uns, wenn wir Roboter schlagen?
Ein US-Roboter-Produzent stellt Videos ins Netz, auf denen Roboter von Menschen geschlagen werden. Wer sie sieht, zeigt Empathie für die Roboter und sagt: «Menschen sollten keine Roboter schlagen!» Obwohl die Roboter ja keinen Schmerz empfinden und keine psychologischen Folgen haben aufgrund der Schläge. Es gibt keinen logischen Grund für die Empathie. Und trotzdem fühlen wir uns schlecht.
Roboter nehmen menschliche Züge an. Entwickeln wir daher Gefühle für Sie?
Nein, Menschen sind durch die Evolution zu sozialen Wesen geworden. Unsere Gehirne empfinden unbegründete Aggressivität als schlecht.
Erklärt das alles?
In Hollywood-Filmen greifen Roboter Menschen an, die böse mit ihnen waren, etwa in «Terminator». Wir denken: In 200 Jahren gibt es vielleicht intelligente Roboter, die auf den alten Videos sehen, wie Menschen sie einst schlugen – und dann zurückschlagen.
Was passiert, wenn ein Roboter aussieht wie ein Hund?
Menschen mögen tierähnliche Roboter mehr als humanoide Roboter. Es gibt das «Uncanny Valley»-Phänomen: Wir mögen Roboter, je ähnlicher sie uns werden. Werden sie uns zu ähnlich, entwickeln wir negative Gefühle. Die Lösung sind Roboter, die wie Tiere aussehen. Deswegen sehen Pflege-Roboter wie Robben, Hunde oder Katzen aus.
Tests zeigen, dass Menschen humanoide Roboter ungern dort berühren, wo die intimen Stellen sein könnten – obwohl alles nur Metall ist.
Das ist die natürliche Übersetzung menschlicher Regeln in nichtmenschliche Systeme. Menschen sind vermutlich die einzigen Tiere, die Wolken anschauen und Gesichter erkennen.
Menschen manipulieren Menschen. Können wir Robotern mehr vertrauen?
Maschinen manipulieren uns ständig. Sie entscheiden, was wir kaufen sollen, was wir sehen und hören, wo es uns gefallen könnte. Algorithmen beeinflussen uns stark. Durch die Evolution haben wir gelernt, manipulierende Menschen zu erkennen. Rationale Systeme sagen uns: Bei diesem Menschen müssen wir aufmerksam sein. Vor einer algorithmischen Manipulation hingegen haben wir keinerlei Schutz.
Wer ist verantwortlich, wenn ein Roboter tötet?
Dazu gibt es keine abschliessende Antwort. Die Frage wird heftig diskutiert. Es gibt Experten, die sagen, wenn die Maschinen klug genug sind, sollen die Maschinen verantwortlich sein. Was ich für einen Fehler halte. Sind Maschinen verantwortlich, ist niemand mehr verantwortlich. Aus meiner Sicht müssen Menschen immer für Maschinen verantwortlich sein. Die Frage ist: Welche Menschen? Die Programmierer? Die Computerbauer? Der CEO? Oder die User?
Was ist von Sex-Robotern zu halten?
Ältere Menschen benutzen Sex-Roboter, ebenso Menschen mit Demenz und Menschen mit physischer Behinderung. Sie haben oft keinen Zugang zu Sexualität, was negative Auswirkungen hat auf die Psyche. Sex-Roboter könnten da Abhilfe schaffen.
Sie reden im Konjunktiv.
Sex-Roboter könnten soziale Ausgliederung erzeugen. Die Interaktion zwischen Mensch und Maschine könnte die Interaktion zwischen Mensch und Mensch ersetzen. Was das bedeutet, wissen wir noch nicht. Wir sollten aufmerksam untersuchen und beobachten.
Es gibt Sex-Roboter in Kindergestalt.
Zeigt die Forschung, dass Pädophile durch die Interaktion mit Sex-Robotern weniger pädophile Übergriffe ausüben, ist das positiv. Es wäre hingegen höchst negativ, wenn die Forschung zeigt, dass solche Roboter problematischere Fantasien provozieren. Klar ist: Es braucht mehr Forschung. Wir können ethische Fragen nicht im Liegestuhl beantworten.
Sollten Roboter Rechte haben?
Ja, aber nicht alle. Aus meiner Sicht ist es falsch, einem Roboter die Staatsbürgerschaft zu geben. Roboter sind keine Personen. Sie sollen keine werden. Künstliche Intelligenz soll ein Ding bleiben, das uns hilft und das wir kontrollieren. Sie soll kein System bilden, das parallel und auf der gleichen Ebene wie Menschen operiert.
Selbst dann nicht, wenn in 100 Jahren ein Roboter so gut ist wie ein Mensch?
Gibt es Roboter, die alle Fähigkeiten eines Menschen besitzen, gibt es keine Argumente mehr, ihnen nicht alle Rechte zu geben.
Jetzt widersprechen Sie sich.
Wir sollten keine solchen Maschinen entwickeln. Diesen Sprung sollten wir vermeiden.