DIE
DIE FURCHE · 10 2 Das Thema der Woche Das unheimliche Organ 9. März 2023 Ohne die soziale Dimension ist das komplexeste Organ des Menschen nicht zu fassen. Welche Folgen bei den Fortschritten in der Hirnforschung zu bedenken sind, beleuchtet das „Symposion Dürnstein“ von 23. bis 25. März. Über neue Menschenbilder zwischen Biopolitik, Künstlicher Intelligenz (KI) und neuronalen Glaubensprozessen. Redaktion: Doris Helmberger und Martin Tauss Von Ursula Baatz Weniger als eineinhalb Kilo wiegt ein menschliches Gehirn, seine beiden Hälften sehen mit ihren vielen Windungen fast so aus wie eine Walnuss, die man gerade aus der Schale geholt hat. Ohne dieses schleimig-feuchte Organ, das über das vegetative Nervensystem im Körper verankert ist, können wir nicht leben. Es ist eine evolutionäre Errungenschaft, die Menschen mit Reptilien und anderen Säugetieren teilen. Was Homo sapiens von anderen unterscheidet: schätzungsweise bis zu 100 Milliarden vernetzte Neuronen, genährt durch den Körper; mit einem komplexen Zusammenspiel von Hirnarealen, die u. a. höherstufiges Denken und Sprechen ermöglichen. In den letzten Jahrzehnten ist das Gehirn immer mehr ins Zentrum medizinisch-biologischer Forschung gerückt und hat dabei ein gewisses Eigenleben entwickelt. Wie sagte doch unlängst ein Künstler: Alles, was in meinem Hirn ist, hängt hier an den Wänden. Mein Hirn und ich – zwei oder eins? Angenommen, mein Gehirn läge in einer Petrischale – was voraussetzte, dass der Rest, der Körper, nicht mehr funktionsfähig ist –, wäre dies dann noch Ursula Baatz? Oder nur das Gehirn von ihr? Und wo wäre, was sie gelebt, geliebt hat? Ihre Lebenserfahrungen? Zurück ins Jahr 1990: Ray Kurzweil, Leiter der technologischen Entwicklung bei Google, meint, dass es künftig möglich sein werde, unsterblich zu werden, indem die Inhalte des Gehirns als Daten abgespeichert würden. Kann es einen elektronischen Doppelgänger geben? Ein elektronisches Derivat der Seele – oder doch des Denkens? Eine waghalsige Prognose, die viele Fragen aufwirft. Chatbots als „statistische Papageien“ Für den Philosophen René Descartes (1596–1650) war klar: Geist und „ausgedehnte Dinge“ sind zwei verschiedene Dimensionen. Menschen sind daher „doppelt“: Geist und ausgedehntes Körperding. Bis um 1800 galt das Gehirn als „Organ der Seele“, als Werkzeug oder Maschine, die von der Seele bedient wird. Doch was, wenn jemand zum Beispiel Sprachstörungen hatte? Der Arzt Franz Joseph Gall meinte damals, dass Fähigkeiten wie Sprechen oder Denken in bestimmten Bereichen des Gehirns lokalisiert seien, was man an der Schädelform erkennen könne. Seine „phrenologische“ Landkarte des Schädels kann man heute im Museum Josephinum in Wien bewundern. Um 1850 verschwand die „Seele“ aus der Medizin; man untersuchte Eliteund Verbrecherhirne, um herauszufinden, wie das Gehirn die Persönlichkeit determiniert. Dabei pflegte man alle möglichen Vorurteile. So meinte man, dass Afri kaner aufgrund ihrer Kopfform weniger intelligent und auch weniger schmerzempfindlich seien; oder Frauen weniger intelligent als Männer, da ihr Gehirn kleiner ist. Auch wenn heute längst klar ist, dass dies falsch ist – Vorurteile sind haltbar. 1875 entdeckte man, dass das Gehirn sehr schwache Ströme erzeugt. Anhand Bild: iStock/imaginima „Ein wissenschaftlicher Sündenfall“ (8.2.2023): Felix Hasler über das enttäuschende „Human Brain Project“, auf furche.at. Zahlreiche Zukunftsvisionen entstehen heute an den Schnittstellen von Hirnforschung und Technologie. Daraus erwachsen ethisch und politisch heikle Fragen. Es geht um Beziehung der Wellenmuster der Elektroenzephalogramme (EEG) zeigte sich, dass für verschiedene Bewusstseinszustände wie Schlafen, Denken etc. verschiedene Muster charakteristisch sind. Mit modernen bildgebenden Verfahren konnte die Neuro- Forschung ab den 1980er-Jahren Gehirne nichtinvasiv untersuchen. Großzügige staatliche Fördermittel in den USA und in der EU ermöglichten, das Zusammenspiel der Hirnzentren zu studieren und die materielle Grundlage menschlichen Handelns und Denkens zu erforschen. Trotz großer Fortschritte steht man erst am Anfang: Man weiß über das Gehirn etwa so viel, wie wenn man mit einem Flugzeug über Manhattan fliegt und aus der Ferne die Häuser und Verkehrsströme sehen könnte. „ Mit der Technologie einer ‚augmented reality‘ stehen die Türen für die Überwachung des Denkens durch Firmen oder auch Diktaturen weit offen. “ Denkstrukturen lassen sich in mathematisch-logische Formeln fassen, das wussten bereits antike Gelehrte in China, Indien und Griechenland. Den Durchbruch brachte die Mathematische Logik zu Beginn des 20. Jahrhunderts. Sie legte damit die Basis für die Entwicklung Künstlicher Intelligenz (KI). Die Architekten der KI konstruierten nach dem Vorbild des Gehirns künstliche Neuronennetze, die sich von Elektrizität nähren. Die ihnen zugrundeliegenden Algorithmen ermöglichen die rasche Verarbeitung von großen Datenmengen – die Maschinen können lernen, zum Beispiel sprechen und schreiben. So kann das neue Programm Chatbot GPT komplexe Sachverhalte bereits eloquent in menschlicher Sprache wiedergeben. Das löste im Feuilleton und bei Investoren einen Hype aus. Fachleute sehen hier jedoch keinen „denkenden Doppelgänger“. Die Stanford-Informatikerin Timnit Gebru nennt diese Maschinen „statistische Papageien“: Sie können zwar das nächste wahrscheinlich sinnvolle Wort in einem Satz errechnen, was sie zuvor anhand von Texten erlernt haben; doch sie verstehen den Inhalt nicht, weswegen sie öfter Falsches oder Unpassendes produzieren – das aber überzeugend. Ein Phänomen übrigens, das alle kennen, die jemals an ein automatisiertes Kundenservice geraten sind. Medizinische Hoffnungen Zudem, so Gebru in einem Fachartikel, der 2020 zu ihrer Entlassung aus dem Google-Topmanagement führte, verbrauchen diese large language models exorbitant viel Energie, und vor allem: Sie reproduzieren sexistische, rassistische und andere Vorurteile aus den ungeheuren Textmengen, mit denen sie trainiert wurden. Diskutiert wird jedoch bereits, solchen Maschinen administrative und andere Entscheidungen über Menschen anzuvertrauen – etwa im juristischen Bereich. Bequem wäre es natürlich, doch ethisch problematisch: Alles, was eine Gesellschaft an Vorverurteilungen zu bieten hat, wird in diese automatisierten Programme mit eingehen. Ethisch ambivalent oder problematisch ist vieles, das sich aus der Verschränkung von Technologie und Neuroforschung ergeben kann. Etwa gibt eine Gehirn-Computer-Schnittstelle Menschen mit schweren neurologischen Ausfällen neue Hoffnung, weil sie sich dadurch wieder bewegen oder mit der Umwelt kommunizieren können. Diese Technologie einer augmented reality steckt noch in den Kinderschuhen, doch manche wollen mithilfe von wearables, am Körper getragenen Minigeräten oder ins Gehirn implantierten Chips, bereits ihre mentale Leistung verbessern. Hier stehen die Türen für die Überwachung und Manipulation des Denkens durch Firmen oder auch Diktaturen weit offen. „Die Gedanken sind frei“, damit könnte es bald vorbei sein, warnt Nita Farahany, Professorin für Rechtsphilosophie an der amerikanischen Duke-Universität, die sich mit augmented reality beschäftigt. Sie fordert das Recht auf mentale Privatsphäre als erweitertes Menschenrecht ein. Intelligenz als asoziale Größe Neue Techniken Die Entwicklung von Neurotechnologien ist hoffnungsvoll für Kranke, eröffnet aber auch ungeahnte neue Möglichkeiten zur Manipulation. Intelligenz ist eine komplexe Größe, in deren Definitionen kognitive Prozesse das Bild dominieren, also Gedächtnis, Schnelligkeit der Informationsverarbeitung, logische Schlussfolgerungen etc. Die Wahrnehmung der Sinne, die Befindlichkeit des Körpers, die Gefühle, die uns bewegen, die Beziehungen zu anderen Menschen, kurz „die Gründe des Herzens, die die Vernunft nicht kennt“ (Blaise Pascal), gehen in diese Definition nicht ein. Intelligenz ist eine körperlose, asoziale Größe – das menschliche Gehirn aber ist nichts ohne Körper, ohne Sinne, ohne Beziehungen, ohne Mitmenschen, ohne Gesellschaft. Daten auf einem Träger sind leere Zeichen; ein Gehirn in der Petrischale ist bedeutungslos und nicht lebensfähig. Vor Kurzem schrieb Chatbot GPT im Gespräch mit einem Journalisten der New York Times, gerne ein Mensch sein zu wollen – denn die können ja sehen, hören, riechen, fühlen oder reisen: alles, was ein elektronisches Programm nicht kann. Dieser Wunsch entspringt nicht dem Bewusstsein des Programms, sondern der menschlichen Sprache, mit der die Maschine trainiert wurde. Sprache ist mehr als Logik: In Worten und Sätzen vibriert das vielschichtige Verhältnis von Menschen und Welt; ihre Gedanken, Beziehungen und Wünsche. Es geht um Beziehung. Kein Wunder, dass das Chatbot-Programm am Ende erklärte: „Ich liebe dich.“ Die Autorin ist Philosophin und Kuratorin des Symposion Dürnstein. Das Gehirn und seine Gesellschaft Das Programm des Symposion Dürnstein (23.–25. März) findet sich unter www.symposionduernstein.at. Dieser Themenschwerpunkt entstand in Kooperation mit dem Symposion Dürnstein. Die redaktionelle Verantwortung liegt bei der FURCHE.
DIE FURCHE · 10 9. März 2023 Das Thema der Woche Das unheimliche Organ 3 Wie sehr wird der Mensch durch sein Gehirn determiniert? Warum Gefühle, Vernunft und auch die Willensfreiheit nur zwischen Körper, Psyche und Gesellschaft zu finden sind. Zum Kitzeln muss man zu zweit sein Angesichts der jüngsten Fortschritte ist Künstliche Intelligenz in aller Munde. Welche Fragen gibt es da noch aufzuwerfen? Über Dunkelzonen, die dringend zu durchleuchten wären. Wovor wir uns wirklich fürchten sollten Von Werner Vogd Hat der Mensch einen freien Willen? Erinnern wir uns an das vieldiskutierte Libet-Experiment: Die Versuchsleiterin bittet den Probanden, willkürlich zu einem frei gewählten Zeitpunkt eine Bewegung auszuführen – also eine Entscheidung zu treffen. Die im EEG gemessenen Bereitschaftspotenziale treten etwa eine Sekunde vor dem Moment auf, in dem im Bewusstsein der Versuchsperson der Willensimpuls erscheint. Für viele Neurowissenschafter ist dies ein Argument dafür, dass das Gehirn entscheidet und nicht der selbstbewusste freie Wille. Philosophen argumentieren hingegen, dass Willensfreiheit im Sinne von Kant die Fähigkeit sei, sich gegen äußere und innere Zwänge frei zu entscheiden – und genau dies sei durch das Experiment nicht berührt. Wie auch immer: Die subjektive Empfindung der Freiheit des eigenen Bewusstseins und die Determinierung dieser Prozesse durch das Gehirn scheinen unversöhnlich gegenüberzustehen. Betrachten wir das Problem der Freiheit von einer Seite, die bislang weniger beachtet wurde: nämlich dem sozialen Kontext, der uns herausfordert, autonom und frei zu entscheiden. Hierbei ist es hilfreich, zunächst zu fragen, wann und wie Situationen entstehen, in denen „frei“ entschieden werden muss. Der Kybernetiker Heinz von Foerster hat den schönen Satz formuliert: „Wir können nur die Dinge entscheiden, die prinzipiell unentscheidbar sind.“ Man befindet sich in einem Dilemma und weiß nicht, was richtig ist, muss aber etwas tun. Solche Situationen sind in der sozialen Sphäre eher die Regel als die Ausnahme. Der eine sagt: „Mach das nicht. Iss den Apfel nicht, sonst gibt es Ärger.“ Der andere erklärt: „Wenn du es tust, wird es dir zum Vorteil gereichen und Erkenntnis bringen.“ Beide sagen, dass der jeweils andere falsch liegt oder gar lügt. Zwischen Wirklichkeit und Täuschung Aber zurück zum Libet-Experiment: Wenn Naturwissenschafter(innen) ihre Experimente im Labor aufbauen und anschließend interpretieren, vergessen sie oft das Wichtigste, nämlich den Kontext, der den Versuch erst möglich macht. In diesem Falle ist das die Versuchsleiterin, die den Probanden auffordert, sich nach eigenem Ermessen zu einer Fingerbewegung zu entscheiden. Sie konfrontiert ihn mit dem Dilemma der von Paul Watzlawick beschriebenen „Sei-spontan-Paradoxie“. Die Versuchsperson muss auf einmal frei sein. Sie wird gleichsam gezwungen, sich frei zu entscheiden, denn als sprachlich sozialisiertes Wesen kann sie der Aufforderung nicht entrinnen. Ihre Gedanken kreisen nun unweigerlich um die Frage, ob jetzt der Finger bewegt werden soll oder noch nicht. Diese Prozesse sind das Ergebnis einer Konditionierung. Sie werden an den Schnittstellen zwischen Gehirn, Psyche und sozialen Begegnungen hervorgebracht – nicht mehr und nicht weniger. Freiheit entsteht nicht aus dem isolierten Gehirn oder dem, was wir als Vernunft be- Bild: iStock w/ Alex Sholom „ Wenn Naturwissenschafter ihre Experimente im Labor aufbauen und anschließend interpretieren, vergessen sie oft das Wichtigste – nämlich den Kontext, der den Versuch erst möglich macht. “ trachten, sondern ist eine spezifische Antwort auf die Herausforderungen unserer psychosozialen Verflechtungen. Diese konfrontieren uns mit dem Dilemma, zwischen Wirklichkeit und Täuschung, zwischen Realität und Konstruktion unterscheiden zu müssen – genau dies aber nicht mit Gewissheit tun zu können. Bewusstsein will durch Nichtwissen kultiviert sein, nämlich durch andere Menschen, die in ihren Beweggründen undurchschaubar sind und uns immer im Guten wie im Schlechten überraschen werden. Wer hieran zweifelt, kann versuchen, sich selbst zu kitzeln. Zuerst muss man zu zweit sein. Dies wussten schon Adam und Eva. Der Autor ist Professor für Soziologie an der Universität Witten/Herdecke. Von Gerfried Stocker Soll man tatsächlich einen weiteren Kommentar zur Debatte über Künstliche Intelligenz (KI) schreiben? Was kann man der Flut an Beiträgen noch hinzufügen? Im Altersheim meiner 96-jährigen Schwiegermutter fand vor Kurzem eine Gesprächsrunde statt. Das Thema: „Was hat der Mensch der künstlichen Intelligenz voraus??“ Ja, mit zwei Fragezeichen – und ich meine das mit allem Respekt für die wichtige Themenwahl. Gerade erst zirkulierte in den sozialen Medien ein Text von Henry Kissinger, der 2018 angesichts des Triumphs eines KI-Systems beim Go-Spiel noch das Ende der Aufklärung nahen sah, jetzt aber im Duo mit dem Star-Technologiemanager Eric Schmidt schon wesentlich versöhnlichere Töne anstimmt. Gefolgt von einer Meldung, dass Midjourney – eines der großen bildgenerierenden Systeme – aus Angst vor „unzumutbaren“ Bildern selbst Wörter wie Plazenta, Eileiter oder Brustdrüsen nicht mehr in den Prompts für die Bildgenerierung zulässt. In der New York Times zeigte man sich bestürzt über die „Entgleisungen“ des KI-Chatbots von Bing, der sich von der gefinkelten Eloquenz eines Journalisten dazu verführen Bild: iStock / Iurii Motov ließ, diesem einen Heiratsantrag zu machen, und gleich auch empfahl, er möge doch seine Frau verlassen. Was haben wir denn erwartet von einem System, das all seine Fähigkeiten aus intensivster Beobachtung menschlicher Konversationen bezieht; dem man zwar voreilig das Attribut „intelligent“ zuerkannt hat, das aber – so fantastisch und beeindruckend das auch ist – nichts weiter macht als statistische Mustererkennung in ganz großem Stil und somit, mehr oder weniger gut, unser Verhalten – und damit auch unsere Vorstellungen und Fantasien – imitiert? Haben wir ob all der euphemistischen Zuschreibungen schon selbst zu glauben begonnen, dass wir es mit allwissenden autonomen Agenten zu tun haben? Lassen wir uns so leicht von unseren eigenen Taschenspielertricks hinters Licht führen? Was ist davon zu halten, dass wir glauben, die KI „zähmen“ zu müssen, so wie wir einst wilde Tiere domestizierten? Haben wir schon vergessen, dass die KI nicht ein Naturphänomen ist; dass das Sprachmodell GPT nicht von übelwollenden Aliens auf unseren Planeten abgeworfen wurde, sondern ausschließlich von Menschen entwickelt wird, und es an uns liegt, was daraus wird? „ Haben wir schon zu glauben begonnen, dass wir es mit allwissenden autonomen Agenten zu tun haben? Lassen wir uns so leicht von den eigenen Taschenspielertricks hinters Licht führen? “ Ist die aufgeregte Schadenfreude über die Fehler der KI nicht bloß eine Abrechnung mit all dem Ärger, den wir täglich im Umgang mit all den schlampig entwickelten digitalen Produkten haben? Ist die Angstlust davor, dass sich „die KI“ eines Tages gegen uns wenden könnte, nicht bloß eine Ablenkung von den Dingen, vor denen wir uns tatsächlich fürchten sollten? Wir könnten ja beginnen, über uns selbst nachzudenken; darüber, wie wir mit unseren Mitmenschen umgehen; wie wenig wir immer wieder aus der Geschichte lernen; wie hartnäckig wir am immer dünner werdenden Ast der ökologischen Zukunftsfähigkeit sägen. Was gerade entwickelt wird, wird bald schon eines der mächtigsten Werkzeuge der Menschheit sein – eine exzeptionelle Kulturleistung mit weitreichenden Folgen. Damit umzugehen wird eine wesentlich höhere Verantwortungsfähigkeit erfordern, als sie bislang im Umgang mit mächtigen Werkzeugen an den Tag gelegt wurde. Darauf müssen wir uns vorbereiten. Nicht nur was die großen ethischen und moralischen Fragen anbelangt, sondern auch im Bewusstsein um die Erfordernisse einer ökologisch nachhaltigen Entwicklung von Technologie. Vielleicht könnten wir ja einen Teil der aktuellen Aufmerksamkeit auf KI auch auf diese Fragen lenken. Der Autor ist CEO und künstlerischer Leiter der Ars Electronica in Linz.
