DIEFURCHE · 2 8 Gesellschaft 11. Jänner 2024 Das Gespräch führte Martin Tauss Die seelische Gesundheit und ihre wissenschaftlichen Grundlagen sind das Feld, das Joachim Bauer mit zahlreichen Sachbüchern beackert – und einer breiten Öffentlichkeit fundiert vermittelt. Sein jüngstes Buch ist zum Manifest geworden: In „Realitätsverlust“ (Heyne, 2023) widmet sich der Arzt und Psychotherapeut den Schattenseiten der Digitalisierung und warnt vor einem „Rückfall hinter die Aufklärung“, ja einer „Bedrohung der Menschlichkeit“. Auch sein Vortrag bei der diesjährigen Fachtagung von Pro Mente Wien am 11. Jänner (siehe Seite 9) steht im Zeichen dieses Themas: „Werden Künstliche Intelligenz und virtuelle Welten den Mitmenschen ersetzen? Was folgt aus dem Ausstieg aus der analogen Realität?“ DIEFURCHE bat Bauer im Vorfeld der Tagung zum Gespräch. DIEFURCHE: Sie diagnostizieren einen Realitätsverlust, der durch die Verlagerung unseres Lebens in die digitalen Welten entsteht: „Die vordergründige Freundlichkeit, mit der dies geschieht, macht daraus einen hypnotischen, der bewussten Wahrnehmung entzogenen Prozess.“ Woran erkennen Sie die Anzeichen dieser Entwicklung? Joachim Bauer: Dass Menschen sich gegenseitig immer weniger direkt begegnen und Zeit füreinander nehmen, stattdessen ständig an Bildschirmen kleben. Wie oft lässt sich beobachten, dass kleine Kinder, die Kontakt zu einer begleitenden Bezugsperson suchen, diese nicht erhalten, weil die Erwachsenen mit dem Handy zugange sind. So lernen schon die ganz Kleinen: Das wahre Leben findet nicht im analogen „Hier und Jetzt“, sondern in der digitalen Welt statt. DIEFURCHE: Der Begriff „Entfremdung“ bekommt heute also eine neue Bedeutung … Bauer: Millionen Menschen sind viele Stunden am Tag in den sozialen Medien oder in Videospielen unterwegs. Der analoge Kontakt zu Familien und Freunden ist oft auf das Notwendigste reduziert: kein Zusammensein beim gemeinsamen Spielen am Tisch, beim Sport oder Musizieren. Auch für Begegnungen mit der Natur bleibt keine Zeit mehr. Das ist übrigens einer der Gründe für die erstaunliche Gleichgültigkeit gegenüber dem Klimawandel. Wenn es nach der Digitalindustrie geht, sollen wir bald einen großen Teil unseres Lebens in einer komplett künstlichen Welt, dem sogenannten Metaversum, verbringen. Diese „Ent-Persönlichung“ des gesamten Lebens macht sogar vor den Kirchen nicht halt. Die Evangelische Kirche, der ich angehöre, hat auf dem Nürnberger Kirchentag 2023 die Predigt beim Gottesdienst durch Künstliche Intelligenz halten lassen – aus meiner Sicht ein Tanz ums Goldene Kalb ... Bild: Markus Ladstaetter; KI Midjourney, pro mente KI & Psyche Welche Bilder entstehen, wenn Maschinen zu Depression, Angst oder Psychose befragt werden? Die Pro Mente-Tagung in Wien zeigt die Antworten in einer Ausstellung (Bild oben: „Erste Hilfe für die Seele“). Werden heute immer mehr Menschen zu „Realitätsflüchtlingen“? Joachim Bauer über die Suchtwirkung des Digitalen, Handy-Regeln für Kinder und die drohende Verblödung durch ChatGPT. „Das neue ‚Opium des Volkes‘“ DIEFURCHE: Sie kritisieren technologische Visionen, in denen der Mensch wie eine Maschine gesehen wird. Übrigens basierte auch das milliardenschwere, aber wenig erfolgreiche „Human Brain Project“ der EU auf der Annahme, das menschliche Gehirn sei als eine Art von Supercomputer zu verstehen. Sind das also rundum verkehrte Annahmen? Bauer: Es macht durchaus Sinn, dem Menschen technische Modelle als Hilfsmittel oder Reparaturbausteine anzubieten: Denken Sie an Hirn-Computer-Schnittstellen, die es Patienten und Patientinnen mit schweren neurologischen Beeinträchtigungen erlauben, zu kommunizieren oder künstliche Arme oder Beine zu bedienen. Auch Computer mit Künstlicher Intelligenz sind technische Modelle: Sie können Daten in einer Weise verarbeiten, die dem menschlichen Gehirn ähnlich ist – alles prima. Einige Leute aus den Digital- Konzernen und manche Theoretiker, darunter der bedeutende US-Philosoph David Chalmers, verkünden jetzt aber allen Ernstes, man könne in einem Computer mit Künstlicher Intelligenz eine Person mit Bewusstsein, Geist und Seele entstehen lassen. Dem liegt die irrige Annahme zugrunde, dass sich aus immer weiter optimierter Datenspeicherung und Informationsverarbeitung irgendwann so etwas wie Bewusstsein ergebe. Künstliche neuronale Netze, aus denen Computer mit KI bestehen, sind Rechenmaschinen. Sie besitzen fantastische Rechenpotenziale und bestehen sogar den Turing Test: Sie erwecken den Anschein, als könnten sie denken und sprechen wie ein Mensch. Tatsächlich aber wissen KI-Systeme nicht, was sie tun. DIEFURCHE: Sie sehen im Hype um neue virtuelle Welten eine „digitale Mystik“ – und vergleichen den aktuellen Verlust der analogen Wirklichkeit mit der Realitätsabkehr im Mittelalter: Die Wirklichkeitswahrnehmung und Geistesgegenwart sei damals durch „religiösen Jenseitszauber“ beeinträchtigt gewesen. Das ist eine faszinierende Hypothese, zugleich aber auch sehr spekulativ, denn die geistigen Verfassungen „ Geld auszugeben, um später in einem digitalen Jenseits unsterblich zu werden: Dieses Versprechen erinnert doch frappant an das Mittelalter! “ der gewöhnlichen Menschen im Mittelalter müssen für uns wohl im Dunklen bleiben – oder gibt es dafür wissenschaftliche Anhaltspunkte? Bauer: Der Vergleich soll zum Nachdenken über die derzeitige Entwicklung anregen. Smartphones und ihre Anwendungen haben die Wirkung von Suchtmitteln, sie sind das neue „Opium des Volkes“. Die Digitalindustrie will das so. Hinter alldem steckt ein ideologisches Konzept, das von Digitec-Managern sowie einflussreichen Philosophen vertreten wird: Der Transhumanismus sagt, dass die reale Welt keine Zukunft habe, auch die Menschheit stehe irgendwann vor der Ablösung. Der Mensch könne jedoch unsterblich werden, indem er seinen Geist in einen Computer mit KI „hochladen“ lasse. Dass wir als Konsumenten für digitale Produkte jetzt Geld ausgeben sollen, mit dem Versprechen, später in einem digitalen Jenseits unsterblich werden zu können: Das erinnert doch auf frappierende Weise an das Mittelalter!
DIEFURCHE · 2 11. Jänner 2024 Gesellschaft 9 „ Der westliche Medizinbetrieb hat in der Vergangenheit wenig Widerstand gegen die Macht des Geldes gezeigt. Und jetzt kommt das große Geld von den KI-Herstellern. “ DIEFURCHE: Sie warnen vor den überzogenen Erwartungen an Künstliche Intelligenz. Aber gerade im Gesundheitsbereich könnte KI doch einen großen Nutzen bringen, man denke etwa an die präzisere Auswertung von Röntgenbildern… Bauer: KI-Systeme sind fehleranfällig. Sie sollten daher Qualitäts- und Sicherheitsanforderungen erfüllen wie andere Medizinprodukte auch. Erfahrungen an einer Uniklinik in der Schweiz haben gezeigt, dass die KI bei der Interpretation von Röntgenbildern oder im Herz-Ultraschall manchmal fehlerhafte Diagnosen stellt. Gute KI kann Ärzten helfen, in Labordaten und Symptomen Muster zu erkennen, die auf bestimmte Diagnosen oder Behandlungsmöglichkeiten hinweisen. Die sorgfältige direkte Untersuchung und das ärztliche Gespräch sind aber durch nichts zu ersetzen. Meine Sorge ist, dass durch den Einsatz von KI die Arzt-Patientenkontakte zurückgehen und Ärzte eingespart werden. DIEFURCHE: Die Pro Mente-Tagung in Wien thematisiert die Einsatzbereiche der Künstlichen Intelligenz für die psychische Gesundheit. Wie kann hier der Spagat zwischen technologischer Unterstützung und menschlicher Fürsorge gelingen? Bauer: Der westliche Medizinbetrieb hat in der Vergangenheit wenig Widerstand gegen die Macht des Geldes gezeigt. Jahrzehntelang gelang es der Tabakindustrie, mit Hilfe zahlreicher Ärzte und medizinischer Institutionen wahrheitswidrig zu verkünden, dass zwischen dem Zigarettenrauchen und Lungenkrebs kein Zusammenhang bestehe. Auch Einflussnahmen vonseiten der Pharmaindustrie sind bestens belegt. Jetzt kommt das große Geld von den KI-Herstellern. Sie werden „Studien“ finanzieren und auf Kongresse einladen, ein altbekanntes Spiel. Ihr Eindringen in die Kliniken und Arztpraxen wird als Fortschritt und Verbesserung verkauft werden. Zur richtigen Diagnose und Therapie kommt man in vielen Fällen aber nicht mittels eines algorithmischen Entscheidungsbaums. Vor allem, wenn mehrere Erkrankungen vorliegen und psychosomatische Aspekte eine zusätzliche Rolle spielen, sind Abwägungen nötig: Oft muss man Patienten bzw. Patientinnen einige Zeit beobachten, um zu einer Klärung zu kommen. Die ärzt- „ Dass sich Schüler ihre Hausarbeiten von ChatGPT schreiben lassen, wird dazu führen, dass sich die Betroffenen das selbständige Denken abgewöhnen. “ liche Kunst kann nicht an KI-Systeme delegiert werden. DIEFURCHE: In der Psychiatrie und Psychotherapie halten derzeit spezielle Apps für psychisch labile Menschen Einzug. Diese können die Angehörigen miteinbeziehen und schnell Alarm schlagen, wenn sich eine psychische Krise anbahnt. Manche halten das für eine revolutionäre neue Entwicklung. Wie ist Ihre Einschätzung? Bauer: Psychisch labile Menschen brauchen erfahrene Sozialarbeiter, psychiatrische Dienste, gute Psychiater oder Psychotherapeuten sowie Telefondienste – also Angebote von Mensch zu Mensch. Menschen sind auf soziale Verbundenheit und gegenseitige soziale Unterstützung ausgerichtete Wesen. Es sind soziale oder psychotherapeutische Hilfestellungen, die – manchmal mit Medikamenten – heilen oder zumindest stabilisieren. Welchen „revolutionären“ Mehrwert sollen KI-Systeme bringen – über das hinaus, was wir jetzt schon leisten können? Und was gerne vergessen wird: KI-Systeme sind außerordentlich teuer. Anstatt in Sozialarbeiter, Pflegekräfte, Psychiater und Psychotherapeuten zu investieren, werden wir das Geld für KI ausgeben. Wo ist hier der Fortschritt? DIEFURCHE: Wenn die kulturkritische Diagnose „Realitätsverlust“ lautet, wie sollte dann die Therapie aussehen? Was also wäre gesamtgesellschaftlich zu beachten? Bauer: Mit meinem Buch wollte ich zum Nachdenken anregen, was wir verlieren, wenn wir aus lauter Angst, technologisch „abgehängt“ zu werden, uns überstürzt in teure Abenteuer mit fragwürdigem Nutzen stürzen. Sicherlich kann uns Künstliche Intelligenz in vielen Bereichen helfen; schlecht gemachte oder missbräuchlich eingesetzte KI jedoch kann Unheil anrichten. Wir brauchen einen gesetzlichen Rahmen, der ihren Einsatz reguliert. Wenn KI mit Textnachrichten, als Stimme oder Deep Fake-Bildmaterial auf Verbraucher losgelassen wird, muss sichergestellt sein, dass sie sich zu Beginn als KI ausweisen muss. Zur notwendigen Regulierung zählt auch, dass überall, wo KI bei Entscheidungen über lebenswichtige Fragen mitwirkt, die letzte Entscheidung von einem Menschen getroffen und verantwortet werden muss. Foto: privat Joachim Bauer ist Neurowissenschaftler, Psychiater und Psychotherapeut in Berlin. Bei der diesjährigen Fachtagung von Pro Mente Wien hält er den Eröffnungsvortrag. DIEFURCHE: „Die Bewahrung der Humanität beginnt im Kindesalter“, schreiben Sie in Ihrem aktuellen Buch. Tatsächlich rudern einige Staaten bei der frühen Digitalisierung wieder zurück: Basierend auf Forschungsarbeiten der Karolinska-Universität in Stockholm machte etwa die schwedische Regierung ihre Entscheidung, Vorschulen verpflichtend mit digitalen Geräten auszustatten, letztes Jahr wieder rückgängig. Wie sollten Kinder an den Umgang mit Smartphones und Computer herangeführt werden? Bauer: Verschiedene Verbände der Kinderärzte haben da klare Empfehlungen abgegeben. In den ersten drei Lebensjahren sollten Kinder keine Bildschirme benützen, das gilt auch für Kindergärten. Danach sollten Kinder Bildschirme nur unter Aufsicht und zeitlich begrenzt benützen. Vor dem zehnten Lebensjahr sollten Kinder kein eigenes Smartphone haben. Soziale Medien und das Gaming haben ein erhebliches Suchtpotenzial. Sobald sie ein Smartphone haben, sind Kinder gefährlichen Angeboten wie dem Cybergrooming, Gewaltdarstellungen und Pornografie ausgesetzt. Cybergrooming bedeutet, dass sich pädophile Erwachsene über das Internet an Kinder heranmachen. Bereits Zehn- bis Elfjährige zeigen sich im Schulhof gegenseitig Internet- Videos mit brutalen Gewalt- und Pornoszenen. Wir müssen daher mit Kindern und Jugendlichen intensiv darüber im Gespräch sein, welche Angebote im Internet an sie herangetragen werden – und was sie nicht an sich heranlassen sollen. Fachtagung Pro Mente Wien Künstliche Intelligenz: Herausforderungen, Chancen, Risiken. Museum für Angewandte Kunst, Weiskirchnerstr. 3, 1010 Wien 11.1., 9–17 Uhr, Infos unter fachtagung. promente.wien Realitätsverlust Wie KI und virtuelle Welten von uns Besitz ergreifen – und die Menschlichkeit bedrohen Von Joachim Bauer Heyne 2023 240 S., geb., € 22,70 DIEFURCHE: Soziale Medien und Videospiele haben deshalb ein so hohes Suchtpotenzial, weil sie die Belohnungsmechanismen im menschlichen Gehirn adressieren. Braucht es da strengere Regulierungen – oder gar systemische Änderungen? „Wenn wir das Suchtproblem jemals lösen können, dann nur durch gesellschaftliche Transformation“, sagt der kanadische Suchtforscher Bruce Alexander in seinem Hauptwerk „The Globalization of Addiction“... Bauer: Tatsächlich haben die Hersteller ihre Social Media-Plattformen wie Facebook oder Instagram mit Absicht so konstruiert, dass die Nutzerinnen und Nutzer dazu tendieren, ständig auf der Plattform zu bleiben. Das Gleiche gilt für das Video- Gaming. Beide Angebote können die gesunde Entwicklung junger Menschen gefährden. Auf die zitierte „gesellschaftliche Transformation“ können wir lange warten; das sind abstrakte und hohle Begriffe. Wichtig ist, dass Eltern mit ihren Kindern klare Regeln vereinbaren, bevor sie ihnen internet-fähige Endgeräte geben, insbesondere eine zeitliche Begrenzung. Und natürlich müssen die Eltern in ihrem eigenen Verhalten als gute Beispiele vorangehen. Ab 22 Uhr sollten Kinder und Jugendliche nicht mehr am Netz sein. DIEFURCHE: Wie sieht eigentlich Ihr persönlicher Umgang mit digitalen Geräten aus? Bauer: Ich kenne die suchtartige Wirkung digitaler Angebote aus eigener Erfahrung. Ich besitze ein Smartphone und zwei Laptops. Chat-GPT habe ich mehrfach benützt und fand es wenig intelligent. Es lieferte mir auf meine Anfragen langweilige und reihenweise fehlerhafte Ergebnisse. Ich verstehe die Begeisterung nicht, mit der Millionen Menschen auf dieses Spielzeug abgefahren sind. Dass sich Schüler und Studierende inzwischen ihre Hausarbeiten von Chat-GPT oder ähnlichen Programmen schreiben lassen, wird dazu führen, dass sich die Betroffenen langsam das selbständige Denken abgewöhnen. Diese Angebote werden sich als Fahrplan in die Verblödung erweisen. DIEFURCHE: Haben Sie zum Abschluss noch ein paar Tipps? Bauer: Ich lege mein Smartphone nicht neben das Bett, sodass ich meinen Tag erst einmal mit der Wahrnehmung der realen Welt beginne. Wenn ich tagsüber mit Menschen zusammen bin, gilt für mich die Regel: Real Anwesende, vor allem Kinder, haben Vorrang vor digitalen Endgeräten. Ich achte auf die Menschen und auf die Natur, die mich umgibt. Kurz gesagt: Ich liebe die analoge Realität!
