Meine sehr verehrten Damen und Herren, ich bedanke mich sehr herzlich für die Einladung, heute Abend zu Ihnen zu sprechen, die mich maßlos ehrt, die mich aber auch maßlos unter Stress gesetzt hat. Denn bei der „digitalen Transformation“ hat die Katholische Akademie in Bayern wahrlich keine Vorreiter-Rolle eingenommen.
Digitale Transformation in unserer Arbeit
Als ich vor fünf Jahren herkam, bestand die erste „digitale Transformation“ unter meiner Führung darin, dass die Protokolle unserer Sitzungen nicht mehr auf buntes Papier kopiert und persönlich von Büro zu Büro getragen, sondern – hört, hört! – als PDF auf einem Server-Kompartiment abgespeichert wurden, wo alle sie einsehen können. Sie verstehen: Wir haben ganz unten angefangen. Und so manche Innovation vorangepeitscht, die man eigentlich ebensogut bereits 15 Jahre früher hätte umsetzen können.
Dann hat uns Corona Beine gemacht. Binnen eines Jahres haben wir alle PCs auf Laptops umgestellt, unseren Server in eine Cloud transferiert, wo dann auch die Arbeitszeiterfassung und die Telefonie angesiedelt wurden, um für Mobiles Arbeiten gerüstet zu sein. Gleichzeitig mussten wir unseren Präsenzbetrieb schließen und konnten unsere Bildung nur im Netz anbieten: Zoom-Veranstaltungen mit einer ziemlich unbeholfenen Didaktik; und immer mehr Videos auf unseren YouTube-Kanälen, deren Klickzahlen tatsächlich für unsere Verhältnisse ziemlich durch die Decke gingen. Heute lesen viele unsere Zeitschrift zur debatte digital oder buchen unsere Zimmer auf booking.com. Unsere neue Website hat endlich Schnittstellen, damit man die Daten aus der Anmelde-Maske nicht mehr einzeln per „copy & paste“ in die Datenbank übertragen muss. Was noch aussteht, sind eine Online-Bezahlfunktion, eine elektronische Schließanlage und eine digitale, papierlose Finanzbuchhaltung. Ein Ende dieser digitalen Transformation ist nicht in Sicht.
Für unsere Mitarbeiterinnen und Mitarbeiter ist das unterm Strich kein einfacher Weg. War denn alles schlecht so, wie wir das früher gemacht haben? Ist mein Arbeitsplatz wirklich sicher? Warum muss sich alles gleichzeitig ändern? Bin ich denn der einzige, der sich schwertut mit der IT? Unser kleines mittelständisches Unternehmen mit seinen gut 50 Mitarbeitenden und einer im kirchlichen Raum nicht ganz untypischen Behäbigkeit hat sich da ganz wacker geschlagen, ist aber sicher kein Vorzeige-Unternehmen in Sachen Change-Management.
Digitale Transformation in unserer Reflexion
Was uns als Akademie ausmacht, ist natürlich auch die Reflexion über das Phänomen der Digitalisierung. Wir sind ja geradezu von unserer Satzung her verpflichtet, die relevanten gesellschaftlichen Entwicklungen zu reflektieren. Und das Feld der Digitalisierung ist da schier uferlos. Seit etlichen Jahren betreiben wir einen Digitalen Salon, der Fragen aus diesem Themenkreis diskutiert. Und gerade voriges Wochenende haben wir die dreitägigen Philosophischen Tage zum Thema KI zuendegebracht …
Was sich da zur Zeit so alles ändert, und in welchem Tempo es auf uns zukommt: Das kann einem schon richtig Angst machen – gerade auch dann, wenn vielleicht der eigene Arbeitsplatz noch eher „old school“ organisiert ist.
KI als Anfrage an den Menschen
Ich glaube, die aktuelle Entwicklung wird vor allem deshalb als so beängstigend empfunden, weil digitale Instrumente uns Menschen nicht mehr nur unterstützen, sondern uns regelrecht Konkurrenz machen. KI rechnet nicht mehr nur nach vorgegebenen Algorithmen Ergebnisse aus, sondern sie ist in der Lage zu lernen, ihre eigene Arbeitsweise zu reflektieren und, auch durch Interaktion mit den Nutzerinnen und Nutzern, immer besser zu werden. Vieles, was wir noch vor Kurzem für unsere eigene Domäne hielten, können digitale Instrumente einfach besser als wir:
- Das Autofahren sollten wir wohl ganz an sie abtreten: Sie vermeiden Staus durch die Auswertung von Echtzeitdaten, halten den Abstand und die Höchstgeschwindigkeit ein und retten dadurch Menschenleben. Weniger ‚Tote durch toxische Männlichkeit‘: Ist doch prima!
- Maschinen spielen heute besser Schach als jeder Weltmeister. Sie schreiben Texte und Gedichte. Und Computerprogramme. Sie malen und generieren echt aussehende „Fotos“ von Motiven, die es nie gegeben hat. Sie bestehen Prüfungen in Jura, Medizin und Physik, und lassen uns mit unseren mühsam erworbenen beruflichen Qualifikationen alt aussehen.
- In Unternehmen wird KI auf breiter Front auch auf den Schreibtischen Einzug halten – und ganz sicher auch bei den Führungsaufgaben: Sie wertet Dokumente aus, kennt die Fakten so präzise, wie sie sich kein Mensch merken kann, und sie kann diese Fakten gruppieren, priorisieren und auswerten. Sie weiß eigentlich besser, wer aus zweihundert Bewerbungen am besten auf die freie Stelle passt – also falls irgendwann einmal wieder Bewerbungen auf freie Stellen eingehen sollten …
Managern könnte die KI also Erleichterungen bringen und Entscheidungen abnehmen. Manche Schreibtisch-Täter hingegen könnte sie wegrationalisieren – wie sie seinerzeit den Fließband-Arbeitern die Arbeit weggenommen haben. „Schul Dich halt um!“
- In seinem Buch Quality Land erzählt Marc Uwe Kling, wie ein Android zum Präsidenten gewählt wird, weil seine Entscheidungen rationaler, fundierter, weitsichtiger und dem Gemeinwohl zuträglicher sind, als wenn menschliche Politiker sich von Emotionen oder Parteiinteressen leiten lassen. Noch: ein Gedankenspiel. Bald Wirklichkeit? Manchmal würde man sich das fast wünschen …
- Und so weit sind die literarischen Dystopien ja gar nicht mehr von der Wirklichkeit weg. Heute schon hoffen „Transhumanisten“ auf eine paradiesische Zukunft, in der unsere biologischen Körper mit den technischen Instrumenten völlig verschmelzen; durch Implantate, die die Möglichkeiten der KI direkt in unsere Sinnesorgane, in unsere Neuronen einspeisen und uns zu echten Cyborgs machen. Das wird ganz sicher kommen.
- Apropos Verschmelzen: Inzwischen verlieben sich Menschen in humanoide Roboter oder sogar in körperlose Chatbots – manche so sehr, dass sie sie im juristischen Vollsinn heiraten möchten, weil kein Mensch ihnen eine solche Liebe schenken kann. Das mag man als Kuriosität abtun. Es wird aber Teil unserer Normalität werden.
Die KI stellt also massive Anfragen an unser Menschenbild. An unser Selbstbild. Und sie ergreift Macht über uns.
KI als Gefahr für den Menschen
Deshalb lässt uns dieses Thema nicht kalt. Es macht uns Angst. Und es könnte ja auch tatsächlich richtig gefährlich werden.
Im März forderten in einem Offenen Brief über 1.000 IT-Entwickler, darunter große Namen wie Elon Musk oder Apple-Gründer Steve Wozniak, ein Moratorium für neue KI-Modelle: Man müsse eine Denk-Pause einlegen, weil die Systeme sonst außer Kontrolle geraten und der Menschheit gefährlich werden könnten. Kritiker wandten ein,
das Horrorszenario diene wohl seinerseits eher dem Marketing der Tech-Konzerne und lenke von den eigentlichen Gefahren ab! Als da wären:
- KI-Algorithmen können die Verzerrungen und Ungerechtigkeiten der Wirklichkeit verstärken – etwa wenn in US-Krankenhäusern Schwarze seltener für Behandlungen empfohlen werden, weil es der KI weniger aussichtsreich erscheint. Dass aber der Datensatz eine diskriminierende Ungerechtigkeit widerspiegelte, weil Schwarze in der Vergangenheit schlicht seltener behandelt wurden, das war der Maschine egal.
- Auch die negativen Auswirkungen in der Arbeitswelt scheinen typische Frauen-Arbeitsplätze und Sozial Schwache mal wieder stärker zu treffen als die Besserverdienenden.
- Dass auch Fake-News und Stimmungsmache sich durch KI beschleunigen, versteht sich von selbst. Bilder können lügen wie gedruckt. Stimmen werden nach ein paar Sekunden Aufnahme täuschend echt imitiert – mit Sätzen, die sie nie gesagt haben.
- Inzwischen sollen die meisten der Twitter- bzw. X-User gar keine realen Menschen mehr sein, sondern „Bots“, die die Hypes und Wallungen der öffentlichen Meinung steuern, ohne dass man das als User auseinanderhalten kann. So werden bereits Wahlen manipuliert – die Grundlage unserer Demokratie.
- Von Cyber-Sicherheit will ich hier gar nicht erst anfangen!
Eine Potenzierung der Gefahren ergibt sich dadurch, dass die KI ihre eigene Arbeitsweise anpasst und ändert – und dabei auch ihre Ziele in eine Richtung anpassen kann, die von ihren Entwicklern nicht intendiert und auch nicht vorherzusehen war. „Emergenz“ – der unerwartete Sprung einer Entwicklung in eine neue Qualität – ist damit, nun ja, „vorprogrammiert“. Niemand kann deshalb die Folgen der KI-Revolution heute abschätzen. Und was so alles passieren kann, wenn Zigtausende von KI-Instrumenten erst einmal anfangen, miteinander zu interagieren, dann kann vermutlich keine KI der Welt mehr das Ergebnis prognostizieren.
Die Maschinen haben inzwischen einen Grad an Autonomie erreicht, der die Autonomie des Menschen ernsthaft infrage stellt.
KI als Menschheitsaufgabe
Eins ist völlig klar: Der Mensch muss der KI Grenzen setzen. Er muss sie einhegen. So wie der freie Markt insgesamt seine Dynamiken nur dann zum Wohle aller entfaltet, wenn ihm durch die Politik ein Rahmen gesetzt wird, innerhalb dessen er frei agieren kann, so werden sich die Gefahren und Nachteile der durch die Tech-Konzerne entfesselten Digitalisierung nur durch politisches Handeln im Zaum halten und gerecht verteilen lassen.
Wie bringt man die KI auf Linie? Auch damit befassen sich inzwischen Scharen von Forschern. „Alignment“, also die „Ausrichtung“ der KI auf humane Werte und ethische Ziele, wird für Unternehmen wie unsere zur Aufgabe werden. Wenn wir das nicht machen, werden die Algorithmen für uns die Werturteile fällen. Es ist ja absurd: Genau jene, die vor einem halben Jahr mit einem herzzerreißenden Betroffenheitsgestus ein Moratorium gefordert haben, liefern sich einen erbitterten Wettlauf um jedes bisschen Vorsprung vor der Konkurrenz. Schließlich geht es um Milliarden – Dollar und User. Dass Kontrolle und Mäßigung hier von selbst und auf freiwilliger Basis Einzug halten, scheint mir ausgeschlossen. Deshalb möchte ich eine Lanze für das Mandat der Politik brechen: Wir brauchen mehr Regulierung. Mehr Politik. Mehr Staat. Denn hier liegt die Legitimation von Macht. Und hier liegt die Verantwortung für das Gemeinwohl.
Von einzelnen Unternehmen kann niemand erwarten, sich selbst auszubremsen und zu Lasten der eigenen Konkurrenzfähigkeit Vorreiter zu sein. Da braucht es eben einen Rahmen, in dem ein Unternehmen wirtschaftlich keinen Nachteil davon hat oder vielleicht sogar davon profitieren kann, wenn es verantwortungsbewusst mit diesem sensiblen Thema umgeht. Und umgekehrt sollten die Unternehmen dann aber diese Regulierung auch nicht als Gängelei abtun, sondern als Entlastung anerkennen: Ist doch gut, wenn die anderen auch mitmachen müssen! Es sollte zum guten Ton gehören, es sollte für Unternehmerinnen und Unternehmer „Ehrensache“ sein, an dieser gigantischen, global gesamtgesellschaftlichen Aufgabe mitzuwirken, und Leitung und Belegschaft dafür zu sensibilisieren und zu schulen, Mitspracherechte zu leben, Ängste ernstzunehmen, Fachkenntnisse zu trainieren und dabei auf den Sozialschutz zu achten.
Es wird schwer genug, wenn wir alle an einem Strang ziehen. Denn das Problem lässt sich ja nur international, nur global lösen. Und wenn ich daran denke, wie zäh es war und wie lange es gedauert hat, bis die Weltgemeinschaft sich auf gemeinsame Klimaziele verständigt hat (und wie weit wir bis heute davon entfernt sind, sie einzuhalten), dann muss man wohl auf ein Wunder hoffen – und auf das Einsehen, dass es für alle noch deutlich schlimmer wird, wenn wir das nicht hinbekommen. Immerhin hat die Europäische Union in dieser Frage einmal international die Nase vorn: Der Artificial Intelligence Act, den das EU-Parlament neulich beschlossen hat, geht genau in die richtige Richtung. Hoffen wir mal, dass er auch weit genug voran geht – und schnell genug.
KI als Bildungsauftrag
Eine besondere Verantwortung kommt dabei wohl auch der Bildungsbranche zu, der meine Akademie angehört und ebenso natürlich diese großartige Stiftungshochschule, die uns ja genau deswegen zu den heutigen Management-Gesprächen eingeladen hat. Die Welt ist noch unübersichtlicher geworden. Nicht mehr nur volatil, sondern brüchig. Nicht mehr nur verunsichert, sondern voller tief sitzender Angst vor der Zukunft. Nicht mehr nur komplex und mehrdeutig, sondern in weiten Teilen strikt nicht mehr zu verstehen.
Auch in der Bildung braucht es da wohl einen Sprung in eine neue Qualität. Digital-Kompetenz an alle Systemträger:innen, aber auch in der Breite der Gesellschaft zu verankern, dürfte die vielleicht wichtigste Herausforderung für uns werden. Die Funktionsweise der KI wenigstens in ihren Grundprinzipien zu verstehen und dadurch ihren Ergebnissen den rechten Stellenwert geben zu können, die dahinterstehenden wirtschaftlichen oder ideologischen Interessen zu erkennen, Manipulationen zu wittern und zu entlarven, die re-generierten Verzerrungen der Wirklichkeit methodisch immer einzupreisen … solche Kompetenzen dürften künftig wichtiger sein als zum Beispiel zu lernen, wie man eine Seminararbeit schreibt.
Für diesen Lern-Prozess brauchen wir Mut und Zutrauen. Wir müssen uns auf die Digitalisierung und die KI einlassen, kritisch und begeistert mit ihr umgehen. Wir müssen ihre Chancen ergreifen, sonst fehlt uns die Kompetenz, ihre Gefahren zu bekämpfen.
Faustregeln für Menschlichkeit im Umgang mit KI
Es braucht wohl ein ‚gerüttelt Maß‘ an Resilienz, um nicht verrückt zu werden. Denn der Ruf nach Politik und Bildung hilft uns ja individuell nur bedingt weiter auf unserem eigenen Weg durch diese unbekannten Welten. Ich möchte deshalb abschließend ganz tief in die Schatzkiste unserer Religion greifen. Denn wir haben ja einen Katalog mit bewährten Faustregeln, wie Leben gelingt, wie man mit der Welt und mit einander umgehen soll: den Dekalog. Schauen wir einmal, was diese Brocken biblischen Urgesteins für unser Thema abwerfen.
Es beginnt mit dem Satz „Ich bin der Herr, dein Gott, der dich aus dem Land Ägypten geführt hat, aus dem Sklavenhaus“. Die hier geronnene Erfahrung stellt Vertrauen als Überschrift über alles: das Vertrauen, dass unser Gott ein Gott der Freiheit ist, und dass es Wege gibt, die aus den Zwängen der Welt herausführen. Resilienzaufbau durch Gottvertrauen, das ist vielleicht eine Kernkompetenz, eine wertvolle Ressource unseres Glaubens.
„Du sollst keine anderen Götter neben mir haben.“ Da würde ich sagen: KI ist kein Gott. Sie ist Teil von Gottes immer schon emergent gewesener Schöpfung. Insofern sollen wir sie uns untertan, dienlich machen, und sie nicht vergöttern.
„Du sollst Dir kein Bildnis machen!“ In Zeiten, da der Spiegel wegen gefakter Bilder das Ende der Wahrheit verkündet, heißt das vielleicht: Du sollst wissen, dass Fotos heute kein Korrelat mehr in der Wirklichkeit haben müssen. Bitte erlauben Sie mir die Bemerkung, dass die digitale Kompetenz in dieser Frage auch ein Stück weit von selbst entsteht: Seit einiger Zeit albern meine Töchter, 10 und 12 Jahre alt, gerne mit den Gesichtsfiltern ihres Handys herum. Und wenn mir auch beim ersten mal ein wenig mulmig war, ich muss sagen: Das ist schon wirklich sehr, sehr lustig. Und ganz nebenbei vermitteln diese Tools eben eine solide Einschätzung der Aussagekraft von Bildern. Wie leicht das geht! Auf das „Foto“ eines ravenden Papstes würden sie niemals hereinfallen.
„Am siebten Tage sollst Du ruhn!“ Das sagt mir: Mach mal Pause! Sei mal offline! Kannst Du noch Auto fahren ohne Navi? Weißt Du noch, wie man im Zug mit dem Menschen gegenüber ein Gespräch führt? Lass doch beim Spaziergang mal das Handy zuhause und genieße stattdessen den Geruch modrigen Herbstlaubs, und alles, was Gottes gute, analoge Schöpfung sonst noch so an Wunderbarem für Dich bereithält! Bei aller Liebe zur Technik: Verlernen wir nicht, auch noch ohne sie klarkommen. Gott empfiehlt uns regelmäßig Abstinenz.
„Du sollst Vater und Mutter ehren.“ Das heißt für mich, in Zeiten rasanter Entwicklungen niemanden abzuhängen, der oder die nicht mehr mitkommt. Teilhabe muss in unserer Gesellschaft auch möglich sein, ohne ein Handy zu haben oder einen MVV-Fahrkartenautomaten bedienen zu können. Und zugleich haben ältere Menschen Respekt verdient für die Veränderungen, die sie im Leben verarbeitet haben. Es hat sich ja nur die Geschwindigkeit geändert. Die Beschleunigung war immer schon hoch. Manche altertümlichen Methoden dürfen wir auch weiter pflegen und in Ehren halten. Ich freue mich immer, wenn ich junge Leute mit Kalender oder Adressbuch aus Papier sehe. Das müssen wir nicht aus Prinzip abschaffen.
„Du sollst nicht töten.“ Jetzt wird es ernst. Denn Digitalisierung kann in der Tat mörderisch sein. Es gibt Cyber-Kriminalität, die Existenzen vernichtet. Es gibt beim Mobbing „Strukturen des Bösen“, die online noch brutaler durchschlagen als etwa auf dem Schulhof. Es gibt KI-gestützte Waffensysteme, die autonom über Leben und Tod entscheiden. Und es arbeiten sich Menschen im wörtlichen Sinne kaputt, um die Seltenen Erden für die Produktion unserer Geräte zu fördern. Dies sind Felder, auf denen wir auch individual-ethisch gefragt sind! Unser EMASplus-QM-System problematisiert gerade neu die klimaschädliche Wirkung des Streamings! Ich würde das am liebsten verdrängen, weil uns das Streaming gerade die Haut rettet. Aber wir müssen uns solchen Anfragen stellen.
„Du sollst nicht ehebrechen.“ Vielleicht so: Wir sollten unseren realen Beziehungen nicht untreu werden, weil wir uns ständig der Sogwirkung digitaler Geräte hingeben.
„Du sollst nicht stehlen“ und nicht einmal „begehren deines Nächsten Hab und Gut.“ Also auch nicht seine Daten! Widerstehen wir der Gier, mit den Mitteln der digitalen Technik Menschen zu überlisten und Ihnen Dinge abzuluchsen, die sie uns bewusst niemals geben würden.
„Du sollst nicht lügen!“ Das ruft uns zur Mäßigung auf, wenn wieder einmal ein Shitstorm über jemanden hereinbricht oder in der politischen Debatte das Bashing die Argumente verdrängt. Und dazu, im eigenen Haus eine Kultur der Transparenz, der Nachweise, der Überprüfbarkeit von Aussagen zu pflegen.
Kein falscher Stolz!
Meine Damen und Herren, mehr als ein paar assoziative Splitter konnten dies nicht sein. Aber es war ja auch lediglich meine Aufgabe, Ihnen für die verbliebenen Stunden unserer Tischgespräche ein wenig Futter zu geben. Um den Ernst des Themas dafür noch ein wenig zu brechen, möchte ich schließen mit dem 11. Gebot. In meiner Kindheit kursierte es in der Fassung: „Du sollst Dich nicht erwischen lassen!“ Heute Abend möchte ich es so fassen: „Du sollst Dich nicht auf dem falschen Fuß erwischen lassen.“ Ich stelle mir nämlich die Frage, ob der Hype und die Hitzigkeit der Debatte in den Feuilletons dieses Landes nicht zum Teil auch darauf zurückzuführen ist, dass wir Intellektuellen gerade von diesem Qualitätssprung der KI kalt erwischt wurden.
Es ist ja im Grunde nichts Neues, dass menschliche Arbeit von Maschinen übernommen wird. In den vergangenen Jahrzehnten waren das halt vor allem körperliche Arbeiten. Damit konnten wir Kopf-Arbeiter, die wir hier im Saal allesamt sind, relativ entspannt umgehen: Das macht doch nicht den Menschen aus! Die Kohlekumpel oder Fließbandarbeiter können sich doch umschulen lassen!
Aber mal ehrlich: Dem Arbeiter in den 70ern ging es genauso an die Substanz, als das, was er am besten konnte, was ihn, sein Leben, seine Biographie, sein Selbstbild und Selbstwertgefühl ausmachte, wegrationalisiert wurde. Umschulung half da erstmal gar nicht.
Nun geht es also uns an den Kragen, an unseren Grips, an unser Gehirn, unsere Intelligenz. Maschinen können jetzt auch geistige Arbeiten übernehmen. Das kam unerwartet. Und es demütigt uns ein wenig in unserem Selbstbild, zum wichtigeren Teil der Menschheit zu gehören. Geben wir es zu: Ein wenig sind wir in unserem Stolz verletzt. Und vielleicht ist auch deshalb die unter Intellektuellen geführte Debatte ein wenig aufgeregter als sie sein müsste.
Nehmen wir das doch zum Anlass, einmal die Arroganz des Geistes gegenüber dem Körper zu hinterfragen. Nur kein falscher Stolz! Wäre es so schlimm, wenn nicht der Verstand das Proprium des Menschen ist? Vielleicht führt uns die Entwicklung zu einer Neubesinnung auf das, was unser Menschsein im Kern wirklich ausmacht. Was bleibt, wenn wir dement oder bettlägerig werden. Und das sind eben die intellektuellen Fähigkeiten genausowenig wie die körperliche Arbeit.
Vielleicht sind es eher die Emotionen: Empathie, Achtsamkeit, Intuition, das Herz am rechten Fleck. Zu wissen, wie sich etwas anfühlt, und wie sich jemand anders gerade fühlt. Ein unmerkliches Augenzwinkern oder schmunzelndes Zucken im Mundwinkel deuten zu können. Der Humor. Lachen wir mehr über uns selbst! Und vor allem: Lachen wir miteinander. Das kann keine KI, zumindest noch nicht! Und es führt uns vielleicht tiefer in den Grund unseres menschlichen Daseins als manch intellektuelle Akrobatik.
In diesem Sinne: Guten Appetit! Lassen Sie es sich auf der Zunge zergehen und genießen Sie unser menschliches Miteinander!
