Der Papst warnt darin vor existenziellen Risiken für Individuen, Gesellschaften und die Natur, spricht von «Entmenschlichung» und einem «neuen Kolonialismus» durch Monopole und fordert, die KI zu «entwaffnen». Lankau begrüsst diesen klaren Vorstoss und hofft auf neue Impulse in der öffentlichen Debatte.
Auf die Frage des Interviewers Ralf Wurzbacher, ob er mit dieser Schärfe und Tiefe der Kritik gerechnet habe, antwortet Lankau: «Nein. Es gab zwar schon sehr kritische Äusserungen von Papst Franziskus, und Papst Leo XIV. bezeichnete bereits am zweiten Tag seines Pontifikats KI als eine der ‚grössten Herausforderungen für den Schutz der Menschenwürde und der Gerechtigkeit der Arbeit‘. Aber ich bin von dieser Enzyklika positiv überrascht, weil sie so klar formuliert, dass diese Technik in der Hand kleiner Eliten maximalen Schaden für den einzelnen Menschen wie die sozialen Gemeinschaften anrichten kann.»
Lankau vergleicht die moralische Autorität des Papstes, der für 1,4 Milliarden Katholiken spreche und Werte wie Würde und Gerechtigkeit betone, mit den Interessen von Tech-Milliardären wie Peter Thiel. Der Mitgründer von Palantir sehe Regulierung als Wegbereitung für den Antichristen.
«Thiel hingegen ist der Repräsentant einer kleinen Clique von US-Milliardären, die aufgrund der seit den 1990er-Jahren fehlenden Regulierung der IT- und KI-Anwendungen rücksichtslos nur eigene Geschäftsinteressen vertreten und sich immer weiter bereichern», so Lankau. Elon Musk werde vermutlich der erste Billionär – «was den Wahnsinn der Datenökonomie verdeutlicht».
Der Professor kritisiert scharf die Ersatzreligion des Technikglaubens: «Es ist eine perfide Mischung aus Fortschritts- und Technikgläubigkeit als eine Form von Ersatzreligion.» Der «Solutionism» – die Idee, dass Technik alle Probleme löse, bis hin zur digitalen Unsterblichkeit – fülle die Lücke, die der Verlust traditioneller Gemeinschaften hinterlasse. «Das ist die ‚Wiedergeburt auf digitalisch‘, absurd, aber ein Geschäftsmodell.»
Lankau erinnert an die Warnung des Kybernetik-Pioniers Norbert Wiener aus dem Jahr 1947 und stellt fest, dass genau das eingetreten sei: Die Entwicklung liege in den Händen «der verantwortungslosesten und käuflichsten unserer Techniker». Seit 2022 würden generative KI-Tools wie ChatGPT ohne Rücksicht auf Folgen verbreitet. Politische Eliten und Parlamente, einschliesslich des Bundestags-Ausschusses zur Technikfolgenabschätzung, zeigten sich zögerlich oder untätig.Besonders alarmierend seien die Auswirkungen auf Bildung und menschliche Entwicklung. Studien zeigten sinkende Lernleistungen der Generation Z trotz oder wegen des Technikeinsatzes. Lankau verweist auf den Neurowissenschaftler Jared Cooney Horvath, der betont, dass Bildung an menschliche Lernprozesse angepasst werden müsse und nicht umgekehrt. Wirtschaftsinteressen der IT-Anbieter dominierten statt pädagogischer Nutzen.
Die Kernbotschaft Lankaus: «Angst muss man nicht vor Maschinen haben, sondern vor den Menschen, die sie entwickeln und missbrauchen.» Maschinen hätten kein Bewusstsein, keinen Willen. Die reale Gefahr liege in der Nutzung durch Menschen – etwa bei autonomen Waffensystemen mit Gesichtserkennung. Ablenkungsmanöver von einer drohenden «Weltherrschaft der Maschinen» dienten nur dazu, aktuelle Missbräuche zu kaschieren.Es gehe letztlich um die Grundfrage: «ob es gelingt, IT und KI als Werkzeuge zugunsten einer humanen und demokratischen Gesellschaft einzusetzen, oder ob ein paar Oligarchen sie weiterhin dafür missbrauchen, ihre eigene Vorherrschaft zu festigen.» Lankau ist überzeugt, dass Widerstand möglich und notwendig sei. Die Enzyklika des Papstes könne hier wichtige ethische Impulse geben.
Lankau unterstreicht im Interview die Dringlichkeit einer gesellschaftlichen und regulatorischen Debatte über die Gestaltung von KI, statt sie unkontrolliert Tech-Monopolen zu überlassen.
