Die Erfindung des Kochens führte zu einer Verminderung der Grösse und Stärke der menschlichen Kiefermuskulatur. Kleidung und Raumheizung führten zu einer Verminderung der körperlichen Widerstandskraft. In Kulturen, in denen es noch keine Schrift gab, waren Gedächtnisleistungen an der Tagesordnung, die uns heute in Erstaunen versetzen würden. Man konnte eine lange Geschichte oder ein episches Gedicht einmal hören und wörtlich wiedergeben – eine Fähigkeit, die selten geworden ist, seit wir das Gedächtnis auf das geschriebene Wort verlagert haben.

Sie haben vielleicht schon bemerkt, dass Sie, wenn Sie auf jeder Reise ein GPS benutzen, nicht nur nicht lernen, sich in Ihrer Umgebung zurechtzufinden, sondern auch einen Teil Ihrer allgemeinen Fähigkeit verlieren, sich in jeglicherUmgebung zurechtzufinden. Der Orientierungssinn, das Gefühl für den Ort und die Fähigkeit, sich eine Folge von Orientierungspunkten zu merken, verkümmern.

Es ist jedoch nicht so einseitig ein fortschreitender Verfall der Intelligenz, der sich durch die Auslagerung an Technologie ereignet. Wie das Beispiel des geschriebenen Wortes zeigt, kann die Übertragung kognitiver Funktionen auf externe Medien umgekehrt auch neue Bereiche der intellektuellen Entwicklung und des Ausdrucks, neue Formen der sozialen Organisation und neue Psychologien eröffnen.

Künstliche Intelligenz ist die Krönung der Revolution in der Informationstechnologie, die im 15. Jahrhundert mit dem Buchdruck begann und in den folgenden Jahrhunderten durch Lithographie, Photographie, Tonaufzeichnung und Film ergänzt wurde. All diese Entwicklungen erweiterten jeweils die Massenproduktion von Informationen auf ein neues Gebiet. Ein Rückblick auf die kognitiven und sozialen Auswirkungen dieser frühen Technologien hilft uns zu verstehen, was uns im Zeitalter der künstlichen Intelligenz erwartet.

Das allgegenwärtige Bild

Marshall McLuhan hat bekanntlich den Buchdruck und die damit verbundene Massenalphabetisierung mit dem Übergang zu einer analytischen, objektiven und abstrakten Informationsorientierung in Verbindung gebracht. In Kulturen mit oraler Wissensweitergabe findet die Informationsübermittlung immer im Kontext einer Beziehung statt. Das Gesagte ist untrennbar mit dem Sprecher verbunden. Ein Sprecher kann die Worte eines anderen wiedergeben, aber nicht seine Stimme oder den Zeitpunkt und den Ort, an dem er gesprochen hat. Auch der Zuhörer kann nicht mit Sicherheit davon ausgehen, dass er die Worte eines anderen richtig wiedergibt (weshalb in manchen schriftlosen Gesellschaften sieben Zeugen erforderlich waren, um einen mündlichen Vertrag zu bezeugen). Ein Buch hingegen bleibt über Zeit und Raum hinweg gleich, verleiht seinem Inhalt den Anschein von Objektivität, abstrahiert das Wissen vom Wissenden, macht die Erfahrung des Verstehens zu einer privaten Angelegenheit und trennt sie von der Beziehungs- und Gemeinschaftserfahrung.

Gleichzeitig mit der perfekten Reproduktion von Wörtern durch den Buchdruck wurde auch die Reproduktion von Bildern durch Innovationen in der Kunst perfektioniert. Insbesondere die Verwendung von Perspektive und Schattierung erzeugten einen «realistischen» Eindruck von Tiefe auf einer ebenen Fläche. Auch dies trug zum Eindruck von Objektivität, von Analyse und abgetrennten Individuen als Grundprinzipien modernen Denkens bei. Ein perspektivisches Gemälde ist nur dann «realistisch», wenn man von der Vorrangstellung des einzelnen Betrachters ausgeht. Aus der Perspektive Gottes, der alle Dinge von allen Seiten sieht, ist ein solches Bild nicht richtig. Ebenso wenig richtig ist es , wenn das Sein eher relational als objektiv ist.

Natürlich ist die Wahrhaftigkeit eines Gemäldes nur so gut wie das Können und die Objektivität des Malers. Mit dem Aufkommen der Fotografie und später des Films schien diese Unvollkommenheit verschwunden zu sein, so dass die Subjektivität nur noch in der Wahl der Kameraeinstellung bestand. Obwohl es mit etwas Bemühen möglich war, Fotos zu inszenieren oder zu fälschen, vertrauten die meisten Menschen darauf, dass sie die Realität genau wiedergaben. «Die Kamera lügt nicht.»

Es ist mehr als ironisch, dass sich gerade die Technologien – Druck, Fotografie, Ton und Film –, die eine getreue, subjektive Darstellung der Wirklichkeit versprachen, zu Instrumenten des genauen Gegenteils entwickelt haben. Ein Buch (oder sein elektronisches Äquivalent) bleibt nicht mehr notwendigerweise «über Zeit und Raum hinweg gleich», sondern kann nach Belieben desjenigen, der die digitale Technologie kontrolliert, verändert werden. Wir befinden uns wieder im Zeitalter des gesprochenen Wortes und der Ölgemälde, die sowohl zur Aufzeichnung als auch zur Generierung von Informationen verwendet wurden. Da ein geschickter Künstler beides konnte, traute man einem Gemälde als Scheinbeweis für etwas Reales ebenso wenig wie einem mündlichen Bericht. Dasselbe gilt heute für alle Medien, die von der generativen KI beherrscht werden. Wir betrachten ein Foto oder ein Video und fragen uns, woher es stammt, bevor wir es als Abbild der Wirklichkeit ansehen. Stammt es von einer Person, der ich vertraue? Welche Ziele verfolgt es? Welche Erzählung untermauert es?

Diese Fragen haben uns schon vor der generativen KI und Tiefenfälschungen gute Dienste geleistet. Fotos konnten inszeniert, gefälscht oder, was häufiger vorkommt, redigiert sein. Was will uns die Fotografin zeigen? Was sind ihre bewussten Motive und welche unbewussten Vorurteile leiten sie bei der Beurteilung dessen, was fotografiert werden soll? Die grossen Fotografen sehen, wie die grossen Maler, mit anderen Augen und zeigen uns, was wir normalerweise nicht wahrnehmen würden, während die Propagandisten uns das zeigen, was die Machthaber uns sehen lassen wollen.

Die Konvergenz von Aufnahmetechnologie und generativer Technologie erfordert wiederum, dass wir die Quelle von Worten, Bildern usw. kennen und ihr vertrauen. Es gibt keine Wahrheit ausserhalb von Beziehungen. Wir können dem, was wir nur über elektronische Geräte hören und sehen, nicht trauen, sonst werden wir verrückt. Was ist real und was nicht? Um das zu wissen, müssen wir uns auf Informationen verlassen, die über das Digitale hinausgehen, über das, was mechanisch produziert und reproduziert werden kann. Wir müssen uns mit etwas Authentischem verbinden.

So wie Wasser, Gas und Elektrizität aus der Ferne in unsere Häuser geleitet werden, um unsere Bedürfnisse mit minimalem Aufwand zu befriedigen, so werden wir mit visuellen oder auditiven Bildern versorgt, die auf eine einfache Handbewegung hin erscheinen und verschwinden, kaum mehr als ein Zeichen. – Paul Valéry, 1928

Die Malerei ist analog zum geschriebenen Wort, die Fotografie analog zur Druckerpresse. In seinem berühmten Aufsatz «Das Kunstwerk im Zeitalter seiner technischen Reproduzierbarkeit» aus dem Jahr 1935 argumentiert Walter Benjamin, dass mechanisch reproduzierter Kunst (z.B. Fotografien, Filmen) notwendigerweise das fehlt, was er die «Aura» eines Kunstwerks nennt, eine Funktion seiner Einzigartigkeit und Relationalität. Im Gegensatz zu einem physischen Gemälde, das in wechselnde Besitzverhältnisse eingebettet ist, sich an einem bestimmten Ort befindet und mit der Zeit altert, verlieren reproduzierte Bilder ihre Verbindung zu ihrem ursprünglichen Kontext. Dies gelte für die Fotografie, aber noch mehr für den Film: Während die Fotografie ein Objekt oder eine Szene darstellt, die tatsächlich irgendwo existiert hat, reiht der Film mehrere Einstellungen und Kameraperspektiven aneinander. Eine Szene, die einige Minuten dauert, hat sich so, wie wir sie sehen, nie wirklich ereignet; die Dreharbeiten haben wahrscheinlich viele Tage gedauert.

Damals, 1935, wurden Filme wenigstens noch mit echten Schauspielern und echten Gegenständen gedreht. Das ist heute nicht mehr der Fall. Die «Aura», die ihnen durch ihre schwache Verbindung zur Realität noch anhaftete, wurde durch die generative KI zerstört, die Bilder von Menschen, Orten und Dingen erzeugt, die es nie gegeben hat. Benjamin verbindet die Einzigartigkeit des Ortes eines physischen Objekts mit dem Konzept der Authentizität. «Die Echtheit eines Dinges», schrieb er, «ist die Essenz all dessen, was von Anfang an übertragbar ist, von seiner materiellen Dauer bis zu seinem Zeugnis der Geschichte, die es durchlebt hat».

Ich möchte hier hinzufügen, dass standardisierte, industriell produzierte physische Objekte denselben Verlust an Aura und Authentizität erleiden, den Benjamin den massenproduzierten Bildern zuschreibt. Das Gebrauchsobjekt wird sowohl von seinem Ursprung losgelöst als auch seiner Einzigartigkeit beraubt.

Die Folgen des Verlustes von Aura und Authentizität der uns umgebenden Bilder und Objekte sind heute weitaus gravierender als zur Zeit Walter Benjamins, obgleich sie damals schon sehr gravierend waren. Benjamin, der stark vom Marxismus der intellektuellen Kreise der Zwischenkriegszeit beeinflusst war, spricht von den kathartischen Folgen der Massenproduktion auch anerkennend:

Die Reproduktionstechnik, so liesse sich allgemein formulieren, löst das Reproduzierte aus dem Bereich der Tradition ab. Indem sie die Reproduktion vervielfältigt, setzt sie an die Stelle seines einmaligen Vorkommens sein massen weises. Und indem sie der Reproduktion erlaubt, dem Aufnehmenden in seiner jeweiligen Situation entgegenzukommen, aktualisiert sie das Reproduzierte. Diese beiden Prozesse führen zu einer gewaltigen Erschütterung des Tradierten — einer Erschütterung der Tradition, die die Kehrseite der gegenwärtigen Krise und Erneuerung der Menschheit ist. Sie stehen im engsten Zusammenhang mit den Massenbewegungen unserer Tage. Ihr machtvollster Agent ist der Film. Seine gesellschaftliche Bedeutung ist auch in ihrer positivsten Gestalt, und gerade in ihr, nicht ohne diese seine destruktive, seine kathartische Seite denkbar: die Liquidierung des Traditionswertes am Kulturerbe.

Neunzig Jahre nach Walter Benjamin erscheint das Zerbrechen von Traditionen – das Sprengen unserer Bindungen an Körperlichkeit, Einzigartigkeit und kulturelles Erbe – nicht mehr als «kathartisch». Die Beseitigung dieser Fesseln ebnet nicht den Weg zur Befreiung der Massen, die sich in einer glorreichen proletarischen Revolution erheben werden. Sondern sie bewirkt deren elende Ohnmacht und ihre materielle und kognitive Entwurzelung. In dem Masse, in dem sie in eine künstliche Realität eintauchen, die nicht mehr durch Tradition, kulturelles Erbe oder die Einzigartigkeit und Bezogenheit der materiellen Welt kontrolliert wird, werden ihre Wahrnehmungen und Überzeugungen so formbar wie die Bilder, die sie nähren.

Entqualifizierung des Geistes

Die Erzeugung gefälschter Bilder, Stimmen und Videos durch die KI ist nicht völlig neu; tatsächlich ist der Einsatz von Kameratricks und Spezialeffekten im Film fast so alt wie das Medium selbst. Als wir jedoch in den 1950er Jahren Superman durch die Luft fliegen sahen, war es ein freiwilliger Akt des Unglaubens – ein Akt des Willens – der es dem Zuschauer ermöglichte, ihn fliegen zu sehen. Die Zuschauer mussten sich aktiv an der Imagination der Geschichte, an der Erzeugung von Glauben beteiligen. Um einen Film der 1950er Jahre zu sehen oder erst recht ein Puppentheater oder eine Oper, muss man seine Vorstellungskraft einsetzen, die die Bilder der Geschichte erst vervollständigen. Die Einführung der computergenerierten Bilder in den späten 1990er Jahren erforderte weitaus weniger Vorstellungskraft, bereitete uns aber zusammen mit dem Aufkommen von Photoshop auf ein neues Zeitalter vor, in dem wir den Bildern überhaupt nicht mehr trauen können.

Ist es ein Wunder, dass unsere Vorstellungskraft zu schrumpfen scheint, wenn so wenig von unserer Vorstellungskraft verlangt wird – von unserer ureigenen Fähigkeit, Bilder zu erzeugen? Verlieren wir die Fähigkeit, uns die Welt anders vorzustellen, als sie uns gezeigt wird?

Wenn Maschinen uns die Arbeit abnehmen, uns etwas vorzustellen, einen Text zu verstehen, ein Argument vorzubringen oder einen Geschäftsplan zu schreiben… laufen wir dann nicht Gefahr, einer passiven, konditionierten Abhängigkeit zu verfallen und von unserer kreativen Urheberschaft abgekoppelt zu werden? Dann wären wir den autoritären Absichten schutzlos ausgeliefert, die durch die KI und die totale Datentransparenz ermöglicht werden. Wir würden sie sogar begrüssen.

Ich kann nicht mehr denken, was ich denken möchte. Meine Gedanken sind durch bewegte Bilder ersetzt worden. – Georges Duhamal (1930), in einem Kommentar über das Kino

Heutzutage nutzen wir zunehmend KI, um Aufgaben wie das Zusammenfassen eines Dokuments, das Mitschreiben eines Gesprächs, das Lösen einer Matheaufgabe oder das Schreiben eines Artikels für Substack zu erledigen. Verlieren wir nicht unsere eigenen, für diese Aufgaben notwendigen kognitiven Fähigkeiten, wenn wir sie auslagern, um so etwas zu tun? Wenn wir unsere Intelligenz an Maschinen auslagern, werden wir dann nicht weniger intelligent, so wie wir körperlich schwächer werden, wenn wir Maschinen einsetzen, um Arbeit zu erledigen?

Das mit dem Schreiben von Substack-Artikeln mit KI war ein Scherz. Nachdem ich diesen Aufsatz beendet hatte, ging ich zurück und bat ChatGPT, «einen Aufsatz im Stil von Charles Eisenstein über die sozialen und kognitiven Auswirkungen der Auslagerung geistiger Aufgaben an KI zu schreiben». Das Ergebnis ähnelte dem eines cleveren Teenagers, der einen Charles-Eisenstein-Aufsatz zusammenbastelt, indem er Teile aus anderen Aufsätzen plagiiert und neu kombiniert und dabei viele Klischees verwendet. Es zeigte kein tiefes Verständnis. Ich bat es, das noch einmal zu versuchen und gab ihm einige Hinweise – die «Gedankenkette» eines Aufsatzes, den ich geschrieben hatte. ChatGPT hatte einige gute Ideen, aber es war immer noch erschreckend oberflächlich, banal und unoriginell.

Oje. Natürlich ist es auch möglich, dass ChatGPT mir einen gnadenlosen Spiegel vorgehalten hat, um mir die Mängel meines Schreibens vor Augen zu führen. Plagiiere ich mich vielleicht selbst, indem ich immer wieder dieselben Ideen wiederhole? Benutze ich abgedroschene Metaphern und Klischees? Um ehrlich zu sein, manchmal tue ich das. Besonders, wenn ich müde, abgelenkt oder nicht ganz bei der Sache bin, wird mein Schreiben, nun ja ... mechanisch. Mein Denken wird auch mechanisch. Ich kann mich einer Frage oder einem Thema nähern, indem ich nach bestimmten Schlüsselkonzepten suche, auf die ich einen vertrauten analytischen Prozess anwenden kann, wie eine Methode oder Linse, ein Programm oder einen Transformator (um einen Begriff aus der KI zu verwenden).

Ich kann ein Thema durch verschiedene Linsen betrachten – z.B. der Geschichte der Trennung oder des Schenkens, durch die des Quantitätskults oder der Täter-Opfer-Retter-Triade, durch die Quantenüberlagerung von Zeitlinien oder beliebig viele andere «Transformatoren», mit denen ich vertraut bin. Für diejenigen, die mit diesen Methoden weniger vertraut sind, mögen die Ergebnisse recht kreativ und aufschlussreich erscheinen. Aber in Wirklichkeit handelt es sich lediglich um die Wiederaufnahme und Neuanwendung früherer Gedankenabläufe. Um wirklich etwas Neues zu bieten, das dieser einzigartigen Person in diesem einzigartigen Moment voll und ganz gerecht wird, bedarf es einer weiteren Zutat. Und diese ist nur dem frischen Anfängergeist zugänglich. Wenn ich nicht oft genug an diese innere Stelle zurückkehre, verfestigt sich mein Denken im Gehirn. Dann habe ich das Gefühl, dass ich wieder und wieder das Gleiche sage und denke. Und dann habe ich das Gefühl, dass ich genauso gut durch einen KI-Chatbot ersetzt werden könnte, der auf alles trainiert ist, was ich bereits gesagt habe. Mit der gewohnten Linse, die jetzt auf meinen Augäpfeln klebt, kann ich nichts anderes sehen als das, was sie mir offenbart. Die unendliche Vielfalt der Welt bricht zusammen in eine Endlichkeit der Kategorien, eine Starrheit des Denkens, eine Art innere Orthodoxie.

Die Parallele zwischen der Funktionsweise meines Gehirns im Autopilot-Modus und der Funktionsweise der generativen KI ist verblüffend. Diese Orthodoxie und Gleichförmigkeit der kognitiven Leistung – eine Art Demenz – plagt auch die KI, wie ich in den nächsten beiden Abschnitten dieses Essays beschreiben werde. Doch lassen Sie mich zunächst einen Gedanken zur Demontage von Fähigkeiten hinzufügen.

Es ist leicht zu verstehen, dass unser Vertrauen in die KI, unsere Artikel, Präsentationen oder E-Mails zu schreiben, die Entwicklung dieser Fähigkeiten behindern kann. Aber wie sieht es aus, wenn die KI eingesetzt wird, um Bücher und Artikel zusammenzufassen und bei der Recherche zu helfen? Nun, eine KI zu bitten, einen Artikel zusammenzufassen, ist sicherlich viel einfacher, als den ganzen Artikel zu lesen und ihn gut genug zu verstehen, um ihn zusammenzufassen. Denn das erfordert Arbeit: mentale Energie, Gehirnschmalz und Aufmerksamkeit, um das Wesentliche vom Unwesentlichen zu unterscheiden, das Hauptargument vom Ablenkungsmanöver, kurz, um die Arbeit des Verstehens zu tun. Der KI-Agent ersetzt dann sozusagen ein Organ des Gehirns, eine Art Verdauungsorgan. Und Organe, die wir nicht benutzen, verkümmern wie die Augen eines Höhlenfisches.

Einen ähnlichen Verlust erleiden wir, wenn wir, um ein Objekt oder eine Szene aus der realen Welt in ein Bild zu übersetzen, von der Zeichnung zur Fotografie übergehen. Wir müssen unsere Beobachtungsgabe und unsere Wahrnehmungsfähigkeit nicht mehr trainieren – das tut die Kamera für uns. Was nehmen wir nicht mehr wahr, wenn wir uns darauf verlassen? Ironischerweise machen wir Fotos, um Erinnerungen festzuhalten. Aber allzu oft haben wir am Ende das Foto anstelle der Erinnerung. Das Zeichnen einer Szene hat den gegenteiligen Effekt, sie bleibt sowohl im Gedächtnis als auch auf dem Papier.

Übersetzt von Christa Dregger und dem Team von Charles Eisenstein auf deutsch

Fortsetzung des Essays, Teil 2, erscheint am Sonntag