Magda von Garrel, Sonderpädagogin und Politikwissenschaftlerin, lebt in Berlin und beschäftigt sich seit 2008 vor allem mit bildungspolitischen Themen. Sie stellt damit ihren Fundus an Berufserfahrungen als Lehrerin in einen grösseren politischen Kontext.
Zeitpunkt: Warum ist die sogenannte Künstliche Intelligenz für viele Menschen so faszinierend und verführerisch?
Magda von Garrel: Sie lässt sich leicht bedienen, kommt den meisten geradezu allwissend vor und weist Menschenähnlichkeit auf. Das heisst, sie ist interaktiv, bedient sich einer natürlichen Sprache und übernimmt eine soziale Rolle. Das hat die Media Equation Theorie festgestellt: Wir Menschen haben die Tendenz, technisches Gerät zu vermenschlichen und so zu tun, als seien diese leblosen Gegenstände beseelt.
Joseph Weizenbaum, 1923 in Berlin geboren, entwickelte 1966 am Massachusetts Institute of Technology(MIT) in Boston «Eliza», den ersten Chatbot. Damals tippte man seine Frage über die Tastatur ein. Eliza konnte anscheinend einfühlsam reagieren, nahezu wie ein Psychotherapeut. Die gefühlte Vermenschlichung solcher Programme wird seitdem als «Eliza-Effekt» bezeichnet. Weizenbaum entwickelte sich übrigens später zu einem scharfen Kritiker seiner Erfindung und warnte 1972 in der Wochenzeitung «Die Zeit» vor dem «Alptraum Computer». In seinem Hauptwerk:«Die Macht der Computer und die Ohnmacht der Vernunft» kritisiert er die unreflektierte Technikbegeisterung von Wissenschaft und Gesellschaft.
Angeblich können die im Gegensatz zu «Eliza» auf generativer KI beruhenden modernen Chatbots unser Leben in einem ganz praktischen Sinne erleichtern. Ob das wirklich so ist, darf hinterfragt werden, auch wenn Kritik an der KI in der Regel meist schnell zur Seite gewischt wird, weil die KI ja angeblich so viele Vorteile bietet. Im Bereich Gesundheit, aber eigentlich in allen «autonom» ablaufenden Prozessen, können der KI empfindliche Fehler unterlaufen, zumal wir wissen, dass sie auch gerne einmal «halluziniert» und ihre Informationen nicht belastbar sind. Liebespartnerschaften mit der KI sind ein Phänomen, das seelische Entwicklungen blockiert und Menschen tendenziell infantilisiert. Die Beziehungen mit der KI gestalten sich nämlich unnatürlich konfliktfrei. Ihre Reaktionen sind so figuriert, dass der Nutzer sich von ihr verstanden und «geliebt» fühlt. Er hat ausserdem den Eindruck, er sei der selbstmächtige Erschaffer seines virtuellen Partners.
Manche Menschen erleben die KI als ein relativ harmloses Spielzeug und möchten damit experimentieren und sie explorieren. Einen ähnlichen Reiz übt ja auch das Smartphone aus. Aber wir sehen am Smartphone, wohin die gefährliche Reise führt. Wir steuern auf das digitale Gefängnis zu, das ein analoges Leben in Freiheit kaum noch zulässt. Das Smartphone ist heutzutage ein Must-have, führt oft zu Suchtverhalten und torpediert die direkte menschliche Kommunikation. Hat ein Jugendlicher keines, wird er schnell von den Gleichaltrigen gemobbt und muss sehr viel Rückgrat zeigen. Die Eltern sind dann oft ratlos und verzweifelt. Wir wissen, dass digitaler Konsum für die Entwicklung des kindlichen und jugendlichen Gehirns von Nachteil ist. Es wird zu einseitig ausgebildet. Nicht ohne Grund schützen und bewahren die Tech-Eliten in Silicon Valley ihre Kinder vor der Digitalisierung. Mit unserer bereitwilligen, konsumorientierten Anpassung an solche technischen Systeme machen wir uns zu Mittätern einer Entwicklung, die immer mehr Kontrolle und Unfreiheit mit sich bringt.
KI im Lehrplan und in der Schule - was sagen Sie dazu als Pädagogin?
Im Bildungsbereich wird gerne von «Medienmündigkeit» gesprochen. Die Schüler müssen angeblich am Computer für das Arbeitsleben trainiert werden. KI bietet aber keine echte Lernförderung, sondern erzeugt ein Vermeidungsverhalten. Die vorgelegten Schülerergebnisse sind kaum überprüfbar. Schüler können wegen ihrer geringen Vorkenntnisse die Antworten der KI auch nicht kritisch sichten, sondern übernehmen in der Regel einfach, was die KI ihnen liefert. Wie sollen Lehrer anhand solcher KI-Ergebnisse Lernfortschritt und Eigenleistung ihrer Schüler einschätzen? Gibt der Schüler die Anweisung an die KI: Schreibe mir einen Text im Stil eines 12-Jährigen und baue typische Fehler ein, gerät eine solche Arbeit zur absoluten Farce.
Und worauf sollen Kinder und Jugendliche denn noch stolz sein? Es gibt kein echtes Erleben von Selbstwirksamkeit. Es fehlt die intensive Beschäftigung mit einem Gegenstand, das tiefere Wissen, das man sich wirklich zu eigen macht. Wissen, das man sich mit etwas Mühe erarbeitet, prägt sich ein und formt unsere Persönlichkeit. Echte Bildung ist immer auch Persönlichkeitsbildung. Mit der KI nehmen jedoch Denk- und Entscheidungsprozesse sowie Ausdrucksfähigkeit ab. Die Künstliche Intelligenz wurde einfach nicht für die Schule konzipiert. Der deutsche Neurowissenschaftler und Psychiater Prof. Manfred Spitzer kritisiert die Digitalisierung der Schule und legt besonderen Wert auf das Schreiben von Hand, denn diese motorische Aktivität fördert das Lernen. Hinzu kommt, dass Verantwortung für Geschriebenes nur von Menschen übernommen werden kann.
Obwohl in der Pädagogik ursprünglich die Beziehung – zu Lehrern und Mitschülern - im Mittelpunkt stehen sollte, wird durch die zunehmende Digitalisierung, z.B. Abarbeiten von Lernprogrammen, das menschliche Miteinander reduziert. Die humanoiden Roboter im Unterricht sind nicht mehr weit. Man übt bereits den sanften Einstieg. Können junge Menschen in einem solchen Ambiente einen eigenen Wissensfundus erwerben und eine eigenständige Persönlichkeit entwickeln? Für Kinder und Jugendliche aus bildungsfernen Elternhäusern ist dieser dürftige digitale Weg besonders einschränkend, da sie zuhause wenig Ausgleich erleben.
Und wie sind die Auswirkungen der KI im Arbeitsleben?
Es findet eine Entlastung von Standardaufgaben statt, aber dabei gehen natürlich Arbeitsplätze verloren. Mit einem einfachen Schulabschluss kann es dann schwierig werden, eine passende Arbeit zu finden. Besonders betroffen von der Arbeitslosigkeit ist der Kreativbereich: Schauspieler, Stuntmen, Synchronsprecher, Drehbuchschreiber ... Hier kommt es zu einem regelrechten Kahlschlag. In Hollywood fanden 2023 entsprechende Streiks statt. Aber auch hochwertige Arbeitsplätze in der IT-Branche, Programmierer und Chipdesigner, werden abgebaut.
Wenn KI vonseiten der Arbeitgeber als Drohkulisse aufgebaut wird, kann dies zu einem Abbau von Arbeitnehmerrechten führen. Die militärische Nutzung ist ein weiterer schwieriger Punkt. KI-gesteuerte Waffensysteme nehmen zu. Von Ethik ist zwar viel die Rede, aber im momentanen Rüstungswettlauf geht es um ganz andere Ziele. Grundsätzlich werden den Menschen Entscheidungsprozesse immer mehr weggenommen, oder sie werden durch Prozesse navigiert, die kein Ausweichen mehr zulassen.
Lassen sich die negativen Auswirkungen der KI eindämmen?
Ein Moratorium der KI war ja international in der Diskussion, wurde aber nicht durchgesetzt. In Deutschland möchte die Politik aktuell sogar «die nächste Welle von KI-Innovationen anführen», «KI-Innovationen entfesseln» und sich «nicht in Bürokratie verlieren». Eine Technikfolgenabschätzung findet daher nicht statt. In der Bevölkerung ist kaum ein Gefahrenbewusstsein zu erkennen. Auch Lehrer wehren sich nicht, dabei haben sie Methodenfreiheit und müssen in ihrem Unterricht nicht auf KI und Digitalisierung zurückgreifen. Es gäbe Stellschrauben, um den Einsatz von KI einzudämmen, sie zu begrenzen und human zu nutzen, aber diese müsste man erkennen und umsetzen.
Meines Erachtens stehen wir derzeit an einem Scheideweg. Mit der neuartigen generativen KI können wir einerseits leicht in eine vielfältige und tiefgreifende Abhängigkeit geraten, aber andererseits gibt es auch schon erste grössere Versuche, den digitalen Geist, den man ohne kritische Folgenabschätzung gerufen hat, wieder zurück in die Flasche zu zwingen. So soll mittlerweile in etlichen europäischen Ländern das Handy aus den Schulen verbannt werden und die Nutzung von Smartphones erst ab Erreichen eines bestimmten Alters erlaubt sein.
Abgesehen davon, dass sich vor allem die letztgenannte Absicht leicht umgehen lässt, kann ein Handyverbot an Schulen aber nur dann seine volle Wirksamkeit entfalten, wenn es mit einer verstärkten Rückkehr zu analogen Unterrichtsformen einhergeht. Darüber hinaus hängt auch viel vom Verhalten der Eltern ab. Wenn es ihnen gelingt, im Beisein ihrer Kinder weitgehend auf die Nutzung ihrer Smartphones und der KI zu verzichten, könnte eine Generation heranwachsen, die sich über das digitale Suchtverhalten ihrer Vorfahren amüsiert und wieder weiss, was das Leben lebenswert macht: In natürlicher Sprache geführte Gespräche mit echten Menschen, die man in den Arm nehmen, von denen man lernen und mit denen man spielen, lachen und weinen kann.
