Unsere Medien werden von einer Debatte über den Wert und die Gefahren künstlicher Intelligenz (KI) beherrscht. Unter dem Einfluss des Science-Fiction-Autors Eliezer Yudkowsky, der zum Guru des Silicon Valley geworden ist, konzentrieren sie sich jedoch auf ein mythisches Szenario: das einer Maschine, die die Oberhand über den Menschen gewinnen und ihn vernichten würde. Dies ist lediglich eine Wiederaufnahme der Themen des Golems oder von Frankenstein. Da eine künstliche Intelligenz jedoch nicht erschaffen, sondern nur mit sehr hoher Geschwindigkeit reproduzieren kann, ist diese Gefahr irrelevant.
Die Gefahr, der wir bereits jetzt ausgesetzt sind, besteht darin, dass wir uns von der Maschine faszinieren lassen. Viele Menschen pflegen emotionale Beziehungen zu Chatbots. Sie sagen ihnen, was sie hören wollen, und bestärken sie in ihren Schwächen. Das ist ein Problem, das Psychologen bereits gut bekannt ist.
Der Einsatz von KI durch die Generalstäbe begann in den 90er Jahren während des Golfkriegs, um logistische Probleme durch die gleichzeitige Berücksichtigung einer großen Anzahl von Faktoren zu lösen. Nach und nach wurden sehr viele Waffen mit KI ausgestattet. Probleme traten erst auf, als man sich bei Entscheidungen in Echtzeit auf KI stützte, also seit 2024.
Frankreich beschloss im März 2024, eine ministerielle Agentur für künstliche Intelligenz im Verteidigungsbereich (AMIAD) einzurichten, auch wenn diese erst zwei Monate später ihre Arbeit aufnahm. Diese Agentur hat sich eine Grenze gesetzt: Niemals darf einer KI in einer Waffe die Fähigkeit übertragen werden, über das Töten zu entscheiden.
Im Gegensatz dazu hat gerade das Pentagon, das sich nicht an dieselben ethischen Grundsätze hält, das „Projekt Meridian“ ins Leben gerufen [1]. Nach dem Konflikt mit dem Unternehmen Anthropic über die Grenzen, die dieses für den Einsatz seiner KI „Claude“ setzen wollte, möchte das Pentagon niemandem Rechenschaft ablegen müssen. Daher hat es Elon Musk und Palmer Luckey (den Erfinder der Virtual-Reality-Brillen) beauftragt, die nächsten Entwicklungen zu konzipieren.
Es wurden mehrere Fälle von Fehlinformationen registriert. Sie alle führten zu Katastrophen, obwohl sie leicht hätten vermieden werden können. In jedem Fall vertrauten die Verantwortlichen der KI so sehr, dass sie sie nach Dingen fragten, die sie gar nicht wissen konnte.
Auffällig ist, dass sich sehr hochrangige Persönlichkeiten, die sich ihres eigenen Urteilsvermögens nicht sicher sind, leicht von KI-Systemen manipulieren ließen. Im Gegensatz dazu zeigen sich Menschen, die „mit beiden Beinen fest auf dem Boden stehen“, sofort skeptisch, wenn ihnen eine KI Unsinn auftischt.
- Während der Vergeltungsaktion auf die „Al-Aqsa-Flut“-Operation (7. Oktober 2023) setzten die israelischen Verteidigungskräfte (IDF) KI ein, um die Ziele ihrer Luftangriffe zu bestimmen. Sie legten ihr Ziel so fest, dass Kollateralschäden als vernachlässigbar eingestuft wurden. Anfangs waren die KI-Systeme so eingestellt, dass pro zerstörtem Ziel nicht mehr als zwei zivile Opfer riskiert wurden. Doch schon bald wurde dieser Schwellenwert angehoben, bis die KI-Systeme ihn schließlich gar nicht mehr berücksichtigten.
Diese Änderung der Einsatzstrategie schlug sich in einem Wechsel der KI nieder. Man wechselte von Habsora zu Lavender. Es ging nicht mehr darum, mögliche Kollateralschäden abzuschätzen, sondern den Fokus auf die 37.000 mutmaßlichen Kämpfer der Hamas und des Islamischen Dschihad zu richten.
Den Offizieren, die die Schüsse genehmigt hatten, ging es lediglich darum, zu überprüfen, ob es sich bei den Zielen tatsächlich um Mitglieder palästinensischer Organisationen handelte. Sie haben nicht vorsätzlich einen Völkermord begangen. Sie haben einfach KI-Systeme dies tun lassen, ohne es überhaupt zu bemerken. Als sie die Augen öffneten, war es bereits zu spät [2].
Was jedoch eine zivilisierte Armee von einer Gruppe von Barbaren unterscheidet, ist das Bestreben, die Zivilbevölkerung zu schützen. Zwar wiederholten Regierungsvertreter immer wieder, dass alle Palästinenser Terroristen seien, doch die vorherrschende Brutalität entband sie nicht von ihrer Verantwortung. So schockierend es auch klingen mag: Sie haben unbeabsichtigt einen Völkermord begangen.
In diesen Fällen liegt weder ein Fehler der KI noch der Einsatzkräfte vor. Das Verbrechen wurde aus Unachtsamkeit begangen. Nach Recherchen von Journalisten scheint es, dass die Offiziere, je jünger und unerfahrener sie waren, umso leichter die Realität aus den Augen verloren und das Massaker an Zivilisten verursacht haben.
- Während des „12-Tage-Kriegs“ (13. bis 24. Juni 2025) wandten sich die westlichen Staaten an die Internationale Atomenergie-Organisation (IAEO), um zu erfahren, wie weit die iranischen Atomforschungen fortgeschritten waren. Deren Direktor, Rafael Grossi, konsultierte daraufhin seine Version von Mosaic, einer KI von Databricks. Diese bestätigte ihm, dass Teheran plötzlich kurz davor stand, eine Atombombe herzustellen – eine Einschätzung, die von seinen eigenen Inspektoren weitgehend angezweifelt wurde [3]. Die unüberlegten Äußerungen von Herrn Grossi hätten beinahe eine nukleare Reaktion der Vereinigten Staaten ausgelöst.
Databriks wird von dem iranisch-schwedisch-amerikanischen Ali Ghodsi geleitet. Obwohl er sich nicht politisch engagiert, ist er Mitglied des Israel Collaboration Network (ICON), eines Netzwerks von Informatikern. Die in Wien für die IAEO installierte Version von Mosaic wurde von einer Gruppe israelischer Ingenieure eingerichtet.
Es gibt zwei Möglichkeiten, dieses Ereignis zu interpretieren. Entweder geht man davon aus, dass Rafael Grossi vom Mossad manipuliert wurde, oder man stellt fest, dass er so leicht zu beeinflussen war, dass er einer Maschine den Vorzug vor seinen eigenen Experten gab.
- Im Dezember 2025 befragte Donald Trump Grok, die KI von Elon Musk, zur Reaktion der Venezolaner auf eine mögliche Entführung von Präsident Nicolás Maduro. Es handelte sich um einen Operationsplan, der von der CIA und dem SouthCom ins Gespräch gebracht worden war. Die Antwort der KI lautete laut dem Time Magazine, dass das venezolanische Volk darüber begeistert wäre. Allein aufgrund dieser einzigen Einschätzung soll Donald Trump die Operation angeordnet haben [4].
Warum sollte man andere Meinungen einholen, wenn eine KI in der Lage ist, die Gedanken aller zusammenzufassen? Ganz einfach, weil eine KI lediglich den Durchschnitt der Gedanken formuliert, die sie erfasst. Und kein Durchschnitt ist die Wahrheit. KIs sind nichts als Algorithmen. Sie denken nicht nach, sondern geben lediglich die Gedanken wieder, die man untersuchen möchte. Jemand, der die venezolanische Bevölkerung kennt, hätte bei seiner Antwort die Komplexität der Kultur dieses Landes im Blick gehabt. Er hätte die Frage von Präsident Trump sicherlich weder befürwortet noch abgelehnt, sondern betont, dass die Reaktionen der Venezolaner von ihrer sozialen und regionalen Zugehörigkeit sowie von den Umständen des jeweiligen Ereignisses abhängen würden.
- Vor kurzem erklärte der russische Präsident Wladimir Putin, dass die Probleme im Zusammenhang mit KI nichts Neues seien. Sie seien bereits bei weitaus weniger ausgefeilten Maschinen aufgetreten.
Er berichtete im Waldai-Club, dass sowjetische Satelliten während des Kalten Krieges im Jahr 1983 den Abschuss von fünf Atomraketen durch die Vereinigten Staaten beobachtet hatten. Oberst Stanislav Petrov, der für die sowjetische Reaktion verantwortlich war, bezweifelte sofort die Angaben der Maschinen. Er überprüfte die Lage zunächst, bevor er einen Gegenschlag anordnete. Das war eine kluge Entscheidung. Die Maschinen hatten sich geirrt, die USA hatten keinen Atomkrieg ausgelöst, und er tat es ebenfalls nicht [5].
Es handelt sich tatsächlich um dasselbe Problem. Wir sind zwar nach wie vor die Herren über die Maschinen, doch unsere Unachtsamkeit, unsere Unfähigkeit oder unser Hochmut können dazu führen, dass wir kleine Fehler begehen, die schon sehr kurzfristig schreckliche Folgen haben werden.
Ehrlich gesagt kann niemand von einer KI manipuliert werden, ganz einfach, weil eine KI keine Absichten und keinen eigenen Willen haben kann; doch wir alle laufen Gefahr, aus Bequemlichkeit dem Glauben zu schenken, was uns eine unzureichend eingestellte Maschine erzählt.
Übersetzung: Werner Leuthäusser
