Es ist nicht das erste Mal, dass ein so prominentes Bündnis auf mögliche Gefahren der KI hinweist. Bereits im März 2023 gab es mit der „Pause Giant AI Experiments„-Kampagne Vergleichbares. Es handelte sich um einen offenen Brief, in dem gefordert wurde, das Training großer KI-Systeme für mindestens ein halbes Jahr auszusetzen. Die aktuelle Initiative verfolgt allerdings ein anderes Ziel: Sie möchte einen weltweiten Konsens für den Umgang mit KI schaffen.
Mit dabei sind unter anderem die Turing-Preisträger Geoffrey Hinton und Yoshua Bengio. Außerdem mit von der Partie: der Historiker und Bestseller-Autor Yuval Noah Harari, Kolumbiens Ex-Präsident Juan Manuel Santos sowie mehrere Friedensnobelpreisträger:innen. Sie alle drängen darauf, bis spätestens Ende 2026 international verbindliche Regeln einzuführen, die bestimmte KI-Einsätze kategorisch untersagen. Das enge Zeitfenster verdeutlicht, wie dringend sie handeln wollen.
Rote Linien für KI: Ohne geht es nicht!
Die geforderten roten Linien gegen die gefährlichsten Szenarien der Technologie umfassen mehrere wichtige Punkte. Beispielsweise: selbstständig reproduzierende Systeme, autonome Waffensysteme, der Einsatz von KI in nuklearen Befehlsketten oder die großflächige Verbreitung manipulativer Desinformation. Im Aufruf heißt es: „Ohne solche Grenzen laufen wir Gefahr, dass KI von einer nützlichen Technologie zu einer existenziellen Bedrohung wird“.
Der Zeitpunkt ist nicht zufällig gewählt. In dieser Woche diskutieren Staats- und Regierungschefs bei der UN-Generaldebatte in New York über die zentralen Fragen der Weltpolitik. Am 25. September startet dort auch der „Globale Dialog über KI-Governance“. Bei diesem hochrangigen, aber informellen Treffen sollen Grundlagen für eine inklusive und verantwortungsvolle Steuerung von KI besprochen werden, wie es auf der Seite der Vereinten Nationen heißt.
Die Initiative will den Druck erhöhen, damit Sicherheit beim Einsatz von KI nicht länger Nebenthema bleibt. Ob sich allerdings die großen Player – vor allem die USA unter Donald Trump, China und Russland – auf verbindliche Absprachen einlassen, ist fraglich. Besonders im militärischen Bereich verfolgen viele Länder nach wie vor ihre eigenen Interessen.
Warum dieser Aufruf besonders ist
Trotzdem ist der Vorstoß bemerkenswert. Noch nie zuvor haben sich so viele prominente Stimmen aus unterschiedlichsten Bereichen auf einen gemeinsamen Nenner geeinigt. Anders als frühere Aufrufe, die etwa einen zeitlich begrenzten Entwicklungsstopp für besonders starke Modelle forderten, geht es diesmal um dauerhafte Verbote klar definierter Hochrisiko-Anwendungen.
Für die Gesellschaft ist das Thema zentral. Denn KI prägt längst nicht mehr nur Chatbots oder digitale Assistenten. Stattdessen beeinflusst sie demokratische Prozesse, die Sicherheit von Staaten und das globale Machtgefüge. Mit der „roten Karte“ für bestimmte Einsatzfelder soll verhindert werden, dass sich die Technologie verselbstständigt. Das nämlich hätte Folgen, die sich womöglich nicht mehr rückgängig machen lassen.
