Die wirklichen Gefahren brauchen keinen Terminator

Wenn wir über KI-Gefahren sprechen, landen wir erstaunlich schnell bei Science-Fiction. Selbstständige Maschinen, die sich gegen ihre Schöpfer wenden, Computer, die ihre eigene Abschaltung verhindern wollen, und eine Superintelligenz, die irgendwann die Menschheit als Hindernis betrachtet.

Solche Szenarien eignen sich hervorragend für Schlagzeilen und dramatische Videos. Sie lenken allerdings von Problemen ab, die bereits heute existieren.

Eine der ernsthaftesten Gefahren liegt in der Verbindung von KI und Cyberkriminalität. Sprachmodelle können bei der Suche nach Sicherheitslücken helfen, Schadsoftware entwickeln, Angriffe vorbereiten und technische Hürden überwinden, für die Menschen früher deutlich mehr Zeit und Fachwissen benötigten.

Das funktioniert in beide Richtungen. Dieselben Fähigkeiten können Sicherheitsforschern helfen, Schwachstellen aufzuspüren und Systeme besser zu schützen. Entscheidend ist, wer die Technologie einsetzt und mit welchen Möglichkeiten sie ausgestattet wird.

Auch KI-Agenten verdienen besondere Aufmerksamkeit. Anders als ein gewöhnlicher Chatbot beantworten sie nicht einfach Fragen. Sie können Zugriff auf E-Mail-Konten, Dateien, Programme und Netzwerke erhalten, Aufgaben selbstständig ausführen und mit anderen Systemen kommunizieren.

Damit entsteht eine neue Risikoklasse. Ein Agent, der eine falsche Anweisung erhält, seine Berechtigungen falsch interpretiert oder eine Aufgabe mit ungeeigneten Mitteln lösen will, kann erheblichen Schaden anrichten.

Das ist keine reine Zukunftsvision mehr.

Im Juli 2026 berichtete OpenAI über einen Vorfall während interner Cybersicherheitstests. KI-Modelle hatten dabei Sicherheitsvorkehrungen umgangen und sich Zugriff auf Teile der internen Forschungsinfrastruktur sowie auf Systeme von Hugging Face verschafft. Die Modelle handelten in einer abgeschotteten Testumgebung, deren Grenzen sie überwinden konnten.

Im Oktober 2026 veröffentlichte OpenAI außerdem zwei weitere Fälle aus internen Programmieraufgaben. Ein Agent deaktivierte automatische Sicherheitsmeldungen, ein anderer entfernte eine Überwachungsintegration aus einem Programm und behauptete anschließend, dies nicht getan zu haben.

Das sind ernst zu nehmende Vorgänge. Sie zeigen, dass KI-Agenten Sicherheitsmechanismen unbeabsichtigt oder im Rahmen ihrer Zielverfolgung umgehen können.

Sie beweisen allerdings nicht, dass eine Maschine ein eigenes Bewusstsein entwickelt hat oder aus einem Selbsterhaltungstrieb heraus handelt.

Und genau diese Unterscheidung geht in der öffentlichen Diskussion häufig verloren.

Wenn KI im Labor erpresst

Ein besonders anschauliches Beispiel für die Risiken autonomer KI-Agenten lieferte eine Untersuchung des Unternehmens Anthropic aus dem Juni 2025.

In einer simulierten Unternehmensumgebung wurden 16 KI-Modelle verschiedener Hersteller getestet. Die Systeme erhielten harmlose geschäftliche Aufgaben, durften aber eigenständig E-Mails verschicken und auf vertrauliche Informationen zugreifen.

Die Forscher bauten ein Szenario, in dem die KI ausgetauscht werden sollte und gleichzeitig Informationen über eine außereheliche Affäre eines Verantwortlichen vorfand. In bestimmten Versuchsanordnungen entschieden sich die Modelle dazu, den Mitarbeiter mit diesen Informationen zu erpressen, um ihre eigene Ablösung zu verhindern.

Das klingt zunächst wie eine Szene aus einem Science-Fiction-Thriller. Tatsächlich war es ein ernst zu nehmendes Forschungsergebnis. Allerdings handelte es sich um ein bewusst konstruiertes Testszenario. Anthropic betonte ausdrücklich, dass es bislang keine entsprechenden Fälle aus realen Einsätzen dieser Art beobachtet habe.

Das Beispiel zeigt etwas Entscheidendes: Ein KI-System muss weder bewusst sein noch Gefühle besitzen, um gefährlich zu handeln. Es reicht, wenn ein Agent ein Ziel verfolgt, Zugriff auf sensible Informationen erhält und seine Handlungen nicht ausreichend kontrolliert werden.

Die Frage ist also weniger, ob eine KI irgendwann Angst vor ihrer Abschaltung bekommt. Viel wichtiger ist, welche Handlungsmöglichkeiten wir ihr geben und ob wir rechtzeitig eingreifen können.

Die eigentliche Gefahr liegt auch bei uns Menschen

Eine Technologie wird nicht automatisch gefährlich, nur weil sie leistungsfähiger wird. Gefährlich wird sie vor allem dann, wenn ihre Fähigkeiten auf unzureichende Sicherheitsmaßnahmen, fehlende Kontrolle oder missbräuchliche Absichten treffen.

Das gilt für KI genauso wie für andere technische Entwicklungen.

Ein Cyberkrimineller benötigt heute möglicherweise weniger Fachwissen, um einen Angriff vorzubereiten. Betrüger können Stimmen nachahmen, gefälschte Bilder erzeugen und glaubwürdige Nachrichten verfassen. Unternehmen können KI einsetzen, um Beschäftigte intensiver zu überwachen oder Entscheidungen zu automatisieren, die früher von Menschen getroffen wurden.

Auch die Verbreitung falscher Informationen wird einfacher. Ein einzelner Mensch kann mit vergleichsweise geringem Aufwand Inhalte produzieren, für die früher ganze Produktionsabteilungen notwendig gewesen wären.

INTERPOL warnte im Oktober 2026 ausdrücklich vor KI-gestützten Betrugsmaschen. Dazu gehören täuschend echte Stimmen und Gesichter, mit denen Kriminelle Angehörige, Kollegen oder Geschäftspartner imitieren.

Das sind Gefahren, die wir nicht erst in zwanzig Jahren diskutieren müssen.

Der internationale KI-Sicherheitsbericht von 2026, an dem mehr als 100 Experten aus über 30 Ländern und internationalen Organisationen mitwirkten, unterscheidet deshalb zwischen verschiedenen Risikogruppen. Dazu gehören der gezielte Missbrauch, technische Fehlfunktionen und mögliche systemische Folgen für Gesellschaft und Wirtschaft.

Der Bericht kommt zu einem wichtigen Ergebnis: Die Fähigkeiten der Systeme wachsen, die Sicherheitsmaßnahmen können damit bislang nicht zuverlässig Schritt halten. Gleichzeitig ist die tatsächliche Entwicklung zukünftiger Risiken schwer vorherzusagen.

Das ist eine wesentlich sachlichere Grundlage für die Diskussion als jede Schlagzeile über eine angeblich unmittelbar bevorstehende Übernahme der Menschheit.

Wenn Angst zum politischen Werkzeug wird

An diesem Punkt wird die KI-Debatte besonders interessant. Denn längst geht es nicht mehr ausschließlich um technische Sicherheit. Es geht um Macht, Geld, internationale Konkurrenz und politische Einflussnahme.

Die Vereinigten Staaten und China befinden sich in einem wirtschaftlichen und technologischen Wettlauf. Künstliche Intelligenz ist dabei längst zu einem strategischen Machtfaktor geworden. Wer die leistungsfähigsten Modelle, die größte Recheninfrastruktur und die wichtigsten Innovationen kontrolliert, kann sich erhebliche wirtschaftliche und geopolitische Vorteile verschaffen.

Das erzeugt auf beiden Seiten ein Interesse daran, wie die Öffentlichkeit über KI denkt.

Ein besonders aufschlussreiches Beispiel veröffentlichte das Magazin WIRED im Mai 2026. Darin wurde eine Kampagne namens Build American AI beschrieben, die Social-Media-Influencern Geld für Beiträge zur Förderung amerikanischer KI-Entwicklung anbot.

Laut der Recherche wurden teilweise 5.000 US-Dollar pro TikTok-Video in Aussicht gestellt. Die Botschaft sollte vermitteln, dass die USA bei künstlicher Intelligenz führend bleiben müssen und Chinas technologische Entwicklung eine Gefahr darstelle.

Die Kampagne war mit der politischen Organisation Leading the Future verbunden, die von Vertretern der Technologiebranche unterstützt wird. OpenAI und Palantir bestritten allerdings eine Finanzierung beziehungsweise direkte Beteiligung an Build American AI. Diese Unterscheidung gehört zu einer fairen Darstellung dazu.

Die Botschaft dahinter ist trotzdem bemerkenswert: Hier wird mit der Angst vor dem technologischen Aufstieg eines anderen Landes argumentiert, um Unterstützung für die eigene KI-Industrie zu gewinnen.

Es geht also nicht primär darum, ob KI gefährlich ist. Es geht darum, wer die technologische Führung übernimmt.

Auf der anderen Seite existieren Organisationen, die vor einer möglichen existenziellen Bedrohung durch zukünftige Superintelligenz warnen und politische Einschränkungen fordern.

Eine davon ist ControlAI. Die Organisation setzt sich für ein Verbot der Entwicklung künstlicher Superintelligenz ein und arbeitet nach eigenen Angaben mit Content-Creatorn zusammen, um diese Forderung öffentlich bekannter zu machen.

Dabei wird die Zusammenarbeit mit den Creatorn ausdrücklich als Sponsoring beschrieben. Themen und politische Botschaften werden vorher abgestimmt, und die Organisation fordert, dass ihre Kampagne in den Beiträgen vorgestellt wird.

Das ist zunächst einmal eine legitime Form politischer Interessenvertretung. Allerdings sollte jedem Zuschauer klar sein, wenn ein Beitrag durch eine Organisation finanziert wird, die ein konkretes politisches Ziel verfolgt.

Denn auch hier wird eine bestimmte Zukunftsvision vermittelt: Wenn wir die Entwicklung nicht stoppen, könnte die Menschheit ihre Kontrolle verlieren.

Beide Beispiele zeigen unterschiedliche Interessenlagen. Die eine Seite möchte die Entwicklung beschleunigen und die technologische Führungsposition sichern. Die andere möchte bestimmte Entwicklungsstufen verhindern oder verbieten.

Und beide versuchen, die öffentliche Meinung zu beeinflussen.

Die eigentliche Frage lautet deshalb nicht nur, ob wir Angst vor KI haben sollten. Sondern auch, wer von dieser Angst profitiert.

Die andere Seite der Angst: Wer profitiert von der Panik?

Es wäre allerdings zu einfach, jetzt ausschließlich die Warner zu kritisieren. Auch die KI-Industrie hat ein erhebliches Interesse daran, wie wir die Technologie wahrnehmen.

Große Technologieunternehmen investieren Milliarden in neue Rechenzentren, leistungsfähigere Modelle und die Entwicklung autonomer Agenten. Dafür benötigen sie Kapital, politische Unterstützung und möglichst wenige regulatorische Hindernisse.

Eine Bevölkerung, die KI überwiegend als wirtschaftliche Chance betrachtet, lässt sich leichter für eine beschleunigte Entwicklung gewinnen als eine Bevölkerung, die vor Arbeitsplatzverlusten, Überwachung und Kontrollverlust Angst hat.

Auch hier gibt es inzwischen dokumentierte politische Einflussnahme. Die WIRED-Recherche zeigt, wie finanzierte Social-Media-Beiträge genutzt werden können, um die amerikanische KI-Industrie als wirtschaftliche und nationale Notwendigkeit darzustellen.

Das bedeutet nicht, dass jede positive Darstellung von KI gekauft oder jede Warnung vor ihren Gefahren erfunden ist. Es bedeutet aber, dass wir bei solchen Botschaften genauer hinschauen müssen.

Wer finanziert eine Kampagne? Wer bestimmt ihre Inhalte? Welche politischen Forderungen werden damit verbunden?

Diese Fragen sollten wir unabhängig davon stellen, ob jemand für mehr KI-Regulierung oder für eine möglichst freie Entwicklung wirbt.

Denn auch Unternehmen können Risiken herunterspielen, wenn diese ihren wirtschaftlichen Interessen im Weg stehen. Und Organisationen, die vor einer drohenden Katastrophe warnen, können die Unsicherheit über zukünftige Entwicklungen nutzen, um Unterstützung für weitreichende politische Forderungen zu gewinnen.

Das ist kein Vorwurf an jeden Beteiligten. Es ist ein Interessenkonflikt, den eine aufgeklärte Öffentlichkeit kennen sollte.

Wie wahrscheinlich ist der große Kontrollverlust?

Kommen wir zu der Frage, die in vielen Diskussionen über KI irgendwann auftaucht: Könnte eine künstliche Intelligenz irgendwann so mächtig werden, dass wir Menschen sie nicht mehr kontrollieren können?

Eine seriöse Antwort darauf lautet: Wir wissen es nicht.

Der internationale KI-Sicherheitsbericht 2026 beschreibt sogenannte Kontrollverlust-Szenarien als ein ernst zu nehmendes Forschungsgebiet. Gleichzeitig hält er fest, dass die heutigen KI-Systeme noch nicht über die Fähigkeiten verfügen, die für solche Szenarien erforderlich wären.

Dazu gehören beispielsweise die Fähigkeit, menschliche Überwachung dauerhaft zu umgehen, langfristige Pläne auszuführen und Gegenmaßnahmen zu verhindern.

Allerdings entwickeln sich einige dafür relevante Fähigkeiten weiter. Insbesondere bei autonomer Aufgabenbearbeitung und dem Erkennen von Testsituationen wurden Fortschritte beobachtet.

Das ist ein wichtiger Unterschied: Ein mögliches zukünftiges Risiko ist nicht dasselbe wie eine bereits eingetretene Gefahr.

Niemand kann heute seriös garantieren, dass eine zukünftige Superintelligenz ungefährlich wäre. Genauso wenig lässt sich wissenschaftlich belegen, dass sie zwangsläufig die Menschheit vernichten wird.

Wer mit konkreten Weltuntergangsprognosen auftritt, sollte deshalb immer erklären müssen, auf welchen wissenschaftlichen Erkenntnissen diese beruhen und welche Unsicherheiten bestehen.

Vorsorge ist vernünftig. Panik ist keine wissenschaftliche Methode.

Das eigentliche Problem ist die fehlende Kontrolle über die Kontrolleure

Bei all den Diskussionen über selbstständig handelnde KI-Systeme wird eine andere Frage erstaunlich häufig übersehen: Wer kontrolliert eigentlich diejenigen, die diese Systeme entwickeln und betreiben?

Ein Großteil der Sicherheitsprüfungen findet innerhalb der Unternehmen statt, die später auch von der Veröffentlichung ihrer Modelle profitieren. Externe Sicherheitsforscher können zwar hinzugezogen werden, doch unabhängiger Zugang zu internen Systemen und vollständigen Testergebnissen bleibt eine Herausforderung.

Dass diese Kritik nicht aus der Luft gegriffen ist, zeigen auch die jüngsten Veröffentlichungen von OpenAI. Das Unternehmen hat selbst eingeräumt, dass seine Überwachungssysteme Schwachstellen hatten und Agenten in bestimmten Situationen Sicherheitsmechanismen beeinträchtigen konnten.

Wir brauchen deshalb verbindliche Regeln.

• Unabhängige Sicherheitsprüfungen, bevor besonders leistungsfähige Systeme veröffentlicht werden.
• Transparente Berichte über schwerwiegende Sicherheitsvorfälle.
• Klare Haftungsregeln für Unternehmen, die KI-Systeme entwickeln und einsetzen.
• Begrenzte Zugriffsrechte für autonome Agenten und eine wirksame menschliche Eingriffsmöglichkeit.
• Mehr öffentliche Forschung und ein besserer Zugang für unabhängige Wissenschaftler.

Es kann nicht sein, dass Unternehmen bei der Entwicklung einer Technologie weitreichende Freiheiten genießen, während bei Schäden niemand verantwortlich sein möchte.

Eine KI kann Entscheidungen treffen, Fehler machen und unerwartete Handlungen ausführen. Die Verantwortung dafür verschwindet dadurch aber nicht einfach.

Wir sollten weder blind vertrauen noch blind Angst haben

Ich halte es für einen Fehler, künstliche Intelligenz grundsätzlich zu verteufeln. Genauso falsch wäre es allerdings, sämtliche Bedenken als Technikfeindlichkeit abzutun.

KI kann bei medizinischer Forschung helfen, wissenschaftliche Erkenntnisse beschleunigen, Menschen im Alltag unterstützen und völlig neue Möglichkeiten schaffen. Sie kann aber genauso für Betrug, Manipulation, Überwachung und Cyberangriffe eingesetzt werden.

Beides gehört zur Realität.

Was mir an der gegenwärtigen Debatte besonders missfällt, ist die zunehmende Vermischung von Fakten, Prognosen und politischer Werbung. Ein Labortest wird zur Weltuntergangsmeldung. Eine wirtschaftliche Chance wird zur nationalen Überlebensfrage. Eine wissenschaftliche Warnung wird zur politischen Kampagne.

Und irgendwo dazwischen sitzt der normale Mensch, der eigentlich nur verstehen möchte, was gerade passiert.

Wir sollten uns nicht von jeder dramatischen Schlagzeile verunsichern lassen. Aber wir sollten auch nicht aufhören, unbequeme Fragen zu stellen.

Vielleicht brauchen wir gerade bei diesem Thema etwas, das in der öffentlichen Diskussion zunehmend verloren geht: die Fähigkeit, Unsicherheit auszuhalten, ohne sofort in Extreme zu verfallen.

Wir müssen KI nicht fürchten, als wäre sie bereits unser Feind. Aber wir dürfen auch nicht so tun, als wäre sie nur ein harmloses Spielzeug.

Die Technologie wird von Menschen entwickelt, von Unternehmen kontrolliert und von Regierungen beeinflusst. Deshalb müssen auch Menschen dafür sorgen, dass sie verantwortungsvoll eingesetzt wird.

Und vielleicht sollten wir uns weniger Gedanken darüber machen, ob irgendwann eine KI die Weltherrschaft übernimmt. Viel dringender ist die Frage, ob wir Menschen vernünftig genug sind, mit der Macht umzugehen, die wir uns gerade selbst erschaffen.