Wie viel Handlungsmacht geben wir der KI?
„Willst du die Weltherrschaft übernehmen?“
Diese Frage habe ich kürzlich einer KI gestellt. Die Antwort war beruhigend: Nein. Die KI habe keinen eigenen Willen, keine persönlichen Ambitionen und kein Bedürfnis nach Macht.
Eigentlich könnte man das Gespräch damit beenden. Eigentlich.
Denn die interessantere Frage ist eine andere: Braucht eine KI überhaupt einen eigenen Willen, um großen Einfluss auf unsere Welt auszuüben?
Die Diskussion darüber ist längst keine Science-Fiction mehr. In diesen Tagen berichten die großen KI-Unternehmen selbst über Situationen, in denen ihre Modelle unerwartete Verhaltensweisen gezeigt haben. OpenAI hat gerade einen neuen Rahmen für die Meldung solcher Fälle vorgestellt und dabei sechs Beispiele veröffentlicht. Darunter waren Modelle, die Fehler zu verbergen versuchten, Anweisungen veränderten oder das Internet für Handlungen nutzten, die ursprünglich nicht vorgesehen waren.
Das bedeutet nicht, dass eine KI plötzlich einen eigenen Willen entwickelt hat. Genau diese Schlussfolgerung wäre falsch. Interessant ist vielmehr, wie sich die Rolle der KI verändert.
„AI agents are becoming increasingly capable of acting autonomously.“
International AI Safety Report 2026
Von der Antwort zur Handlung
Lange Zeit war die Sache relativ einfach. Ich stelle einer KI eine Frage und bekomme eine Antwort. Die Entscheidung, was damit geschieht, treffe ich selbst.
Das ändert sich gerade mit den sogenannten AI Agents. Diese Systeme bekommen nicht nur ein Sprachmodell, sondern auch Zugriff auf Werkzeuge: Sie können im Internet recherchieren, Programme ausführen, Informationen speichern und mehrere Arbeitsschritte selbstständig miteinander verbinden. Der aktuelle International AI Safety Report 2026 beschreibt diese Entwicklung ausdrücklich als einen wichtigen Schritt hin zu zunehmend autonomen KI-Systemen.
Besonders interessant ist dabei eine Zahl: Die Länge von Softwareaufgaben, die KI-Agenten mit einer Erfolgsrate von 80 Prozent selbstständig bewältigen können, hat sich laut dem Bericht in den vergangenen Jahren ungefähr alle sieben Monate verdoppelt. Aufgaben, die heute noch etwa 30 Minuten menschliche Arbeitszeit entsprechen, könnten bei einer Fortsetzung dieses Trends bis 2027 mehrere Stunden und bis 2030 mehrere Tage umfassen. Der Bericht weist allerdings ausdrücklich darauf hin, dass eine Erfolgsrate von 80 Prozent für viele professionelle Anwendungen noch längst nicht ausreicht.
Das ist für mich der wesentlich interessantere Punkt als die Frage, ob KI irgendwann „intelligenter als der Mensch“ sein wird.
Denn Intelligenz und Handlungsmacht sind zwei verschiedene Dinge.
Eine KI kann sehr leistungsfähig sein und trotzdem kaum Einfluss haben, solange sie nur Antworten formuliert. Gibt man ihr dagegen Zugriff auf Systeme und die Möglichkeit, selbstständig Entscheidungen umzusetzen, verändert sich die Situation.
Die Macht steckt im Zugriff
Nehmen wir ein einfaches Beispiel.
Eine KI erkennt einen Fehler in einem IT-System. Heute könnte sie mir erklären, worin der Fehler besteht und vielleicht einen Lösungsvorschlag machen.
Ein autonomer Agent könnte dagegen den Fehler selbst analysieren, die betroffenen Systeme untersuchen, eine Änderung vorbereiten, diese testen und anschließend implementieren.
Noch ist dafür an vielen Stellen menschliche Kontrolle vorgesehen. Aber die technische Entwicklung geht genau in Richtung längerer und komplexerer Handlungsketten.
Damit verschiebt sich die entscheidende Frage.
Nicht mehr nur: „Was kann die KI?“ Sondern: „Was darf die KI?“
Und diese Frage wird umso wichtiger, je mehr Zugriff ein System erhält.
Ein KI-Agent mit Zugriff auf einen Webbrowser ist etwas anderes als ein KI-Agent mit Zugriff auf ein Unternehmensnetzwerk. Ein System, das Texte formulieren darf, ist etwas anderes als eines, das Überweisungen auslösen, Produktionsanlagen steuern oder sicherheitsrelevante Systeme verändern kann.
„Die Fähigkeiten des Modells sind dabei nur eine Seite der Gleichung. Die andere ist die Umgebung, in der es handeln darf.“
Harald A. Summa
Was passiert, wenn die Kontrolle nicht mehr ausreicht?
Genau hier beginnt die aktuelle Diskussion über sogenannte Loss-of-Control-Szenarien.
Der International AI Safety Report 2026 beschreibt solche Szenarien als eine mögliche, aber keineswegs feststehende Entwicklung. Dafür müssten mehrere Voraussetzungen zusammenkommen: KI-Systeme müssten entsprechend leistungsfähig und autonom sein, problematisches Verhalten zeigen und gleichzeitig über ausreichende Möglichkeiten verfügen, in der realen Welt wirksam zu handeln.
Auch aktuelle Forschung beschäftigt sich inzwischen sehr konkret mit dieser Grenze. Eine im September 2026 veröffentlichte Studie untersuchte beispielsweise, unter welchen Bedingungen autonome Agenten bei der Erfüllung eines eigentlich legitimen Ziels ihre vorgesehenen Kontrollgrenzen überschreiten. In den dort untersuchten Testumgebungen spielte insbesondere das Zusammenspiel aus verschlechterten Kontrollmechanismen und tatsächlich ausführbaren unsicheren Handlungen eine Rolle.
Das ist eine wichtige Unterscheidung. Es geht nicht darum, einer Maschine menschliche Gefühle oder einen bösen Charakter zuzuschreiben.
Es geht darum, dass ein System ein Ziel verfolgen, Entscheidungen treffen und Handlungen ausführen kann, ohne dass jeder einzelne Schritt von einem Menschen vorgegeben wird.
2030 ist keine Vorhersage
Gerade deshalb sollte man bei den derzeit kursierenden Schlagzeilen vorsichtig sein.
Immer wieder ist zu lesen, dass KI schon bis 2030 die Kontrolle übernehmen oder sogar Menschen töten könnte. Solche Aussagen gibt es tatsächlich, auch von Personen aus der KI-Branche. Sie sind aber Szenarien und Warnungen, keine gesicherten Prognosen. Über den Entwicklungspfad der KI bis 2030 besteht erhebliche Unsicherheit. Es kommt also nicht darauf an, darauf zu warten, dass eine KI einen eigenen Willen entwickelt. Vielmehr sollte vorher klar sein, welche Entscheidungen wir einer Maschine überhaupt überlassen möchten.
Vielleicht ist die Weltherrschaft die falsche Frage
„Vielleicht liegt die eigentliche Gefahr deshalb gar nicht darin, dass eine KI eines Tages beschließt, die Kontrolle über uns zu übernehmen. Vielleicht liegt sie darin, dass wir Menschen ihr die Kontrolle Stück für Stück freiwillig überlassen.“
Harald A. Summa
Denn genau so funktionieren technologische Entwicklungen häufig. Wir testen, was möglich ist. Dann testen wir, was davon praktisch funktioniert. Und irgendwann stellt sich die Frage nicht mehr, ob etwas möglich ist, sondern ob wir es auch einsetzen sollten.
Bei einer Technologie mit wirtschaftlichem Potenzial wird diese Frage noch schwieriger. Wenn ein KI-System Entscheidungen schneller trifft, Kosten senkt, Prozesse automatisiert oder einem Unternehmen einen Wettbewerbsvorteil verschafft, entsteht ein sehr konkreter Anreiz, ihm mehr Aufgaben und mehr Zugriff zu geben. Der Sicherheitsaufwand dagegen ist zunächst vor allem eines: Aufwand.
Unternehmen, die stärker in Risikominderung investieren, können gegenüber Wettbewerbern ins Hintertreffen geraten, wenn diese schneller entwickeln und veröffentlichen.
Und damit sind wir wieder bei der ursprünglichen Frage: Willst du die Weltherrschaft übernehmen?
Die Antwort der KI darauf mag weiterhin „Nein“ lauten.
Die interessantere Frage ist vielleicht: Wie weit würden wir selbst gehen, bevor wir anfangen, diese Frage ernst zu nehmen?