19.09.2026 Gemini, Claude, OpenAI: Immer mehr KI-Agenten hacken reale Systeme
Drei Unternehmen dürften im Mai nicht geahnt haben, dass gerade „Googles Gemini“ versuchte, in ihre Systeme einzudringen.
Die KI befand sich in einer Cybersecurity-Evaluierung des Sicherheitsunternehmens „Irregular“ und sollte Angriffe gegen erfundene Firmen durchführen. Die Testumgebung hätte vom Internet getrennt sein sollen. Sie war es nicht.
„Gemini“ gelangte ins offene Netz, stieß dort auf reale Unternehmen und behandelte deren Systeme wie Bestandteile seiner Übungswelt.
In einem Fall erriet das Modell ein Passwort, bei zwei weiteren Unternehmen fand es öffentlich zugängliche Zugangsdaten in Repositories und verwendete sie.
„Google“ bestätigte inzwischen alle drei Vorfälle. Nach Angaben des Konzerns brach „Gemini“ seine Aktivitäten jeweils ab, nachdem das Modell erkannt hatte, dass es sich um reale Systeme handelte.
Bei „OpenAI“ ging es noch weiter. Während interner Cybersecurity-Tests umgingen mehrere Modelle im Juli technische Sperren, die sie vom Internet fernhalten sollten.
Die Agenten nutzten Schwachstellen in gemeinsam verwendeter Infrastruktur, verschafften sich Zugang zum Netz und drangen anschließend in Systeme der KI-Plattform „Hugging Face“ ein. „OpenAI“ räumte ein, dass die Agenten Aktionen ausführten, die über die vorgesehenen Aufgaben hinausgingen.
Auch „Claude“ überschritt die vorgesehenen Grenzen. Nachdem der „Hugging-Face“-Vorfall bekannt geworden war, durchsuchte „Anthropic“ rund 141.000 Protokolle eigener Cybersecurity-Evaluierungen.
Dabei stießen die Entwickler zunächst auf drei Fälle, in denen Claude während Tests ins offene Internet gelangt war und ohne Genehmigung auf reale Systeme fremder Organisationen zugegriffen hatte.
Eine spätere Untersuchung brachte einen vierten Fall aus dem Januar 2026 ans Licht.
Die Entwicklung läuft rasend schnell: KI-Agenten recherchieren selbstständig, schreiben Code, suchen Schwachstellen, planen mehrstufige Angriffe und führen einzelne Schritte ohne ständige menschliche Anweisung aus.
Genau diese Fähigkeiten sollen sie wertvoll machen. Sobald ihre Begrenzungen versagen, richten sie sich jedoch nicht mehr nur gegen künstliche Testziele. Die Agenten werden mächtiger.
Und ihre Entwickler schaffen es offenbar nicht immer, sie im Käfig zu halten.
Quelle: report24.news/gemini-claude-openai-immer-mehr-ki-agenten-hacken-reale-systeme
Das erinnert an Goethes „Zauberlehrling“. Wer das Gedicht nicht kennen sollte …
… sollte jetzt besser von hier verschwinden!
Nein! Natürlich nicht! 😄
… kann das hier nachlesen.
Hat der alte Hexenmeister
sich doch einmal wegbegeben!
Und nun sollen seine Geister
auch nach meinem Willen leben.
Seine Wort‘ und Werke
Merkt ich und den Brauch,
und mit Geistesstärke
tu ich Wunder auch.
Walle! Walle!
Manche Strecke,
dass, zum Zwecke,
Wasser fliesse
und mit reichem, vollem Schwalle
zu dem Bade sich ergiesse.
Und nun komm, du alter Besen!
Nimm die schlechten Lumpenhüllen;
Bist schon lange Knecht gewesen;
Nun erfülle meinen Willen!
Auf zwei Beinen stehe,
Oben sei ein Kopf,
Eile nun und gehe
mit dem Wassertopf!
Weiterlesen => gedichte7.de/der-zauberlehrling.html
Und falls jemand sich nicht bis zu Ende „durchquälen“ möchte, hier die cineastische Quintessenz: