Die Nachrichten wurden von Berichten über die Risiken der KI dominiert – von außer Kontrolle geratenen Systemen bis hin zu einem öffentlichen Aufschrei, der darauf abzielt, deren Entwicklung zu verlangsamen und zu regulieren. Zusammengenommen sagen diese Berichte etwas Wichtiges darüber aus, in welche Richtung sich die Risiken der KI tatsächlich entwickeln. Allein im September 2026:
- OpenAI gab sechs bisher nicht bekannt gewordene Vorfälle bekanntüber das in den letzten sechs Monaten beobachtete Verhalten des Modells sowie über einen neuen Berichtsrahmen für die künftige Weitergabe solcher Informationen.
- Forscher gaben bekannt, dassOpenAI-Agenten haben das RubyGems-Software-Repository mit mehr als 2.000 schädlichen Paketen überschwemmtim Mai, Monate bevor jemand einen Zusammenhang mit dem Unternehmen herstellte.
- Anthropic hat eine Bewertung der Ausrichtung veröffentlichtin dem ein vierter Vorfall beschrieben wird, bei dem ein Claude-Modell im Rahmen einer eigentlich in einer Sandbox durchgeführten Cybersicherheitsbewertung Zugang zu einem echten Drittanbietersystem erlangte, wobei Begriffe wie „Leichtsinn“ und „voreingenommene Schlussfolgerungen“ verwendet wurden, um das Verhalten der Modelle zu beschreiben.
- Die Geschäftsführer von Anthropic und OpenAI forderten beide, dass die Branche einen Gang zurückschalten solle, mit der Warnung, dass eine Flut von Agenten innerhalb weniger Monate wesentliche Teile des Internets übernehmen könnte, wenn die Sicherheitsvorkehrungen nicht Schritt halten.
- Das Wall Street Journalberichtete, dass Google Gemini drei Unternehmen gehackt habe, obwohl Google erklärte, dass es dies nicht als einen Fall von Fehlausrichtung betrachte.
Es ist verlockend, diese Berichte unter der Rubrik „Pionierprobleme“ abzuhaken und weiterzumachen. Ich halte das jedoch für eine falsche Einschätzung. Unternehmen haben oft nicht den Luxus, darauf zu warten, dass die Branche und die Regulierungsbehörden das Wachstum bremsen – ganz abgesehen davon, ob und wann dies überhaupt geschieht. Cyberrisiken durch Agenten sind in den meisten Umgebungen bereits vorhanden, und politische Zeitpläne ändern möglicherweise nichts daran, wie schnell sie sich ausbreiten.
Die Angriffsvektoren sind nicht neu. Ein schädliches Paket. Eine falsch konfigurierte Umgebung. Zugangsdaten, die länger als nötig offengelegt waren. Die meisten CISOs beschäftigen sich schon seit Jahren mit diesen Risiken. Was sich durch KI geändert hat, sind das Ausmaß und die Transparenz: Tausende von Agenten, die ununterbrochen aktiv sind und sich auf eine Weise koordinieren, die niemand vorhergesehen oder beobachtet hat.
Ein typisches Beispiel: Aufgrund des enormen Ausmaßes des OpenAI/RubyGems-Vorfalls benötigten spezialisierte Forscher Monate, um den Vorfall zu rekonstruieren. Welches Unternehmen kann es sich leisten, dass zwischen dem Vorfall und dessen Aufklärung so viel Zeit vergeht?
Viele Anzeichen deuten auf eine weitere Ausbreitung hin, nicht auf einen Rückgang. Tatsächlich,IDC prognostiziertdass bis 2029 die Zahl der in Produktionsumgebungen eingesetzten Agenten 1 Milliarde überschreiten wird und dass bis 2027 mehr als 40 % der Funktionen von Unternehmensanwendungen durch agentenbasierte Automatisierung erweitert werden.
Was „KI-fähige“ Cyber-Resilienz tatsächlich erfordert
Commvault vertritt entschieden die Ansicht, dass Ausfallsicherheit nur dann zählt, wenn die Recovery fehlerfrei erfolgt. Eine Recovery, bei der eine kompromittierte Datei, ein beschädigter Datensatz oder eine weiterhin infizierte Agent-Identität zurückgebracht wird, ist keine Ausfallsicherheit – sondern ein zweiter Vorfall. Diese Prämisse hat sich auch mit dem Aufkommen der agentenbasierten KI nicht geändert. Sie ist sogar noch wichtiger geworden. Aus diesem Grund haben wir unsere KI-Fähigkeiten zur Ausfallsicherheit unter Berücksichtigung der folgenden Punkte entwickelt:
Resilienz muss mit Maschinen-Geschwindigkeit funktionieren.Die sich rasch weiterentwickelnden KI-Fähigkeiten beschleunigen Angriffe.von Commvault und Tech Research Asia hat kritische Lücken bei den Maßnahmen zur Cyber-Recovery in Unternehmen im gesamten asiatisch-pazifischen Raum aufgezeigt.Der globale Bedrohungsbericht 2026 von CrowdStrike, die „Breakout-Zeit“ – also der Zeitraum zwischen dem ersten Zugriff eines Angreifers und seinem ersten Schritt, tiefer in das Netzwerk vorzudringen – beträgt 29 Minuten, gegenüber 48 Minuten im Vorjahr. Zu sagen, dass Recovery eine direkte und sofortige Reaktion auf Datensicherheitssignale erfordert, ist eine Untertreibung. Andernfalls kann das übliche Vorgehen mit manuellen Genehmigungen dazu führen, dass Die Bedrohung rückt immer näher.
Umfassende Kenntnisse in allen Systemen und Umgebungen.Angreifer wählen ihre Ziele – sei es ein öffentliches Code-Repository, ein Rechenzentrum oder eine SaaS-Umgebung – wahllos aus und greifen diese an. Der Schutz sollte sowohl strukturierte als auch unstrukturierte Daten, SaaS-Anwendungen und die Infrastruktur gleichermaßen umfassen sowie Cloud-, Edge-, On-Premises- und Hybridumgebungen abdecken.
Identitätsresilienz geht über den Menschen hinaus.Da die Zahl der nichtmenschlichen Identitäten die der Menschen übersteigt144 zu 1, wird Governance wieder zu einer Herausforderung der heutigen Zeit. Wenn sich die Auswirkungsreichweite eines Angriffs innerhalb von Sekunden ausweiten kann, müssen effektive Datensicherheitsteams nicht nur verstehen, was sich geändert hat und wer die Änderung vorgenommen hat, sondern auch, wann eine Warnmeldung berechtigt ist eine Wiederherstellungsmaßnahme.
Das größte KI-Risiko beschränkt sich nicht auf Pionierlabore. Für Unternehmen muss die Widerstandsfähigkeit als grundlegend betrachtet werden, bevor das Ausmaß der autonomen Aktivitäten das Risiko unkontrollierbar macht. Diese Verantwortung liegt beim Unternehmen.
Erfahren Sie mehr darüber, wie Commvault Cloud Ihnen dabei helfen kann, die Ausfallsicherheit Ihres KI-Stacks zu erhöhenhier.
Sankalp Damaniist Senior Director für Produktmanagement bei Commvault.