BeyondTrust-Sicherheitsforscher warnen vor einer steigenden Anzahl an Schatten-KI-Diensten

BeyondTrust, marktführender Cybersicherheitsanbieter beim Schutz privilegierter Zugriffswege, ermittelt in einer neuen Studie des Forschungslabors Phantom Labs™, dass die Zahl der in Unternehmensumgebungen eingesetzten KI-Agenten in einem Jahr um 466,7 Prozent gestiegen ist. Die Daten basieren auf Erkenntnissen der Analyselösung Identity Security Insights®, die als Bestandteil der Pathfinder-Plattform eine Welle an Schatten-KI-Diensten identifiziert. Diese KI-gesteuerten Identitäten werden über Cloud-Dienste und Unternehmensanwendungen bereitgestellt, häufig ohne zentrale Steuerung oder Kontrolle der eingesetzten Privilegien.

“Organisationen setzen Tausende neuer Maschinenidentitäten durch KI-Agenten ein, ohne ihre vererbten Zugriffsrechte im Blick zu behalten”, warnte Fletcher Davis, Director of Research bei BeyondTrust Phantom Labs. “In vielen von uns untersuchten Umgebungen arbeiten KI-Agenten mit Privilegien, die mit Administratorrechten vergleichbar sind. In dem Maße, wie Organisationen vom einfachen Chatbot-Einsatz auf autonome Agentic-AI-Dienste wechseln, nehmen auch Identitätssicherheitsrisiken und die Angriffsfläche insgesamt zu.”

Wichtige Erkenntnisse
Die Sicherheitsforscher von Phantom Labs identifizieren mehrere bedenkliche Entwicklungen:

-Schatten-KI-Agenten agieren oft abseits der formalen IT-Governance-Regeln und kommen insbesondere bei Low-Code-Plattformen oder eingebetteten Unternehmensanwendungen zum Einsatz.
-KI-Agentenidentitäten, die in statischen Berichten als angemessen verwaltet gekennzeichnet werden, können im laufenden Betrieb auf unvorhersehbare Weise an höhere Rechte gelangen.
-Die Anzahl maschineller und KI-bezogener Identitäten übertrifft bei weitem die Zahl der Personenkonten – und der Abstand vergrößert sich schnell weiter.
-KI-Agenten setzen langlebige API-Schlüssel und statische Zugangsdaten ohne Rotationsrichtlinien oder Lebenszykluskontrollen ein.

Das schnelle Wachstum wird durch die Einführung KI-gestützter Unternehmensplattformen wie Microsoft Copilot und Azure AI Foundry, KI-Funktionen in Salesforce und ServiceNow, KI-gestützte Code-Assistenten oder KI-Funktionen in Kollaborationswerkzeugen wie Jira und Confluence vorangetrieben. Einige Organisationen betreiben bereits deutlich mehr als 1.000 KI-Agenten, über deren Einsatz viele IT-Sicherheitsteams nicht vollständig informiert wurden.

Im Gegensatz zu klassischen Service-Konten können KI-Agenten die Berechtigungen von Nutzern oder Service-Rollen erben, Interaktionen mit APIs und Unternehmenstools durchführen oder auch plattformübergreifend autonom handeln. Durch diese Kombination entstehen Angriffswege, die klassische Sicherheitstools nicht erkennen können. Identity Security Insights von BeyondTrust erkennt Anomalien und Bedrohungen, die aus kompromittierten Identitäten und dem Missbrauch privilegierter Zugriffe resultieren. Die Analyselösung korreliert Daten verschiedener BeyondTrust-Produkte und Anbieter und bietet einen zentralen Überblick über digitale Identitäten, Konten und privilegierte Zugriffe.

Weiterführende Phantom-Labs-Forschung
Die Erkenntnisse basieren auf umfangreichen Studien von Phantom Labs darüber, wie KI-Plattformen zu Privilegienmissbrauch und Identitätsrisiken führen können:
-Phantom-Labs-Forscher zeigten zuvor ein reales Sicherheitsszenario mit Microsoft Copilot Studio auf, bei dem KI-Agenten an hinterlegte Secrets gelangen konnten und trotz bestehender Sicherheitskontrollen unbefugte Zugriffe auf die Cloud-Infrastruktur gewährt wurden ( Webinar (https://www.beyondtrust.com/webinars/ai-hacking-weaponizing-enterprise-agents)).
-Aktuelle BeyondTrust-Untersuchungen zu AWS Bedrock haben gerade aufgedeckt, wie langlebige API-Schlüssel automatisch IAM-Nutzer mit zu weit gefassten Berechtigungen erstellen können ( Blog (https://www.beyondtrust.com/blog/entry/pwning-aws-agentcore-code-interpreter)). Zudem wurde mit bedrock-keys-security ein Open-Source-Tool veröffentlicht, das solche Risiken erkennt und deren Ausnutzung verhindert ( GitHub (https://github.com/BeyondTrust/pwning-agentcore-code-interpreter/)).

Kostenlose KI-Sicherheitsbewertung
Der BeyondTrust-Service ” Identity Security Risk Assessment (https://www.beyondtrust.com/de/products/identity-security-insights/assessment)” bietet eine kostenlose und unverbindliche Risikoanalyse zur Aufdeckung von identitätsbezogenen Angriffsflächen, um Risiken besser verstehen und Schwachstellen reduzieren zu können. Im Rahmen einer umfassenden Identitätssicherheitsanalyse verschaffen sich Organisationen damit einen wertvollen Einblick in Risiken beim Einsatz von KI-Agenten. Die Analyse umfasst Enterprise-Identitätssysteme und KI-Agenten-Infrastrukturen, um nicht verwaltete KI-Identitäten zu identifizieren, “Schatten-KI” zu erkennen und domänenübergreifende Berechtigungspfade sichtbar zu machen. Ergänzt wird dies durch konkrete Handlungsempfehlungen zur Risikobehebung, ausgerichtet am MITRE-ATT&CK-Framework.

Über Phantom Labs
Die Sicherheitsforscher von Phantom Labs™ “denken wie Angreifer”, um Privilegieneskalationspfade und identitätsbasierte Angriffsvektoren aufzudecken. So unterstützen sie Sicherheitsteams dabei, Fehlkonfigurationen proaktiv zu erkennen und Bedrohungen in komplexen Hybrid- und Cloud-Umgebungen frühzeitig zu identifizieren. Weitere Informationen unter https://www.beyondtrust.com/channel/phantom-labs .

BeyondTrust ist globaler Marktführer für Privileged Access Management (PAM) und ermöglicht Organisationen eine umfassende Absicherung aller Nutzerprivilegien. Das integrierte Produkt- und Plattformangebot stellt die branchenweit fortschrittlichste PAM-Lösung bereit, mit der Unternehmen ihre Angriffsfläche in klassischen, hybriden und Cloud-Umgebungen verkleinern.
BeyondTrusts ganzheitlicher Ansatz für Universal Privilege Management vereint Lösungen zu Privileged Remote Access, Endpoint Privilege Management, Privileged Password Management sowie auch Remote Support. BeyondTrust sichert und schützt privilegierte Zugriffe auf IT-Systeme, Passwörter und Endpunkte, um Unternehmen die erforderliche Visibilität und Kontrolle zur Reduzierung von Risiken und Einhaltung von Compliance-Vorgaben zu verschaffen. Mit einem weltweiten Partnernetzwerk unterstützt BeyondTrust über 20.000 Kunden, zu denen 70 Prozent der Fortune-500-Unternehmen zählen.

Firmenkontakt
BeyondTrust
Annika Vaidya
Wiesenhüttenplatz 25
60329 Frankfurt am Main
(06181) 9661255
http://www.beyondtrust.com/de

Pressekontakt
Agentur SCHOLZ PR
Heiko Scholz
Königsberger Str. 33
35066 Frankenberg
06451715105
http://www.scholzpr.de

Bildquelle: BeyondTrust