Dem Bericht zufolge nutzen die Angreifer dabei die gängige Funktionsweise der KI-Tools innerhalb des Browsers. Die Eingabefelder der Prompts sind Teil der Struktur der Webseite (bekannt als Document Object Model, DOM). Das bedeutet, dass praktisch jede Browsererweiterung mit grundlegendem Skripting-Zugriff auf das DOM lesen oder ändern kann, was die Benutzer in die KI-Eingabeaufforderungen eingeben, auch ohne dass spezielle Berechtigungen erforderlich sind.
Ein böswilliger Angreifer kann so kompromittierte Erweiterungen verwenden, um die sogenannten Prompts, also die Benutzeranfragen an die KI, zu manipulieren, versteckte Anweisungen einzuschleusen, sensible Daten aus den KI-Antworten oder der gesamten Sitzung zu extrahieren oder das KI-Modell sogar dazu verleiten, vertrauliche Informationen preiszugeben oder unbeabsichtigte Aktionen auszuführen. Im Wesentlichen wird der Browser damit zu einem Kanal, der es der Erweiterung ermöglicht, als „Man in the Middle“ für KI-Interaktionen zu fungieren.
Die Risiken eines solchen Angriffs sind signifikant, da browserbasierte KI-Tools häufig sensible Informationen verarbeiten, besonders wenn die Nutzer vertrauliche Unternehmensdaten in diese Schnittstellen einfügen und die interne KI-Anwendung auf proprietären Datensätzen trainiert wird und die Angreifer durch die Browsererweiterung Daten extrahieren. Die Tatsache, dass viele Unternehmen die Installation der kostenlosen KI-Tools erlauben, macht diese Art des Angriffs für Kriminelle zusätzlich attraktiv, denn sie bietet einen unauffälligen Weg, um Unternehmensdaten und -wissen zu stehlen.
Für herkömmliche Sicherheitsvorkehrungen stellt der „Man in the Prompt“-Angriff zudem eine echte Herausforderung dar, denn Sicherheitstools wie „Data Loss Prevention (DLP)“-Systeme für Endpunkte oder Secure Web Gateways haben keinen Einblick auf DOM-Ebene. Auch das Blockieren von KI-Tools allein über die URL schützt nicht vor internen KI-Implementierungen. Das bedeutet, dass Unternehmen ihre Sicherheitskonzepte anpassen müssen, damit auch das Verhalten innerhalb des Browsers erfasst wird. Zu den wichtigsten Empfehlungen von LayerX gehören die Überwachung von DOM-Interaktionen innerhalb von KI-Tools, um verdächtige Aktivitäten zu erkennen, das Blocken riskanter Erweiterungen auf der Grundlage ihres Verhaltens und nicht nur ihrer aufgeführten Berechtigungen sowie die aktive Verhinderung von Manipulationen und Datenexfiltrationen in Echtzeit auf Browser-Ebene.
Das Security Operations Center von 8com schützt die digitalen Infrastrukturen seiner Kunden effektiv vor Cyberangriffen. Dazu vereint 8com zahlreiche Managed Security Services wie Security Information and Event Management (SIEM), eXtended Detection and Response (XDR), Endpoint Detection and Response (EDR) mit Incident Response und Vulnerability Management unter einem Dach.
8com gehört zu den führenden SOC-Anbietern in Europa. Seit 20 Jahren ist das Ziel von 8com, Kunden bestmöglich vor Cyberangriffen zu schützen und gemeinsam ein ökonomisch sinnvolles, aber trotzdem hohes Informationssicherheitsniveau zu erzielen. Durch die einzigartige Kombination aus technischem Know-how und direkten Einblicken in die Arbeitsweisen von Cyberkriminellen können die Cyber-Security-Experten bei ihrer Arbeit auf fundierte Erfahrungswerte zurückgreifen.
8com GmbH & Co. KG
Europastraße 32
67433 Neustadt an der Weinstraße
Telefon: +49 (6321) 48446-0
Telefax: +49 (6321) 48446-29
http://www.8com.de
Pressereferentin
Telefon: +49 (30) 30308089-14
E-Mail: kraus@quadriga-communication.de
Head of Communications
Telefon: +49 6321 484460
E-Mail: redaktion@8com.de
