Wenn ein Unternehmen heute einen Cyber Incident untersucht, reicht klassische IT-Forensik oft nicht mehr aus. Der Grund ist einfach: KI-Systeme sind nicht nur Werkzeug, sondern selbst ein Angriffsziel. Angreifer manipulieren Trainingsdaten, verändern Modelle, missbrauchen Schnittstellen oder erzeugen täuschend echte Inhalte. Für Unternehmen in Deutschland entsteht dadurch ein doppeltes Risiko. Erstens kann ein Angriff unbemerkt bleiben, weil die KI scheinbar normal arbeitet. Zweitens können Digitale Beweise selbst verfälscht sein, etwa durch gefälschte Screenshots, synthetische Audios oder manipulierte Protokolle.
Gerade für IT-Sicherheitsbeauftragte, Compliance-Teams und Rechtsabteilungen wird AI Security deshalb zu einem festen Teil jeder Untersuchung. Es geht nicht nur um Technik. Es geht um Nachweisbarkeit, Haftung, Datenschutz und Gerichtsverwertbarkeit. In diesem Beitrag erfahren Sie, woran sich manipulierte KI-Systeme erkennen lassen, welche Artefakte Sie sichern müssen, wie eine belastbare Beweiskette entsteht und warum bei cloudbasierten Diensten neue Standards nötig sind. Außerdem sehen Sie, wie Quintego Unternehmen bei der beweissicheren Aufklärung solcher Vorfälle unterstützen kann.
Warum manipulierte KI-Systeme für Unternehmen ein reales Forensik-Risiko sind
Die Bedrohung ist längst nicht mehr theoretisch. Laut einer aktuellen Zusammenstellung für den deutschen Markt entstehen hierzulande 289,2 Milliarden Euro jährlicher Schaden durch Datendiebstahl, Sabotage und Industriespionage. Gleichzeitig werden deutsche Unternehmen im Schnitt von 1.223 Cyberangriffen pro Woche getroffen, während 119 neue Schwachstellen pro Tag bekannt werden (firewalls24). Das BSI beschreibt die Lage der IT-Sicherheit in Deutschland zudem als anhaltend angespannt (BSI).
| Kennzahl | Wert | Einordnung |
|---|---|---|
| Jährlicher Schaden in Deutschland | 289,2 Mrd. Euro | Datendiebstahl, Sabotage, Spionage |
| Cyberangriffe pro Woche | 1.223 | auf deutsche Unternehmen |
| Neue Schwachstellen pro Tag | 119 | Juli 2024 bis Juni 2025 |
| KI-generierte oder KI-unterstützte Phishing-E-Mails | 82,6 % | 2025/2026 |
Für Ermittlungen ist besonders wichtig, dass 82,6 % der Phishing-E-Mails laut der zitierten Quelle KI-generiert oder KI-unterstützt sind (firewalls24). Das zeigt, wie stark KI bereits auf der Angreiferseite wirkt. ENISA warnt zusätzlich, dass nicht nur Anwendungen, sondern auch die Infrastruktur von KI-Systemen angegriffen wird (ENISA). Für Unternehmen heißt das: Bei einem Cyber Incident müssen heute auch Modellstände, Trainingsdaten, API-Logs und MLOps-Prozesse untersucht werden.
Welche Spuren bei einem KI-bezogenen Cyber Incident gesichert werden müssen
Bei einem manipulierten KI-System liegt der Beweis selten nur auf einem einzelnen Server. Genau hier passieren in der Praxis viele Fehler. Teams sichern Endgeräte und Firewalls, übersehen aber die Artefakte, die für AI Security entscheidend sind. Dazu gehören Modellversionen mit Hashes, Trainings- und Testdatensätze, Prompt-Historien, Inferenzprotokolle, API-Logs, Rollen- und Rechtekonzepte sowie Änderungsprotokolle aus MLOps- und DevOps-Pipelines.
Ein typischer Ablauf hilft. Erstens: den betroffenen Zustand sofort einfrieren. Das bedeutet, keine Updates, keine Bereinigung, kein Neustart ohne Dokumentation. Zweitens: alle relevanten Datenquellen identifizieren. Bei SaaS- oder Cloud-KI gehören dazu auch externe Plattformen, Berechtigungsmodelle und Exportmöglichkeiten. Drittens: Zeitlinien aufbauen. Nur so lässt sich zeigen, ob ein Modell bereits vor dem Vorfall manipuliert war oder ob nur der Output verändert wurde. Viertens: Vergleichsdaten sichern, etwa Ergebnisse vor und nach dem Ereignis. Gerade bei Data Poisoning oder Prompt-Manipulation ist dieser Vergleich oft der Schlüssel.
Wer tiefer in die jurische Seite einsteigen will, findet dazu hilfreiche Grundlagen im Beitrag Digitale Beweise für Rechtsabteilungen: Forensik und Compliance. Für die Praxis bedeutet das: Digitale Beweise müssen nicht nur vorhanden sein. Sie müssen nachvollziehbar erhoben, dokumentiert und später verständlich erklärt werden. Das gilt besonders dann, wenn interne Ermittlungen in arbeitsrechtliche oder zivilrechtliche Schritte übergehen.
So lassen sich Manipulationen an KI-Systemen gerichtsfest nachweisen
Die große Frage lautet meist nicht, ob etwas verdächtig ist, sondern ob sich die Manipulation beweisen lässt. Genau daran arbeiten Forschung und Praxis derzeit intensiv. Fraunhofer IAIS beschreibt diesen Bedarf sehr klar:
Mit dem Projekt ›Forensik intelligenter Systeme‹ entwickeln wir prototypische Methoden und Tools, um Manipulationen an kontinuierlich lernenden KI-Systemen gerichtsfest nachzuweisen. Das ist ein wichtiger Baustein zur Stärkung der digitalen Sicherheit solcher Systeme, der strafrechtlichen Verfolgung von KI-Manipulation und der Vertrauenswürdigkeit von KI-Systemen.
In der Praxis wird ein Nachweis meist aus mehreren Bausteinen aufgebaut. Ein Baustein ist die Integritätsprüfung: Stimmen Hashes, Versionsstände und Signaturen? Ein zweiter Baustein ist die Verhaltensanalyse: Zeigt das System ab einem bestimmten Zeitpunkt abweichende Entscheidungen oder Ausgaben? Ein dritter Baustein ist die Kettenanalyse: Welche Änderung in Daten, Rechten oder Konfigurationen ging der Auffälligkeit voraus? KPMG weist darauf hin, dass generative KI die Echtheitsprüfung von Bildern, Audio und Video deutlich erschwert (KPMG).
Häufige Fehler sind dabei vermeidbar. Viele Teams dokumentieren nur Ergebnisse, aber nicht den Weg dorthin. Andere speichern Exporte ohne Metadaten. Wieder andere vertrauen auf Screenshots, obwohl Rohdaten verfügbar wären. Für gerichtsverwertbare Digitale Beweise zählt jedoch die lückenlose Beweiskette: Wer hat wann was gesichert, verarbeitet und bewertet? Genau deshalb ist bei komplexen Fällen die frühe Einbindung spezialisierter Forensik-Dienstleister sinnvoll, etwa über Quintego.
Deepfakes, Data Poisoning und Prompt-Manipulation richtig einordnen
Nicht jede Manipulation sieht gleich aus. Das ist wichtig für die Bewertung im Incident-Response-Prozess. Data Poisoning betrifft die Datenbasis. Das Modell lernt aus absichtlich verfälschten oder verschobenen Informationen und liefert später fehlerhafte Ergebnisse. Prompt-Manipulation greift stärker in die Nutzung ein. Hier wird versucht, Schutzmechanismen zu umgehen oder Ausgaben gezielt zu beeinflussen. Deepfakes und synthetische Inhalte wiederum bedrohen die Echtheit von Digitalen Beweisen selbst.
Laut Europol wirkt KI als Beschleuniger organisierter Kriminalität und erleichtert neue Täuschungs- und Automatisierungsmethoden (Europol). Das deckt sich mit der Beobachtung aus der Forensik. Unternehmen müssen heute immer prüfen, ob ein vorgelegter Beweis echt, verändert oder vollständig künstlich erzeugt wurde. Besonders heikel ist das bei internen Untersuchungen rund um Insider-Handlungen, Compliance-Verstöße oder Datenabflüsse.
Ein weiteres Risiko liegt in der Lieferkette. ENISA und Fachmedien verweisen auf kompromittierte Modell-Updates, manipulierte Datenpipelines und Schwachstellen in KI-Agenten (ENISA; Security Insider). Das heißt: Der Ursprung eines Problems liegt oft nicht im Endsystem, sondern in einer vorgelagerten Verarbeitungskette. Wer nur lokal prüft, sieht oft nur die Folgen, nicht die Ursache.
Was Compliance, Rechtsabteilung und IT jetzt gemeinsam regeln sollten
AI Security ist kein reines Technikthema. Sobald ein KI-System in sensible Prozesse eingreift, entstehen Fragen zu Verantwortlichkeit, Dokumentationspflicht und Haftung. Der kommende und teilweise bereits wirksame Regulierungsrahmen rund um den EU AI Act erhöht den Druck auf Transparenz, menschliche Aufsicht und Auditierbarkeit. Für Unternehmen heißt das: Ermittlungen müssen von Beginn an so aufgebaut sein, dass technische und rechtliche Anforderungen zusammenpassen.
Dazu gehören klare Rollen im Cyber Incident, feste Freigabewege für Datensicherungen, DSGVO-konforme Verarbeitung, definierte Aufbewahrungsfristen und ein nachvollziehbarer Audit-Trail. Besonders bei cloudbasierten KI-Diensten sollten Unternehmen vorab klären, welche Logs überhaupt exportierbar sind und wie lange sie gespeichert werden. Sinnvoll ist außerdem ein abgestimmtes Verfahren mit der Rechtsabteilung, damit relevante Digitale Beweise frühzeitig beweissicher gesperrt werden und nicht durch Routineprozesse verloren gehen.
Laut Hornetsecurity setzen bisher nur 32 % der deutschen Unternehmen KI gezielt zur Abwehr von Cyberbedrohungen ein, während 45 % dies gar nicht tun (Hornetsecurity). Das zeigt: Viele Organisationen stehen noch am Anfang. Gerade deshalb lohnt es sich, Prozesse jetzt sauber aufzubauen.
Ein praktikabler Umsetzungsplan für mittelständische und große Unternehmen
Der beste Schutz entsteht aus Vorbereitung. Ein realistischer Plan beginnt mit einer Bestandsaufnahme: Wo nutzt Ihr Unternehmen KI, direkt oder über Dienstleister? Danach folgt eine Beweislandkarte. Sie legt fest, welche Systeme, Datenquellen und Protokolle bei einem Vorfall gesichert werden müssen. Der nächste Schritt ist ein Incident-Response-Playbook speziell für KI-Fälle. Es sollte Verantwortliche, Eskalationsstufen, Sicherungsmethoden und externe Ansprechpartner enthalten.
Ebenso wichtig ist die technische Vorsorge. Aktivieren Sie Versionierung für Modelle und Datenstände, protokollieren Sie Änderungen in Pipelines, begrenzen Sie Rechte nach dem Need-to-know-Prinzip und testen Sie regelmäßig, ob Exporte aus Cloud- und SaaS-Umgebungen vollständig sind. Laut Schwarz Digits fließen 2026 bereits 17 % des IT-Budgets in IT-Sicherheit (Schwarz Digits). Ein Teil davon sollte gezielt in forensische Nachweisbarkeit investiert werden, nicht nur in Prävention.
Prof. Dr. Dirk Labudde bringt die Lage aus Sicht der Kriminalitätsentwicklung auf den Punkt:
Das bringt nochmal einen richtigen Schub für Kriminelle. […] Aus Sicht der Kriminellen muss man sagen: Besser geht es nicht, wenn künstliche auf kriminelle Intelligenz trifft.
Gerade deshalb sollten Unternehmen nicht erst im Ernstfall nach einem Dienstleister suchen. Ein erfahrener Partner wie Quintego kann helfen, Beweissicherung, Datenwiederherstellung und forensische Dokumentation so vorzubereiten, dass im Vorfall keine Zeit verloren geht.
Jetzt die Ermittlungsfähigkeit für KI-Vorfälle stärken
Manipulierte KI-Systeme sind kein Zukunftsthema mehr. Sie betreffen heute schon Sicherheitslagen, Compliance-Prüfungen und Rechtsstreitigkeiten in deutschen Unternehmen. Der wichtigste Punkt ist dabei simpel: Wer nur klassische Systeme untersucht, übersieht oft die entscheidenden Spuren. Bei einem modernen Cyber Incident müssen auch Modelle, Datenpipelines, Prompt-Historien, API-Logs und Berechtigungen Teil der Beweissicherung sein. Nur so lassen sich Digitale Beweise belastbar sichern und Manipulationen später erklären.
Für die Praxis ergeben sich drei klare Schritte. Erstens: KI-Systeme in das bestehende Incident-Response-Konzept aufnehmen. Zweitens: beweisrelevante Artefakte vorab definieren und die Exportfähigkeit testen. Drittens: IT, Compliance und Rechtsabteilung gemeinsam auf eine gerichtsfeste Dokumentation ausrichten. Wenn Sie dabei noch Lücken sehen, lohnt sich ein Blick auf Digitale Beweise für Rechtsabteilungen: Forensik und Compliance.
Wer AI Security ernst nimmt, schützt nicht nur Systeme. Er schützt auch die eigene Handlungsfähigkeit. Und genau das entscheidet im Ernstfall darüber, ob ein Vorfall schnell aufgeklärt wird oder ob wichtige Beweise für immer verloren gehen.