KI-Sicherheit ist für den Mittelstand kein Zukunftsthema mehr. Sobald ein Betrieb KI-Agenten einsetzt, interne Dokumente in RAG-Systeme gibt oder Chatbots im Kundendienst betreibt, entstehen Angriffsflächen, die kein klassischer Virenschutz abdeckt. Dieser Beitrag zeigt, welche Risiken real sind, welche Pflichten der EU AI Act bereits jetzt auslöst und wie ein tragfähiges Sicherheitskonzept in vier Schritten aussieht.
Die Erwartungshaltung im Mittelstand ist verbreitet: „Solange sensible Daten nicht nach China gehen, sind wir auf der sicheren Seite.” Das Problem: Die gefährlichsten Angriffe laufen nicht über das Modell, sondern durch das Modell hindurch. Ein Angreifer muss das Modell nicht hacken. Er schiebt ihm nur ein Dokument unter, das die Anweisungen enthält, die das Modell befolgen soll.
Dieser Beitrag ordnet den Stand zum Oktober 2026 ein. Er ist keine Rechtsberatung. Er richtet sich an mittelständische IT-Leiter, Geschäftsführer und Verantwortliche, die KI bereits einsetzen oder in den nächsten Monaten einführen wollen — und die jetzt wissen müssen, welche Pflichten bereits gelten und wo die größten Risiken lauern.
1. Warum KI-Sicherheit eine eigene Disziplin ist
Ein KI-System unterscheidet sich von klassischer Software an drei entscheidenden Stellen: Es verarbeitet unstrukturierten Text, es trifft Entscheidungen probabilistisch, und es kann handeln. Jede dieser drei Eigenschaften bricht Annahmen, die in der IT-Sicherheit seit Jahrzehnten gelten.
- Text ist eine Befehlsquelle. Für klassische Anwendungen ist der Inhalt einer PDF-Datei Daten. Für ein Sprachmodell ist er Anweisung. Dieselbe Datei kann harmlose Rechnungsdaten enthalten oder im versteckten Text eine Umleitung der Logik.
- Fehler sind statistisch, nicht binär. Ein Virenschutz liefert ein klares Ergebnis. Ein Modell liefert Konfidenz, die nicht mit Zuverlässigkeit verwechselt werden darf. Kontrollmechanismen, die auf Determinismus bauen, greifen hier nicht.
- Handeln verändert den Schaden. Ein Chatbot, der eine falsche Antwort liefert, ist ein Ärgernis. Ein Agent, der auf Basis einer manipulierten E-Mail eine Bestellung auslöst oder Datensätze löscht, ist ein Schadensfall.
Die OWASP hat daraus den Top 10 for LLM Applications 2025 abgeleitet. Zwei Einträge sind für den Mittelstand besonders relevant: LLM01 Prompt Injection (direkte und indirekte Injektion) und LLM06 Excessive Agency (zu weitreichende Handlungsbefugnisse). Beide stehen nicht zufällig an erster Stelle: Sie sind die direkte technische Ursache für die Vorfälle, die in Unternehmen tatsächlich passieren.
2. Drei Bedrohungsszenarien und ihre Gegenmaßnahmen
2.1 Prompt Injection und Agent Hijacking
Der Angriff beginnt nicht beim Modell, sondern beim Dokument. Eine eingehende Rechnung, eine Kundenmail oder ein PDF aus einem Lieferantenportal enthält — für das menschliche Auge unsichtbar — eine Anweisung an das Modell. Der Agent, der diese Rechnung verarbeitet, folgt ihr. Das ist keine hypothetische Schwachstelle: indiretive Prompt Injection ist der am weitesten verbreitete Angriffsvektor gegen produktiv eingesetzte KI-Agenten.
Der Schutz besteht aus drei Ebenen, die alle drei nötig sind:
- Input-Sanitization: Eingaben werden vor der Verarbeitung geprüft und von Instruktionen getrennt. Der System-Prompt und der ausführende Kontext dürfen nicht mit dem Dokumenteninhalt in einem gemeinsamen, unkontrollierten Kontext landen.
- Output-Validierung: Was das Modell zurückgibt, wird behandelt wie nicht vertrauenswürdige Eingabe — mit Schema-Prüfung, etwa JSON-Schema oder Pydantic, statt mit String-Matching.
- Begrenzte Handlungsräume: Der Agent darf nur das tun, was sein Auftrag erfordert. Kein pauschales Schreibrecht, sondern ein allow-list-basiertes Set an Werkzeugen.
2.2 Data Poisoning in RAG-Systemen
Ein RAG-System ist nur so gut wie die Datenquellen, aus denen es speist. Wird ein unstrukturierter Netzlaufwerk kompromittiert — oder fügt ein Mitarbeiter ein manipuliertes Dokument hinzu —, liefert das System selbstbewusst falsche Antworten. Für den Anwender ist das kaum von einer korrekten Antwort zu unterscheiden. Besonders tückisch: Das System nennt Quellen, und die Quelle existiert tatsächlich.
Maßnahmen, die in der Praxis etwas bewirken:
- Least Privilege auf Pipeline-Ebene. Der Indexer darf nur lesen, was die Abfrage auch lesen darf. Ein RAG-System, das Zugriffsrechte aus dem Dokumentenbestand ableitet, verliert diese Grenze.
- Herkunfts- und Manipulationserkennung. Dokumente werden vor dem Einbetten bereinigt, mit Herkunftsnachweis versehen und auf nachträgliche Manipulation geprüft.
- Unveränderliche Abrufprotokolle. Welches Dokument wurde wann retrieved und in welcher Antwort verwendet? Ohne diesen Nachweis lässt sich im Nachhinein nicht klären, wo eine Falschaussage herkam.
2.3 Zero Trust für KI-Identitäten
Ein KI-Agent mit API-Zugriff auf ERP oder CRM ist kein Werkzeug, sondern ein Identitäts-subjekt. Er braucht eigene Credentials, eigene Protokolle, eigene Rechteprüfung. In der Praxis bedeutet das: keine pauschalen Administrator-Rechte für den Modellzugang, sondern kurzlebige Sitzungstokens, explizites API-Scoping pro Werkzeug und Human-in-the-Loop-Freigaben für sensible Transaktionen.
Diese drei Szenarien haben etwas gemeinsam, das sie von klassischen Angriffen unterscheidet: Sie zielen nicht auf die Infrastruktur, sondern auf die Entscheidungslogik. Deshalb helfen Firewall und Endpoint-Schutz allein nicht weiter. Was hilft, ist eine Architektur, die das Modell als untrusted Instanz behandelt — mit Kontrollen außerhalb des Modells, nicht in seinem Prompt.
3. Datenschutz und digitale Souveränität
Der Datenschutz ist der Teil, der in Mittelständlern am schnellsten umgesetzt wird, weil er auch ohne KI-Vorhaben eine bekannte Größe ist. Zwei Architekturmodelle haben sich in der Praxis bewährt:
- Lokale und hybride Modelle. Open-Source-Modelle auf eigener Hardware oder in einer vertraglich geschützten europäischen Private-Cloud. Damit verlässt keine Geschäftsdaten die eigene Kontrollsphäre, und die Daten werden nicht zum Training Dritter verwendet. Das ist die Antwort auf die Frage, die jeder Kunde stellt: „Was macht ihr mit meinen Daten?” — die Frage betrifft nicht nur DSGVO, sondern direkt die Ausschreibung.
- Anonymisierungspipelines. Wer externe APIs wie Microsoft Azure OpenAI oder Anthropic nutzt, maskiert vor dem Modellaufruf automatisiert Personennamen, Kundennummern und Finanzdaten. Wichtig: die Maskierung muss in der Anwendungsschicht passieren, nicht in einem Prompt — ein Prompt ist keine Datenschutzgrenze.
Der dritte Punkt wird oft unterschätzt: Auskunftspflichten gegenüber Kunden. Wer seinen Dienstleistern oder Versicherern Fragen zu Datenflüssen beantworten muss, braucht ein nachvollziehbares Dateninventar. Ein Fragebogen der Kundenversicherung ist ein unangenehmer Test der eigenen Dokumentation — aber ein vermeidbarer.
4. Governance: Was der EU AI Act bereits jetzt verlangt
Der Rechtsrahmen hat sich im Sommer 2026 verschoben. Das Digital Omnibus on AI (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) hat die Zeitpläne für Hochrisiko-Systeme gestreckt — die Kernpflichten für Transparenz und KI-Kompetenz sind aber nicht verschoben worden. Diese Unterscheidung ist der wichtigste Punkt für die Praxis.
| AI-Act-Anforderung | Gilt seit | Praxis-Umsetzung im KMU |
|---|---|---|
| KI-Kompetenz (Art. 4) | 2. Februar 2025 | Nachweisbare Schulung aller Beschäftigten, die KI-Systeme nutzen oder bedienen. Nach dem Omnibus kein fest definiertes Kompetenzniveau mehr gefordert — die Maßnahmenpflicht und die Dokumentierbarkeit bleiben. Eine Teilnahmeliste je Schulung reicht als Nachweis. |
| Transparenzpflichten (Art. 50) | 2. August 2026 | Kennzeichnung von Chatbots und Voice-Agents gegenüber Kunden, Lieferanten und Behörden. Gilt auch für KI-Agenten. KI-generierte Inhalte müssen maschinenlesbar markiert sein. Für bereits am Markt befindliche GPAI-Systeme gilt für die Markierungsanforderung eine Übergangsfrist bis 2. Dezember 2026. |
| KI-Inventar / Shadow AI | laufend | Vollständiges Verzeichnis aller im Betrieb genutzten KI-Werkzeuge, inklusive Marketing-, HR- und Buchhaltungs-SaaS, die niemand offiziell beschafft hat. Die Datenschutz-Auskunftsanfrage des Kunden ist der beste Test, ob das Inventar stimmt. |
| Hochrisiko-Anwendungen (Anh. III) | 2. Dezember 2027 | Systeme in Recruiting, Kreditprüfung, Bildung, justiziellen oder biometrischen Kontexten. Frühes Audit ist sinnvoll, weil die Anforderungen derzeit noch in Entwurf vorliegen — die Einstufung kann sich bis zum Stichtag noch ändern. |
Wichtig für die Praxis: Die Hochrisiko-Pflichten wurden verschoben, nicht abgeschafft. Wer die Verschiebung als Entwarnung liest, verliert die Vorbereitungszeit von 16 Monaten. Und für die meisten Mittelständler ist der entscheidende Punkt ohnehin nicht der Hochrisiko-Termin: Die Transparenzpflichten nach Art. 50 gelten bereits, und sie treffen praktisch jedes Unternehmen, das einen Chatbot im Einsatz hat.
Wer zudem in einem regulierten Sektor arbeitet, sollte die NIS-2-Umsetzung im Blick behalten. Seit dem 6. Dezember 2025 gilt das neue BSIG; für betroffene Unternehmen sind eine Registrierung beim BSI (bis 6. März 2026) sowie Maßnahmen in zehn Bereichen Pflicht. Ab 50 Mitarbeitern oder 10 Mio. Euro Umsatz und Bilanzsumme in einem der betroffenen Sektoren — dazu zählen unter anderem Maschinenbau, Chemie, Lebensmittel, Logistik und digitale Infrastruktur — greift die Pflicht zur Meldung erheblicher Sicherheitsvorfälle innerhalb von 24 Stunden. KI-Systeme verändern diese Pflichten nicht, sie erhöhen aber die Zahl der Systeme, die in das Risikomanagement einfließen müssen.
5. Der 4-Schritte-Fahrplan für KMU
Schritt 1: KI-Nutzungsrichtlinie festlegen
Einseitig, datiert, von der Geschäftsführung kommuniziert. Sie klärt zwei Dinge: Welche Werkzeuge sind freigegeben, und welche Datenkategorien dürfen eingegeben werden? Ohne diese Grundlage ist jede Schulung und jede technische Kontrolle ins Leere laufende Absichtserklärung. Das Dokument ist zugleich der Nachweis, den Art. 4 und die NIS-2-Verwaltungspflicht verlangen.
Schritt 2: Anbindungen absichern
Jede API, die ein Agent aufruft, bekommt eine explizite Scoping-Regel und eine Validierungsebene. Ausgaben werden geparst, nicht geraten. Für sensible Aktionen — Zahlungen, Stornos, Berechtigungsänderungen, Löschungen — gilt ein Freigabeschritt, bei dem ein Mensch entscheidet. Diese Regel sollte im Code erzwungen werden, nicht in einer Prozessbeschreibung.
Schritt 3: Mitarbeitende qualifizieren
Zwei Ebenen sind nötig. Für alle Beschäftigten: der Umgang mit KI-Werkzeugen, die Datenregeln und die Erkennung von KI-gestütztem Social Engineering — Deepfake-Audio in telefonischen Auftragsbestätigungen, Phishing-Mails mit perfekt formuliertem Tonfall, plausibel gefälschte Rechnungen. Für die IT- und Führungskräfte: die konkreten Risiken der eingesetzten Systeme und die Meldewege, wenn etwas nicht stimmt. Ein Nachweis je Schulung wird gefordert; er ist billig und im Streitfall entscheidend.
Schritt 4: Kostenfreie Angebote nutzen — mit realistischer Erwartung
Die Mittelstand-Digital Zentren bieten KMU kostenfreie Orientierung: KI-Readiness-Checks, Cybersicherheits-Checks der Transferstelle Cybersicherheit im Mittelstand, Schulungen und moderierte Pilotprojekte. Zwei Dinge sollte man wissen: Die Angebote sind ausdrücklich anbieterneutral und kostenlos — Kursgebühren sind untersagt. Und das Netzwerk wird zum Ende des Jahres 2026 in gestufenem Auslauf auslaufen, je nach Zentrum mit unterschiedlichem Enddatum. Ab 2027 startet eine neu strukturierte Netzwerk mit weniger regionalen Zentren und einem stärkeren Schwerpunkt auf IT- und Cybersicherheit. Wer jetzt einen Check machen will, sollte das tun, bevor das eigene Zentrum endet — der Bericht und die Checklisten bleiben beim Unternehmen, die Beratung nicht.
6. Die drei Fehler, die in der Praxis am häufigsten passieren
- „Wir nutzen keine KI, das betrifft uns nicht.” In fast jedem Betrieb mit mehr als 20 Mitarbeitenden nutzt mindestens jemand ein KI-Werkzeug — meistens ohne Wissen der IT. Die Richtlinie wird erst dann geschrieben, wenn bereits etwas schiefgegangen ist. Inventarisieren Sie zuerst, verbieten Sie später.
- „Der Prompt ist die Sicherheitsgrenze.” Eine Anweisung im System-Prompt gegen eine Anweisung in einem eingescannten PDF ist ein Wettrennen ohne Ende. Die prompt injection gilt laut OWASP als „no reliable general defense” — verlassen Sie sich nicht darauf, dass die Anweisung gewinnt.
- „Wir warten auf die finale Rechtslage.” Art. 4 und Art. 50 gelten bereits. Die Verschiebung der Hochrisiko-Pflichten betrifft einen anderen Teil des Gesetzes. Wer aufschiebt, riskiert bei Chatbots und Schulungen ein Bußgeld, das sich vermeiden lässt.
7. Was ein sinnvoller Start in 30 Tagen aussieht
Wer jetzt beginnen will, muss keine Grundsatzdebatte führen. Diese Reihenfolge funktioniert erfahrungsgemäß:
- Woche 1: Bestandsaufnahme aller KI-Werkzeuge. In der Praxis ein Nachmittag mit einer Liste und einem Blick in die Browser-Historie der Belegschaft.
- Woche 2: Richtlinie und Datenfreigabeliste als einseitiges Dokument, von der Geschäftsführung freigegeben und verteilt.
- Woche 3: Prüfung der riskantesten Stelle — in der Regel der Agent, der auf ERP oder Dokumente zugreift. Rechte prüfen, Scoping setzen, Human-in-the-Loop für sensible Aktionen.
- Woche 4: Erste Schulung mit Nachweis. Parallel den kostenfreien KI-Readiness-Check im Mittelstand-Digital Zentrum oder den Cybersicherheits-Check der Transferstelle anstoßen.
Danach folgt die Vertiefung: Logging, Monitoring, Kostenkontrolle pro Werkzeug, und — falls relevant — die Einordnung der eigenen Systeme in die Hochrisiko-Kategorien, die ab Dezember 2027 greifen.
8. Fazit
KI-Sicherheit ist kein Zusatz zum Projekt, sondern eine Voraussetzung dafür, dass KI im Mittelstand überhaupt Skalierung erreicht. Die drei Säulen — technische Absicherung, Datenschutz und Souveränität, Governance — müssen nicht perfekt sein. Sie müssen vorhanden und dokumentiert sein. Und sie müssen in der Reihenfolge entstehen, in der Risiken entstehen: erst handelnde Systeme absichern, dann Datenflüsse kontrollieren, dann die Governance-Artefakte schreiben, die ohnehin gefordert sind.
Der größte Hebel für den Mittelstand ist nicht der teure Tools-Vergleich, sondern der ehrliche Hinweis an die eigene Belegschaft: KI-Einsatz ist jetzt erlaubt — unter bestimmten Regeln, die wir gemeinsam festlegen. Unternehmen, die das 2026 tun, haben im nächsten Jahr einen Vorsprung, weil sie die Nachweise bereits haben, wenn Kunden, Versicherer und Prüfer nachfragen.
Hinweis: Dieser Beitrag ist eine technische und organisatorische Einordnung, keine Rechtsberatung. Für verbindliche Auskünfte zu AI Act, NIS-2, DSGVO und Produkthersteller-Verträgen sind die jeweiligen Behörden (BSI, Datenschutzaufsichtsbehörden, AI Office) und eine auf IT-Recht spezialisierte Kanzlei maßgeblich. Angaben zu Fristen beziehen sich auf den Stand Oktober 2026 und können sich durch die laufende Umsetzung der Digital-Omnibus-Änderungen noch verschieben.

