Lokale KI: Sicherheit & Disaster Recovery für den Mittelstand



Lokale KI · Mittelstand · 2026

Sicherheit & Disaster Recovery für lokale KI

Ein praxisnahes Betriebskonzept für KI, die im eigenen Rechenzentrum läuft –DSGVO-konform, ausfallsicher und mit klar definierten Wiederherstellungszielen.

● DSGVO / GDPR-konform
● Air-Gap-fähig
● On-Premises / EU-Hosting
FokusSicherheit + Resilienz
ZielgruppeKMU 10–500 MA
Zeithorizont90 Tage
StandNovember 2026

Warum lokale KI?

Datensouveränität ja – aber die Verantwortung bleibt bei Ihnen

Lokale KI verlagert Modelle, Prompts und Dokumente aus der Cloud in Ihre Infrastruktur. Damit entfallen externe Datenabflüsse – gleichzeitig übernehmen Sie Security, Patch-Management und Wiederherstellung selbst. Ein sauberes Konzept ist kein Optional, sondern die Betriebsvoraussetzung.

Keine Datenabflüsse

Inferenz, Index und Prompts bleiben im eigenen Netz – auch offline nutzbar.

DSGVO & Auditierbarkeit

Verarbeitung im EU-Rechtsraum, nachvollziehbare Logs und klare Verantwortlichkeiten.

Planbare Verfügbarkeit

Definierte RTO/RPO statt Hoffnung – Ausfälle werden beherrschbar, nicht zur Krise.

Risikobild

Zwei Risikowelten, ein Betrieb

Sicherheit schützt vor unbefugtem Zugriff und Missbrauch. Disaster Recovery stellt die Verfügbarkeit nach Ausfällen wieder her. Beides muss zusammen gedacht werden – ein verschlüsseltes Backup ohne Restore-Test ist wertlos.

Sicherheit Vertraulichkeit & Integrität
  • Prompt-Injection & Datenexfiltration
  • Unbefugter Zugriff auf Modelle & Vektor-DB
  • Supply-Chain-Risiken bei Modellgewichten
  • Fehlende Audit-Trails bei KI-Entscheidungen
Disaster Recovery Verfügbarkeit & Wiederherstellung
  • Hardwareausfall von GPU oder NAS
  • Ransomware & versehentliches Löschen
  • Strom- und Netzwerkausfall
  • Ungetestete oder veraltete Backups

Referenzarchitektur

Landebild: Security by Layers, Resilience by Design

Jede Ebene trägt ihre eigenen Kontrollen. Grün markierte Bausteine sichern Vertraulichkeit, blau markierte sichern Wiederherstellbarkeit.

1Clienten
Web-UIAPI-ClientsInternes PortalTerminal
2Zugriff
SSO + MFARBACReverse ProxyTLS / mTLSRate-LimitAudit-Log
3KI-Dienste
Ollama / vLLMRAG-PipelinePrompt-GuardrailsOutput-FilterChromaDB
4Daten
Verschlüsselte DokumenteVektor-Index (versioniert)Modellgewichte (lokal)
5Infrastruktur
NAS mit RAID3-2-1 BackupOffline-KopieUPSNetz-Segmentierung
Sicherheitskontrolle
Resilienz-Kontrolle
Betriebskomponente

Teil 1 · Sicherheit

Sechs Kontrollen für den sicheren Betrieb

Netzwerk-Isolation

KI-Hosts in eigenes VLAN, kein direkter Internet-Zugriff; optional Air-Gap oder einseitige Datenbrücke.

Identität & Zugriff

SSO, MFA und rollenbasierte Rechte (RBAC); Zugriff auf Modelle und Index nach Need-to-know.

Datenschutz

Verschlüsselung im Ruhezustand und in Transit, EU-Verarbeitungsort, AVV und TOM dokumentiert.

Application Security

Prompt-Injection-Tests, Eingabe-Validierung und Output-Filter gegen Datenleck und Missbrauch.

Supply Chain

Modellquellen prüfen, Hashes fixieren, Dependencies pinnen, Offline-Mirror für Updates.

Logging & Response

Zentrale, manipulationssichere Logs für Prompts und Zugriffe; klarer Incident-Prozess.

Teil 2 · Disaster Recovery

Wiederherstellung, die man nachweisen kann

Die 3-2-1-Regel ist das Fundament: drei Kopien, zwei Medien, eine außer Haus bzw. offline. Ergänzt um definierte Ziele und regelmäßige Restore-Tests.

3
Kopien
Produktiv + 2 Backups, mindestens eine unveränderbar (immutable).
2
Medien
Lokales NAS und zweites Ziel (Tape, externes NAS oder EU-Cloud).
1
Offsite / Offline
Getrennt vom Produktivnetz – Schutz vor Ransomware und Ausfall des Standorts.

Wiederherstellungsziele

Klasse Beispiele RTO RPO Backup
Kritisch Produktions-RAG, Kundendaten ≤ 4 h ≤ 15 min Stündlich + Replikation
Wichtig Internes Wissensportal, OCR ≤ 24 h ≤ 24 h Täglich, versioniert
Normal Dev/Test-Modelle, Prototyping ≤ 72 h ≤ 7 Tage Wöchentlich
RTO/RPO sind Richtwerte und werden gemeinsam mit den Fachbereichen validiert und freigegeben. Kritische Systeme benötigen zusätzlich eine getestete Fallback-Strategie.

Ablauf im Ernstfall

01
Erkennen

Monitoring Alarm

02
Isolieren

Betroffenes Segment trennen

03
Wiederherstellen

Letzten sauberen Stand zurückspielen

04
Validieren

Integrität & Antwortqualität prüfen

05
Wiederaufnehmen

Go-Live & Postmortem

Umsetzung

Praktische Checkliste

Ein kontrollierbarer Mindeststandard – geeignet als Abnahmekriterium für IT und Fachbereich.

Sicherheit
  • Netzsegmente getrennt, KI-Hosts ohne direkten Internet-Zugriff
  • SSO, MFA und rollenbasierte Zugriffe aktiv
  • Modell-, Index- und Dokumentdateien verschlüsselt
  • Prompt-Injection-Tests und Output-Filter etabliert
  • Modellquellen und Dependencies gepinnt / gehasht
  • Audit-Logs zentral und manipulationssicher gespeichert
Disaster Recovery
  • 3-2-1-Regel umgesetzt, Offline-Kopie vorhanden
  • Backups automatisiert, versioniert und unveränderbar
  • Restore mindestens quartalsweise getestet
  • RTO/RPO je System dokumentiert und freigegeben
  • UPS und geordnetes Herunterfahren konfiguriert
  • Incident-Runbook und Verantwortliche benannt

90-Tage-Fahrplan

Von der Bestandsaufnahme zum Regelbetrieb

Phase 1 · Tag 1–30

Bestandsaufnahme & Baseline

  • Systeme, Datenklassen und Abhängigkeiten erfassen
  • Schutzziele und RTO/RPO mit Fachbereichen definieren
  • Referenzarchitektur und Verantwortlichkeiten festlegen
Phase 2 · Tag 31–60

Härtung & Backup

  • Netz-Segmentierung, SSO/MFA und RBAC umsetzen
  • 3-2-1-Backup und Immutable-Kopie einrichten
  • Guardrails, Logging und Prompt-Tests integrieren
Phase 3 · Tag 61–90

Test, Dokumentation & Betrieb

  • Restore- und Failover-Test mit Zeitmessung
  • Runbooks, TOM und DSGVO-Dokumentation finalisieren
  • Monitoring, Reporting und Schulung übergeben

Nächster Schritt

Lassen Sie Ihren KI-Betrieb belastbar machen

In einem 30-minütigen Erstgespräch prüfen wir Ihre Architektur, Prioritäten und den realistischen Zeitplan.

Lei Ning

Lei Ning
Senior IT Consultant | Java Developer | AI Engineer
Lokale KI / OllamaRAG & Vektor-DBDSGVO / TOM
SicherheitsarchitekturBackup & DRJava Enterprise