Dieser Beitrag ist auch auf Englisch verfügbar: Local AI for German SMEs: The 10-Day Proof of Concept in Detail
Dieser Beitrag beschreibt, wie ein datenschutzkonformer Proof of Concept für lokale KI im Mittelstand konkret abläuft: zehn Werktage, feste Kriterien, messbare Ergebnisse — und welche regulatorischen und technischen Fallstricke dabei entscheidend sind.
Viele Unternehmen im Mittelstand stehen vor demselben Konflikt: Text- und Dokumentenverarbeitung soll automatisiert werden, aber Vertragsgeheimnisse, Kundendaten und interne Unterlagen dürfen nicht in fremde Infrastruktur wandern. Der folgende PoC-Plan beschreibt einen Weg, der diesen Konflikt auflöst — mit vollständig lokal betriebenen Open-Source-Modellen, ohne Cloud, ohne Tokenkosten.
Der wichtigste Grundsatz dabei: Der PoC soll nicht beweisen, dass lokale Modelle Weltklasse-Modelle übertreffen. Er soll belegen, dass sie für den konkreten Fachprozess gut genug, belegbar und wirtschaftlich sind. Diese Unterscheidung ist der Unterschied zwischen einem belastbaren Projekt und einer Enttäuschung.
1. Der PoC auf einen Blick
- Laufzeit: 10 Werktage, zwei Kalenderwochen, durchschnittlich 4 Stunden Fachberatung pro Tag
- Umfang: bis 100 interne Dokumente im Vektorindex
- Ergebnis: lauffähiges System im Kundennetz, Benchmark-Report, Compliance-Paket, Entscheidungsvorlage für den Rollout
Die drei Kernaussagen für die Geschäftsführung
- Kein Datentransfer. Inhalte verlassen das Unternehmen nicht. Damit entfallen Übermittlung an Dritte, Drittlandtransfer und die dazugehörige Dokumentationspflicht.
- Planbare Kosten. Einmalige Hardware statt variabler Token-Rechnung — Abschreibung über drei bis fünf Jahre statt Kosten pro Anfrage.
- Überprüfbar, keine Blackbox. Jede Antwort wird gegen die zitierte Textstelle geprüft. Modell, Daten und Logs sind vollständig einsehbar.
2. Zweck und Abgrenzung
Der PoC beantwortet genau vier Entscheidungsfragen. Alles andere ist nicht Teil des Auftrags.
- Qualität: Erreicht ein lokales Modell auf unseren Dokumenten eine fachlich akzeptable Trefferquote?
- Akzeptanz: Nehmen die Fachanwender das Werkzeug an, und passt es in den bestehenden Prozess?
- Aufwand: Welche Zeitersparnis lässt sich belastbar messen, und wie hoch ist der Betriebsaufwand?
- Risiko: Welche rechtlichen und organisatorischen Pflichten entstehen — und sind sie beherrschbar?
Was bewusst nicht Teil des PoC ist
- Vollautomatisierte Entscheidungen mit Rechtswirkung (Art. 22 DSGVO), etwa eine automatische Kreditentscheidung oder Bewerberablehnung.
- Hochrisiko-Anwendungen nach Anhang III — Personalauswahl, Scoring, Bildung, kritische Infrastruktur. Diese erfordern ein eigenes Konformitätsprogramm.
- Fine-Tuning auf Kundendaten — frühestens in Phase zwei, nach eigener Rechtsbewertung.
- Produktivintegration in ERP, DMS oder CRM, Hochverfügbarkeit und SLA.
- Beschaffung von Hardware — Empfehlung und Spezifikation ja, Beschaffung durch den Kunden.
Wichtig zur Erwartungshaltung: Ein lokales 14B- bis 32B-Modell erreicht nicht die Qualität eines frontier Cloud-Modells bei komplexen Mehrschritt-Schlussfolgerungen. Es erreicht typischerweise sehr gute Ergebnisse beim Auffinden und Zusammenfassen von Passagen, bei Fragen zu explizit im Text genannten Fakten und bei der Extraktion klar benannter Felder. Schwächer ist es bei impliziten Wertungen, juristischer Auslegung und mehrstufigem Rechnen. Der PoC misst deshalb gegen vorab vereinbarte Abnahmekriterien — nicht gegen die Erwartung „wie ChatGPT”.
3. Welche Unternehmen passen
Drei tragfähige Profile
Profil A — Vertragsdichte. 20 bis 250 Mitarbeitende, Maschinenbau, Anlagenbau, Bau, Zulieferer. Der Schmerz: Hunderte Lieferanten-, Wartungs- und Rahmenverträge; das Wiederfinden von Kündigungsfristen, Haftungsobergrenzen und Preisanpassungsklauseln kostet Fachabteilung und Justiziariat Stunden.
Profil B — Technische Dokumentation. 50 bis 500 Mitarbeitende, produzierendes Gewerbe und Anlagen-Service. Der Schmerz: Handbücher, Normen, Prüfprotokolle und Ersatzteilkataloge in Deutsch und Englisch; Service-Techniker und Innendienst suchen manuell, und das Know-how sitzt in den Köpfen Einzelner.
Profil C — Regulierte Dienstleistung. Steuerberatung, Wirtschaftsprüfung, Immobilienverwaltung, Versicherungsmakler. Der Schmerz: Mandantenakten und Gutachten sind hochsensibel, Cloud-Werkzeuge sind rechtlich ungeklärt — trotzdem ist der Entlastungsbedarf bei Recherche und Datenübernahme hoch.
Qualifizierung vor Angebotsabgabe
Ein PoC wird nur angeboten, wenn alle folgenden Kriterien erfüllt sind:
- Dokumentenbestand vorhanden und strukturiert: mindestens 200 Seiten, einheitliche Hauptsprache, digital oder scannbar
- Wiederkehrender Prozess mit messbarer Ist-Zeit: mindestens zehn Vorgänge pro Monat
- IT-Freigabe und namentlich benannter interner Champion mit mindestens vier Stunden pro Woche
- Hardware verfügbar oder in maximal zehn Werktagen beschaffbar
- Keine Anhang-III-Einstufung des Use Case
- Betriebsrat geklärt oder nicht vorhanden — schriftliche Bestätigung, dass keine Verhaltens- oder Leistungsüberwachung erfolgt
Nicht angeboten werden Einsätze zur Bewertung oder Auswahl von Beschäftigten, Scoring von Personen, Video- oder Audioüberwachung und Emotionserkennung am Arbeitsplatz sowie Anwendungen, die eine vollautomatische Entscheidung ohne Freigabeinstanz voraussetzen.
4. Use-Case-Auswahl und Risikoklassifizierung
Bewertungskriterien für Kandidaten
Jeder Kandidat wird mit ein bis fünf Punkten je Kriterium bewertet, gewichtet nach Bedeutung. Ab einer Gesamtpunktzahl von 22 ist der Use Case PoC-tauglich. Gewichtet werden unter anderem Wiederholrate, heutiger Zeitaufwand, Datenzugänglichkeit, Fehlertoleranz, Prüfbarkeit, regulatorische Last und Anbindbarkeit an ein Zielsystem.
Vier konkrete PoC-Use-Cases
| Use Case | Eingabe | Ausgabe | Erfolgsmaß |
|---|---|---|---|
| UC-1 Vertragsauskunft | Frage in Alltagssprache plus Vertragsbestand | Antwort mit Quellenangabe (Dokument, Seite, Passage) | Trefferquote ≥ 75 %, Belegtreue ≥ 90 % |
| UC-2 Vertragssteckbrief | Vertrags-PDF | JSON mit Parteien, Laufzeit, Kündigungsfrist, Haftung, Wert | Datums- und Parteienfelder ≥ 95 % Exact Match |
| UC-3 Technische Auskunft | Frage des Service-Teams plus Handbücher und Normen | Antwort mit Fundstelle, gemischt deutsch und englisch | Trefferquote ≥ 70 %, keine erfundenen Normverweise |
| UC-4 Dokumenten-Vorprüfung | Eingangsdokument | Vollständigkeitsprüfung gegen Pflichtfeldkatalog | Erkennung ≥ 85 %, Recall ≥ 80 % |
Die regulatorische Ampel — der wichtigste Filter
Der aktuelle Rechtsstand zum 30. September 2026 hat sich durch den Digital Omnibus on AI (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) verschoben. Das ändert die Priorisierung erheblich:
| Regime | Status | Bedeutung für den PoC |
|---|---|---|
| Art. 4 — KI-Kompetenz | In Kraft seit 2. Februar 2025 | Pflicht für jede Organisation, die KI nutzt. Der Schulungsnachweis ist deshalb PoC-Bestandteil. |
| Art. 50 — Transparenzpflichten | Durchsetzbar seit 2. August 2026 | Bei Dialogoberflächen muss erkennbar sein, dass ein KI-System antwortet. Wird in Oberfläche und Betriebskonzept umgesetzt. |
| Anhang III — Hochrisiko (Personal, Scoring, Bildung, kritische Infrastruktur) | Verschoben auf 2. Dezember 2027 | Die Verschiebung ist kein Freibrief: ein Konformitätsaufbau dauert zwölf bis achtzehn Monate. |
| Anhang I — Hochrisiko in regulierten Produkten | Verschoben auf 2. August 2028 | Relevant für Kunden aus Maschinenbau und Medizintechnik. |
| GPAI-Durchsetzung | In Kraft seit 2. August 2026 | Betrifft Modellbereitsteller, nicht den Anwender. |
Der Omnibus ändert wann etwas gilt, nicht was gilt. Sanktionsrahmen und Pflichtenumfang bleiben unverändert. Für Unternehmen mit Anhang-III-nahen Vorhaben ist die Fristverlängerung ein Zeitfenster, kein Aufschub.
5. Architektur und Hardware
Aufbau in drei Ebenen
Ebene 1 — Oberfläche. Lokal erreichbare Weboberfläche mit zwei Bereichen: Dokumenten-Q&A mit Quellenangabe und strukturierte Extraktion mit JSON-Ausgabe. Transparenzhinweis nach Art. 50 AI Act direkt in der Oberfläche.
Ebene 2 — Orchestrierung und RAG. Dokumentenaufbereitung, Vektordatenbank und Abruf-Pipeline mit Reranking. Mehrsprachige Embeddings, damit deutsche und englische Dokumente im selben Index liegen. Fachglossar aus dem eigenen Bestand.
Ebene 3 — Inferenz. Lokale Modelle auf dedizierter Hardware im Hausnetz, im Offline-Betrieb. Die Firewall-Regel lautet: alle ausgehenden Verbindungen verweigern. Der Nachweis wird als Betriebsprotokoll übergeben.
Hardware-Varianten
| Variante | Konfiguration | Modell-Obergrenze | Richtpreis netto |
|---|---|---|---|
| D — Bestand | Vorhandene Workstation ab 12 GB VRAM oder Mac ab 24 GB Unified Memory | 7B bis 14B | 0 € |
| A — Workstation (empfohlen) | RTX 5090 mit 32 GB oder RTX 4090 mit 24 GB, 64 bis 128 GB RAM, 2 TB NVMe, Linux | 14B komfortabel, bis 32B | 5.500 – 8.500 € |
| B — GPU-Server | Rack-Server mit RTX 6000 Ada 48 GB oder 2× L40S, 128 bis 256 GB ECC | 32B komfortabel, 70B teilweise | 12.000 – 18.000 € |
| C — Mac Studio | M4 Max oder M3 Ultra, 64 bis 128 GB Unified Memory | bis 70B | 5.000 – 7.500 € |
Empfehlung: PoC-Start auf Variante D, damit sofort begonnen werden kann und kein Beschaffungsrisiko entsteht. Zielbetrieb auf Variante A. Variante C ist die richtige Wahl, wenn weder Serverraum noch IT-Betrieb für Linux-GPU-Hardware vorhanden sind — dann betreibt der Kunde faktisch einen Arbeitsplatzrechner statt eines Servers, was die interne Freigabe erheblich verkürzt.
Die Modellwahl wird im PoC empirisch entschieden: zwei Kandidaten werden auf derselben Hardware gegeneinander gemessen, die Entscheidung fällt anhand der Messwerte — nicht anhand von Rankings aus dem Internet.
6. Compliance-Paket
Rollen und Rechtsgrundlagen
| Frage | Antwort im On-Premise-Szenario |
|---|---|
| Drittlandtransfer? | Nein. Keine Datenübermittlung an Dritte, Art. 44 ff. DSGVO wird nicht ausgelöst. |
| Auftragsverarbeitung durch Cloud-Anbieter? | Entfällt, da kein externer Verarbeiter der Inhalte existiert. |
| Auftragsverarbeitungsvertrag mit dem Berater? | Erforderlich, sobald während des PoC Zugang zu personenbezogenen Daten entsteht. Alternative: PoC-Datenumfang auf nicht personenbezogene Dokumente begrenzen und sensible Felder pseudonymisieren. |
| Datenschutz-Folgenabschätzung? | Bei reiner Dokumentenrecherche in der Regel nicht erforderlich. Bei personenbezogener Profilbildung, auch mittelbarer, ja — dann wird der Use Case neu bewertet. |
Technische und organisatorische Maßnahmen
Technisch: ausgehende Verbindungen generell verweigern mit Nachweis im Firewall-Log; Verschlüsselung at rest und verschlüsseltes Backup; Zugriff nur lokal oder über authentifizierten Reverse-Proxy im Intranet; rollenbasierter Zugriff auf getrennte Indizes pro Abteilung; Protokollierung von Anfragen und Antworten mit definiertem Löschkonzept.
Organisatorisch: benannter Verantwortlicher je Rolle; Zugriffsliste mit Eintritts- und Austrittsprozess; ein Verzeichnis aller KI-Anwendungen als erste Version eines KI-Registers; Schulungsnachweis nach Art. 4 AI Act; definierter Umgang mit Modellfehlern inklusive Eskalation.
Betriebsrat und Mitbestimmung
Mitbestimmung nach § 87 BetrVG kann ausgelöst werden, wenn ein System Verhalten oder Leistung von Beschäftigten überwachen kann. Reine Dokumentenrecherche löst das typischerweise nicht aus — personenbezogene Nutzungsstatistiken tun es sehr wohl. Die Konsequenz für den PoC: es wird der Prozess ausgewertet, nicht die Person. Als Ergebnis entsteht ein Entwurf für eine Betriebsvereinbarung für den späteren Rollout.
Dokumentenpaket zum Projektabschluss
- Risikoklassifizierung des Use Case nach DSGVO und AI Act, mit Nachweis des Rechtsstands
- Maßnahmenkatalog und technische Beschreibung der Datenflüsse
- Eintrag im KI-Register, orientiert an der Struktur des Anhangs IV
- Musterrichtlinie für Mitarbeitende
- Schulungsunterlage zum sicheren Umgang mit der lokalen KI
- Auftragsverarbeitungsvertrag oder Erklärung zur Datenabgrenzung
- Entwurf einer Betriebsvereinbarung, falls ein Betriebsrat vorhanden ist
7. Der 10-Tage-Plan
Zeitmodell: zwei Kalenderwochen, zehn Werktage, vier Stunden Fachberatung pro Tag. Aufwände des Kunden sind separat ausgewiesen. Jeder Tag hat ein Exit-Kriterium — ohne dessen Erfüllung beginnt der Folgetag nicht.
Tag 1 — Kick-off, Scope-Lock und Abnahmekriterien
Workshop mit Geschäftsführung, IT-Leitung und Fachbereichsverantwortlichem. Festlegung des einen PoC-Use-Case, des Datenumfangs, der Erfolgsschwellen, der Rollen und des Auswertungsumfangs. Die Risikoklassifizierung wird dokumentiert und die Projektcharta von allen Seiten freigegeben.
- Der Kunde liefert: Teilnehmende, benannter Champion, Zugang zu drei bis fünf Beispieldokumenten.
- Exit-Kriterium: unterzeichnete Charta mit eingefrorenen Abnahmekriterien. Änderungen danach nur als Change Request mit Aufwandswirkung.
Tag 2 — Datenübernahme, Klassifizierung, Inventar personenbezogener Daten
Übernahme des Dokumentensets mit bis zu 100 Dokumenten, Prüfung der Textqualität, Klassifizierung nach Abteilung und Vertraulichkeit. Erstellung eines Inventars personenbezogener Felder. Entscheidung: vollständige Übernahme oder Pseudonymisierung sensibler Felder. Ablage ausschließlich auf der Zielhardware.
- Der Kunde liefert: Dokumentenset, Datenklassifizierung, Freigabe der Übernahme, Angabe der Dateieigentümer je Bereich.
- Exit-Kriterium: Datenpaket liegt lokal vor, Inventar und Datenflussbeschreibung sind erstellt.
Tag 3 — Aufbereitung, OCR, Prüfsatz einfrieren
OCR-Aufbereitung gescannter Bestände mit Qualitätsstichprobe, Definition der Chunking-Strategie. Erstellung und Einfrieren des Prüfsatzes: 40 Fragen mit dokumentierter Musterantwort und Fundstelle sowie 25 Extraktionsfälle mit manuell verifizierter Ground Truth.
- Der Kunde liefert: Fachexperte für zwei Stunden zur Verifikation der Fragen.
- Exit-Kriterium: eingefrorener Evaluationsdatensatz. Ohne ihn ist jede spätere Qualitätsaussage wertlos.
Tag 4 — Installation der Engine, Rohbenchmark, Air-Gap-Nachweis
Installation der Inferenz-Engine, zweier Modellkandidaten sowie der Embedding- und Reranker-Modelle. Rohleistungsmessung: Tokens pro Sekunde, Erst-Token-Latenz, Speicherverbrauch, Verhalten bei langen Kontexten. Konfiguration und Nachweis des Offline-Betriebs.
- Der Kunde liefert: Zugang zur Hardware mit Administratorrechten, IT-Kontakt für die Firewall-Regel.
- Exit-Kriterium: laufende Engine, Leistungsprotokoll, Air-Gap-Nachweis, datenbasierte Modellvorauswahl.
Tag 5 — Vektorindex und Retrieval-Tuning
Aufbau des Vektorindex, Iteration über Chunk-Größe, Anzahl der abgerufenen Passagen und Reranking. Aufbau eines Fachglossars aus den Dokumenten. Prompt-Templates mit strikter Quellenbindung und explizitem Verhalten für „nicht im Dokument enthalten”. Erste Qualitätsmessung gegen den Prüfsatz.
- Exit-Kriterium: Trefferquote im Zielkorridor, Modellentscheidung getroffen und dokumentiert.
Tag 6 — Oberfläche und Mapping auf das Zielsystem
Anpassung der Oberfläche, Bediensprache, Exportfunktionen. Mapping des JSON-Ausgabeschemas auf die Felder des Zielsystems inklusive Beispieldatei für den späteren Import.
- Der Kunde liefert: Feldliste des Zielsystems, zwei bis drei Anwender für Kurzfeedback.
- Exit-Kriterium: demo-fähige Oberfläche im Kundennetz, dokumentiertes Zielsystem-Schema.
Tag 7 — Strukturierte Extraktion und Validierung
Umsetzung der Feldextraktion über ein festes Schema. Plausibilitätsregeln für Datumslogik, Betragsformate und Währungen. Entscheidend: fehlende Felder bleiben leer, statt Werte zu erfinden. Freigabeschritt durch einen Menschen. Messung der Feldgenauigkeit gegen die 25 verifizierten Fälle.
- Der Kunde liefert: Fachexperte für eine Stunde zur Bewertung von zehn Extraktionsergebnissen.
- Exit-Kriterium: Extraktionsprotokoll mit Feldgenauigkeit, Recall kritischer Klauseln und Halluzinationsquote.
Tag 8 — Vollständiger Benchmark, Belastungs- und Negativtests
Kompletter Testlauf gegen den eingefrorenen Prüfsatz. Zusätzlich Negativtests: Fragen ohne Antwort im Bestand, widersprüchliche Dokumente, Prompt-Injection-Versuche über Dokumentinhalte, Mehrsprachigkeit, Stresstest mit 20 Dokumenten in einer Sitzung, Verhalten bei sehr langen Dokumenten.
- Exit-Kriterium: Messbericht mit allen Kennzahlen und Bewertung gegen die Abnahmekriterien — erreicht oder nicht erreicht.
Tag 9 — Betriebskonzept, Risikoworkshop, Schulung
Definition des Freigabeprozesses für Modellausgaben, Protokollierung und Aufbewahrung, Modell-Update- und Rückrollprozess, Backup und Wiederanlauf. Erstellung des KI-Register-Eintrags und der Musterrichtlinie. Durchführung der Kurzschulung für die Anwender nach Art. 4 AI Act.
- Der Kunde liefert: Schulungsteilnehmende, Datenschutzbeauftragter für 45 Minuten.
- Exit-Kriterium: Betriebs- und Governance-Konzept, Schulungsnachweis, vollständiger Compliance-Anhang.
Tag 10 — Executive-Präsentation, Abnahme, Entscheidungsvorlage
45-Minuten-Demo vor Geschäftsführung und Fachbereich. Vorlage des Benchmark-Reports und der Wirtschaftlichkeitsrechnung. Übergabe von Quellcode, Installationsskripten und Betriebshandbuch. Präsentation der Rollout-Szenarien mit Aufwand und Kosten. Abnahmeprotokoll und Entscheidung über Phase zwei.
- Exit-Kriterium: Abnahmeprotokoll, Benchmark-Report, Entscheidungsvorlage, vollständige Übergabe.
8. Messmethodik und Abnahmekriterien
Alle Kennzahlen werden auf dem am Tag 3 eingefrorenen Prüfsatz gemessen, auf fester Hardware und mit fixierter Modellversion. Jede Messung wird dreimal wiederholt, angegeben wird der Median.
| Kennzahl | Schwelle | Kommentar |
|---|---|---|
| Antwortkorrektheit | ≥ 75 % | Kernkriterium, Bewertung durch Fachexperten |
| Belegtreue | ≥ 90 % | Wichtiger als Korrektheit: eine falsche Aussage muss als unbelegt erkennbar sein |
| Abstinenzfähigkeit | ≥ 90 % | Fragen ohne Antwort im Bestand werden korrekt zurückgewiesen |
| Feldgenauigkeit Datums- und Parteienfelder | ≥ 95 % | Diese Felder sind maschinell prüfbar und dürfen nicht raten |
| Feldgenauigkeit gesamt | ≥ 85 % | Freitextfelder senken den Wert naturgemäß |
| Recall kritischer Risikoklauseln | ≥ 70 % | Assistenzfunktion, kein Vollständigkeitsanspruch |
| Halluzinationsquote | ≤ 3 % | Harte Obergrenze, deren Überschreitung ein Abbruchkriterium ist |
| Latenz p95 | ≤ 8 s | 14B-Modell auf GPU-Workstation |
| Durchsatz | ≥ 15 Tokens/s | Unter 10 Tokens/s ist die Akzeptanz erfahrungsgemäß gefährdet |
| Zeitersparnis | ≥ 50 % | Mit Protokoll belegt, nicht geschätzt |
| Ausgehende Netzwerkverbindungen im Betrieb | 0 | Nachweis über Firewall- und Verbindungslog |
Wird eine Schwelle knapp verfehlt, wird zuerst die Ursache bestimmt: Datenqualität, Retrieval oder Modellfähigkeit. Je nach Befund folgen Datenaufbereitung, nachgeschärftes Retrieval oder eine ehrliche Empfehlung, diesen Use Case nicht weiterzuverfolgen.
9. Aufwand und Kosten
Das PoC-Paket wird als Festpreis über zwei Wochen angeboten. Die Höhe richtet sich nach dem Projektumfang — maßgeblich sind Dokumentenmenge, Anteil gescannter Unterlagen, Anzahl der Zielsysteme, Mehrsprachigkeit und der gewünschte Compliance-Umfang. Nach dem Erstgespräch erhalten Sie ein verbindliches Festpreisangebot mit aufgeschlüsseltem Leistungsumfang.
| Bestandteil | Leistungsumfang | Konditionen |
|---|---|---|
| 2-Wochen-PoC-Paket | Bis 40 Stunden Fachberatung, lokale Pipeline, Modell-Setup, Vektorindex, Oberflächenanpassung, Indexierung bis 100 Dokumente, eingefrorener Prüfsatz, Benchmark-Report, Wirtschaftlichkeitsrechnung, Compliance-Anhang, KI-Register, Musterrichtlinie, Schulung, Executive-Präsentation und vollständige Übergabe | Festpreis nach Projektumfang |
| Hardware | Spezifikation und Beschaffungsempfehlung inklusive, Beschaffung und Eigentum beim Kunden | durchlaufend |
| Optionale Zusatzpositionen | OCR-Aufbereitung gescannter Altbestände, Erweiterung des Dokumentenbestands, Datenschutz-Dokumentation inklusive Auftragsverarbeitungsvertrag, Vor-Ort-Tag | nach Aufwand |
Alle Beträge netto zuzüglich gesetzlicher Umsatzsteuer. Die vereinbarte Vergütung ist ein Festpreis und gilt bei Erfüllung der Mitwirkungspflichten; Verzögerungen durch den Kunden verschieben den Zeitplan, nicht den Preis. Zusatzpositionen werden vorab abgestimmt und gesondert ausgewiesen.
Wirtschaftlichkeit (Modellrechnung)
Bei 25 Wissensarbeitenden liegen typische Cloud-Kosten für KI-gestützte Textverarbeitung je nach Nutzungsintensität im Bereich von 6.000 bis 9.000 Euro pro Jahr. Dem steht eine einmalige Hardware-Investition von rund 7.500 Euro gegenüber, bei Strom- und Betreuungsaufwand von etwa 1.500 Euro pro Jahr. Daraus ergibt sich ein Break-even gegenüber der Cloud-Nutzung nach etwa 12 bis 20 Monaten. Der einmalige Aufwand für Konzeption und PoC ist darin nicht eingerechnet.
Das ist eine Modellrechnung mit Annahmen, keine Zusage. Bei geringer Nutzungsintensität ist die Cloud wirtschaftlicher — das ist ein legitimes Ergebnis und wird offen kommuniziert.
10. Risiken und Abbruchkriterien
| Risiko | Gegenmaßnahme im Plan |
|---|---|
| Hardware nicht rechtzeitig beschafft | Start auf Bestandshardware, Zielhardware parallel beschaffen; Modellentscheidung erst nach Hardware-Verfügbarkeit fixieren |
| Scans ohne Textebene, schlechte OCR-Qualität | OCR ist bereits an Tag 3 eingeplant, mit Stichprobenprüfung vor dem Einfrieren des Prüfsatzes |
| Erwartungshaltung „wie ChatGPT” | Abnahmekriterien schriftlich an Tag 1, ehrliche Messung statt Demo-Tricks |
| Scope Creep | Scope-Lock an Tag 1, Change-Request-Prozess, Backlog für Phase zwei |
| Kein interner Eigentümer, PoC versandet | Champion bereits in der Qualifizierung verpflichtend, Betriebshandbuch und Schulung als Übergabe an die IT |
| Betriebsrat oder Datenschutz blockiert | Frühe Einbindung, Verzicht auf personenbezogene Nutzungsauswertung, Entwurf Betriebsvereinbarung |
| Fachterminologie nicht abgedeckt | Glossar aus dem Dokumentenbestand, Few-Shot-Beispiele, Fine-Tuning als Phase-2-Option |
| Datenabfluss durch Fehlkonfiguration | Alle ausgehenden Verbindungen verweigern, Verschlüsselung, Verbindungslog, Vier-Augen-Prinzip |
Abgebrochen wird, wenn die Antwortkorrektheit nach Tag 8 trotz Tuning unter 60 Prozent bleibt, wenn die Halluzinationsquote nicht unter 3 Prozent beherrschbar ist, wenn sich der Dokumentenbestand als unbrauchbar erweist, wenn der Use Case nachträglich als Anhang-III-Anwendung eingestuft wird oder wenn keine tragfähige Hardware bis Tag 4 verfügbar ist.
11. Nach dem PoC: drei Rollout-Pfade
Pfad 1 — Das Werkzeug bleibt. Geringer Aufwand. Die PoC-Instanz bleibt beim Champion produktiv im Einsatz, ein Nutzerkreis, kein Zielsystem-Anschluss, optional eine Wartungspauschale. Ergebnis: sofortiger Nutzen bei minimaler Governance-Last.
Pfad 2 — Team-Rollout. Drei bis fünf Wochen. Mehrbenutzerbetrieb mit Verzeichnisdienst-Anmeldung, Anbindung an das Dokumentenmanagementsystem, OCR-Pipeline, Berechtigungskonzept je Dokumentenbereich, Protokollierung, Freigabeprozess, Betriebshandbuch und Anwenderschulung.
Pfad 3 — Produktionsbetrieb. Acht bis zwölf Wochen. Ausfallsicherheit, Backup- und Wiederanlauftests, Monitoring, Integration in ERP oder CRM über definierte Schnittstellen, Modell-Lifecycle mit Update-Test und Rückroll, KI-Register als gelebter Prozess, jährliche Überprüfung — und Vorbereitung des Hochrisiko-Pfads, falls Use Cases dorthin wandern.
Der PoC ist bewusst so gebaut, dass jedes Ergebnis verwertbar ist. Bei Erfolg folgen Pfad 2 oder 3. Bei Misserfolg liegt eine belastbare Entscheidungsgrundlage vor — und der Kunde hat trotzdem das Compliance-Paket, das KI-Register und die Schulung, die er unabhängig vom Ausgang benötigt. Das ist das entscheidende Argument gegen die Kaufzurückhaltung: Das Ergebnis lautet nicht „KI ja oder nein”, sondern liefert Planungsdaten für die nächsten zwei Jahre.
Checkliste: Was der Kunde liefern muss
- Dokumentenset mit bis zu 100 Dateien, bevorzugt mit Textebene
- Angabe der führenden Dokumentversion bei Mehrfachversionen
- Klassifizierung je Dokument und Abteilungszuordnung
- Benennung der Fachexperten mit Zeitfenstern
- Feldliste des Zielsystems, falls ein JSON-Import vorgesehen ist
- Für 30 Vorgänge: dokumentierte Ist-Bearbeitungszeit (Stichprobe genügt)
- Interner Champion und IT-Kontaktperson mit Administratorzugang
- Bestätigung, dass keine Verarbeitung zu Leistungs- oder Verhaltenskontrolle erfolgt
- Entscheidung zur Datenabgrenzung: Auftragsverarbeitungsvertrag oder ausschließlich nicht personenbezogene Dokumente
- Freigabe zur Installation auf der Zielhardware
Fragenkatalog für das Erstgespräch
- Welcher Vorgang kostet Ihre Fachabteilung heute am meisten Such- und Lesereit? Wie oft, und wie lange?
- Wie viele Dokumente umfasst der relevante Bestand, und liegen sie digital mit Textebene vor?
- Welche Entscheidung treffen Sie mit dem Ergebnis — und was passiert heute, wenn sie falsch ist?
- Wer muss die Antwort freigeben, bevor sie weiterverwendet wird?
- Gibt es ein Zielsystem, in das Ergebnisse zurückfließen sollen?
- Welche Daten dürfen das Haus unter keinen Umständen verlassen?
- Wie ist Ihre Haltung zu Cloud-KI — rechtlich, praktisch, kulturell?
- Existiert ein Betriebsrat, und gab es bereits Abstimmungen zu technischen Systemen?
- Wer ist der interne Champion, und wie viel Zeit hat diese Person realistisch?
- Welche Hardware ist vorhanden? Gibt es einen Serverraum oder ein Budget für eine Workstation?
- Wann müsste ein Ergebnis vorliegen, damit im Investitionszyklus etwas passiert?
- Wer entscheidet, und was braucht diese Person, um zuzustimmen?
Rechtlicher Hinweis zum Stand der Regulierung
Der „Digital Omnibus on AI”, Verordnung (EU) 2026/1744, wurde am 24. Juli 2026 veröffentlicht und trat am 27. Juli 2026 in Kraft. Er verschiebt vier Anwendungsdaten der KI-Verordnung (EU) 2024/1689: Hochrisiko-KI nach Anhang III von 2. August 2026 auf den 2. Dezember 2027, Hochrisiko-KI nach Anhang I von 2. August 2027 auf den 2. August 2028, nationale regulatorische Sandboxes auf den 2. August 2027 sowie die maschinenlesbare Kennzeichnung bereits marktüblicher Systeme auf den 2. Dezember 2026.
Unverändert in Kraft bleiben: die Verbote nach Art. 5 seit 2. Februar 2025, die Pflicht zur KI-Kompetenz nach Art. 4 seit 2. Februar 2025, die Pflichten für Anbieter von Allzweck-KI-Modellen seit 2. August 2025 sowie die Transparenzpflichten nach Art. 50 und die Durchsetzungsbefugnisse der Kommission seit 2. August 2026. Die Sanktionsrahmen bleiben unverändert — bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes für verbotene Praktiken, bis zu 15 Millionen Euro oder 3 Prozent für sonstige Verstöße. Die neue Kategorie „Small Mid-Cap” mit bis zu 750 Beschäftigten erhält vereinfachte Dokumentationspflichten und bevorzugten Zugang zu Sandboxes.
Der Omnibus ändert, wann etwas gilt, nicht was gilt. Für die Konformität von Anhang-III-Systemen bleibt der Aufwand vollständig bestehen; die Fristverlängerung kompensiert lediglich den fehlenden Vorlauf bei harmonisierten Standards. Dieser Beitrag stellt keine Rechtsberatung dar; die Bewertung erfolgt durch den Datenschutzbeauftragten oder das Justiziariat des jeweiligen Unternehmens.
Fragen zu einem konkreten Anwendungsfall oder Interesse an einem PoC? Schreiben Sie mir unter lei.ning@nings.eu.

