---
title: 'Operative KI sicher einsetzen: drei Risiken - SCHILLER'
description: Warum direkter KI-Zugriff auf ERP-Daten gefährlich ist, was du als Geschäftsführer
  riskierst und wie eine Zwischenschicht mit Audit-Trail die Lücke schließt.
url: https://ad-ze.de/operative-ki-sicher
language: de
---

# Operative KI sicher einsetzen

## Operative KI sicher einsetzen.

Drei Risiken, die du als Geschäftsführer kennen musst. Bevor eine KI in deine ERP-Daten greift.

## Eine KI direkt an deine ERP-APIs zu lassen ist nicht modern. Es ist fahrlässig.

Eine LLM-KI mit direktem Zugriff auf dein ERP, deine E-Mails und das offene Web ist ein dokumentiertes Sicherheits-Antimuster. Datenabflüsse passieren ohne Klick. Audit-Trails werden lückenhaft. Und du als Geschäftsführer haftest persönlich. Eine Zwischenschicht ist nicht Bequemlichkeit. Sie ist die einzige Architektur, die Datenschutz, branchenspezifische Audit-Pflichten und den EU AI Act gleichzeitig erfüllt.

Was bereits passiert ist

## Drei dokumentierte Vorfälle aus 2024 und 2025.

Diese Fälle sind keine Hypothese. Sie sind passiert. Bei Microsoft, bei Slack, bei Replit. Mit denselben Produkten, die auch dir verkauft werden.

- Juni 2025 · CVE-2025-32711 

- August 2024 

- Juli 2025 

Heise berichtete 2025 außerdem, dass Microsoft 365 Copilot Datei-Zugriffe nicht in den Audit-Logs erfasste, wenn der Angreifer die Referenz-Verlinkung unterdrückte. Microsoft hat still gepatcht, ohne Kunden zu informieren. Ein Audit-Trail mit selektiven Lücken ist kein Audit-Trail.

Was du persönlich riskierst

## Datenschutz, EU AI Act, GmbH-Haftung. Drei Hebel, einer trifft dich immer.

- Datenschutz 

- EU AI Act 

- GmbH-Haftung 

Hinweis zur Differenzierung: Nicht jeder ERP-Workflow ist Hochrisiko im Sinne des AI Act. Reine Auftrags- und Logistik-Agenten fallen regulär nicht unter Anhang III. Sobald ein Agent jedoch HR-Daten, Bonität oder Zugang zu wesentlichen Diensten anfasst, gelten die Hochrisiko-Pflichten nach Anhang III. Für Hochrisiko-KI in regulierten Produkten nach Anhang I gelten eigene Fristen. Welche Fristen gelten, steht im aktuellen Text der Verordnung im Amtsblatt der EU.

Was die Zwischenschicht löst

## Die Schicht macht Standard-KI nachvollziehbar.

Eine Zwischenschicht zwischen LLM und ERP ist kein Gegenmodell zu Microsoft Copilot oder SAP Joule. Sie ist der Compliance-Layer, der diese Produkte erst regulierungstauglich macht.

- 

Tool-Scoping statt Vollzugriff.

Der KI-Assistent erhält keine direkten API-Schlüssel. Er ruft definierte Werkzeuge auf, die genau das tun dürfen, was sie tun sollen. Nicht mehr.

- 

PII-Boundary in beide Richtungen.

Erkannte personenbezogene Daten werden ersetzt, bevor sie den Server verlassen, und beim Rücklauf zurückgesetzt. Was die Erkennung übersieht, geht unverändert mit.

- 

Protokoll ohne Inhalte.

Zu jeder Anfrage an ein Sprachmodell im Chat und in den Werkzeugen schreiben wir Zeitpunkt, Person, Anbieter, Modell, Token und Kosten auf. Jede Ersetzung steht in einem eigenen Ersetzungsprotokoll mit der Zahl der erkannten Angaben und Prüfsummen. Inhalte speichern wir dabei nicht.

- 

Vendor-unabhängig.

Heute vermittelt Cortecs aus Wien die meisten Anfragen an die Modelle. Ein lokales Modell ist ebenso möglich. Die Schicht bleibt. Der Anbieter ist austauschbar.

 [So sieht das im Live-Betrieb aus](https://ad-ze.de/erp-sprachfaehig) 

Einwände, die du zu Recht hast

## Sechs Einwände gegen einen kleinen Spezialanbieter. Und unsere Antwort.

-  

Einwand

„Du bist ein kleiner Anbieter. Was, wenn du morgen weg bist?"

Antwort

An den Arbeitsergebnissen, die für dich entstehen, bekommst du ein ausschließliches, unbefristetes Nutzungsrecht. An wiederverwendbaren Bausteinen bekommst du ein einfaches, unbefristetes Nutzungsrecht. Es gibt einen schriftlichen Übergabe-Prozess, der vertraglich zugesagt wird. KI-gestützte Entwicklung hat die Schwelle für eine Übernahme deutlich gesenkt. Ein qualifizierter Dienstleister kann eine MCP-basierte Schicht übernehmen, weil das Protokoll offen dokumentiert und der Code lesbar ist.

-  

Einwand

„Wir brauchen Service Level Agreements und Garantien, kein Vertrauen."

Antwort

Verfügbarkeit, Reaktionszeit, Wartungsfenster, Eskalation und Datensicherung regeln wir im schriftlichen Vertrag. Dazu gehören klare Laufzeiten und Kündigungsoptionen.

-  

Einwand

„Standardlösungen sind sicherer. Da haben Tausende Kunden getestet."

Antwort

Genau dieses Argument zerlegen die dokumentierten Vorfälle weiter oben auf der Seite. EchoLeak, Slack AI, Replit: alle Standardprodukte mit Millionen Nutzern. Tausende Tester haben die Lücken nicht verhindert. Für regulierte Branchen ist Individualentwicklung mit klarer Boundary-Schicht 2026 nicht mehr Exotik, sondern das, was Auditor und Versicherer erwarten.

-  

Einwand

„Warum nicht warten, bis unser ERP- oder CRM-Anbieter das selbst löst?"

Antwort

Weil Warten Geld kostet. Der Graph unten zeigt es ehrlich. Dein ERP-Hersteller (abas, proALPHA, Sage, Eigenentwicklung) hat KI-Module auf der Roadmap. Konkrete Sprach- und Audit-Schichten erscheinen aber frühestens in einer der nächsten Hauptversionen, meist gekoppelt an ein Update deines ERP-Vertrags. Dein CRM-Anbieter (HubSpot, Pipedrive, SevDesk) liefert Insel-Lösungen, die mit dem ERP nicht reden. Beides hilft dir nicht über den Vorgang hinweg.

-  

Einwand

„Wo positioniert sich die Schicht überhaupt? Klingt nach noch einer Komponente."

Antwort

Zwischen zwei Welten, die heute aneinander vorbeireden: oben die wilden KI-Skills von Glean, Copilot, ChatGPT — gut für offene Suche, schlecht für regulierte Aufträge. Unten die hartcodierten ERP-APIs — exakt, aber sprachlos. Die Schicht macht Sprache + Workflow + Audit zu einer Sache. Sie ist die Übersetzung, nicht eine weitere Insel.

-  

Einwand

„Wer haftet, wenn die Schicht selbst fehlerhaft ist?"

Antwort

Das regelt der Vertrag. Dazu kommen eine Berufshaftpflichtversicherung, automatische Tests im Code und Versions-Tags. Bei einem Vorfall sehen wir, wann welches Modell für wen aufgerufen wurde und wie viele Angaben ersetzt wurden. Inhalte speichern wir dabei nicht.

Was kostet Warten

## Die Opportunitätskosten.

Drei realistische Unternehmensgrößen. 1,8 Stunden pro Mitarbeiter und Arbeitstag, die heute bei dir mit Suchen verloren gehen. Konservativ angenommen, dass die Hälfte davon durch eine sprachfähige Schicht adressierbar wäre. Und: Verzögerung kostet nicht linear. Datensilos verfestigen sich, Workarounds wuchern, Schatten-KI etabliert sich, Konkurrenten ziehen Marktanteile ab. Pro Monat 2 % Compounding — die Linien biegen nach oben ab.

_Diagramm: kumulierte Verzögerungskosten über 36 Monate Wartezeit für drei Unternehmensgrößen — 30, 100 und 300 Mitarbeiter — mit monatlichem Wachstumsfaktor 2 %. Bei 30 Mitarbeitern entstehen rund 1,85 Mio. Euro nach 36 Monaten, bei 100 Mitarbeitern rund 6,18 Mio. Euro, bei 300 Mitarbeitern rund 18,53 Mio. Euro._

- 

Kleinerer Betrieb — 30 Mitarbeiter

35.640 € / Monat · **1.853.079 €** nach 36 Monaten

- 

Mittelstand — 100 Mitarbeiter

118.800 € / Monat · **6.176.931 €** nach 36 Monaten

- 

Größerer Betrieb — 300 Mitarbeiter

356.400 € / Monat · **18.530.792 €** nach 36 Monaten

Annahmen: 1,8 h/Mitarbeiter/Arbeitstag verloren (Studienlage, siehe ERP-sprachfähig-Seite), davon 50 % adressierbar, 22 Arbeitstage/Monat, 60 €/h Vollkosten, 2 % monatlicher Wachstumsfaktor für Compounding-Effekte (Datensilos, Schatten-KI, Marktanteilsverlust). Keine Diskontierung. Folgekosten durch Fehlentscheidungen wegen unauffindbarer Daten kommen oben drauf.

Ehrliche Einordnung

## Was diese Seite nicht behauptet.

- Die Garante-Sanktion gegen OpenAI wurde in erster Instanz aufgehoben. 

- Die GF-Außenhaftung ist nicht höchstrichterlich entschieden. 

- Nicht jeder KI-Anwendungsfall ist Hochrisiko. 

- Eine Zwischenschicht ist nicht risikofrei. 

  ![Michael Schiller](https://ad-ze.de/rails/active_storage/representations/redirect/eyJfcmFpbHMiOnsiZGF0YSI6NDcwMzksInB1ciI6ImJsb2JfaWQifX0=--2f16e9a9191c77e10117f2790eed35b6118222e1/eyJfcmFpbHMiOnsiZGF0YSI6eyJmb3JtYXQiOiJ3ZWJwIiwicmVzaXplX3RvX2ZpbGwiOlsyMDAsMjAwXSwic2F2ZXIiOnsic3RyaXAiOnRydWUsInF1YWxpdHkiOjUwLCJpbnRlcmxhY2UiOnRydWUsIm9wdGltaXplX2NvZGluZyI6dHJ1ZSwiYWNjZXNzIjoic2VxdWVudGlhbCIsImJhY2tncm91bmQiOlsyNTUsMjU1LDI1NV19fSwicHVyIjoidmFyaWF0aW9uIn19--ddadceab840027df8f77d653b1b35d2b9a4a053b/image.webp) 

## Sprechen wir über deinen Fall.

30 Minuten. Dein ERP, deine Risikolage, deine Frage. Kein Pitch.

 [Termin vereinbaren](https://ad-ze.de/get-in-touch?service=operative-ai-safe) 

Quellen und weiterführende Lektüre

## Alles, was wir behaupten, hat eine Adresse.

### Datenschutz und Aufsichtsbehörden

- [Garante per la Protezione dei Dati Personali — OpenAI-Sanktionsentscheidung Dezember 2024](https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/10085432) — Pressemitteilung, 15 Mio. € Bußgeld — vom Tribunale Roma am 20.03.2026 aufgehoben 
- [ANSA — Tribunale Roma annulliert die OpenAI-Sanktion (20.03.2026)](https://www.ansa.it/canale_tecnologia/notizie/tecnologia/2026/03/20/tribunale-roma-annulla-multa-da-15-milioni-di-euro-del-garante-privacy-a-openai_6560fadd-4099-451e-99a0-7fcbc9a285c1.html) — Urteil in der Sache 
- [EDPB — Italienische Aufsichtsbehörde, Sanktion gegen Luka Inc. (Replika), 5 Mio. €](https://www.edpb.europa.eu/news/national-news/2025/ai-italian-supervisory-authority-fines-company-behind-chatbot-replika_en) — Mai 2025 
- [Bloomberg — Samsung verbietet ChatGPT nach drei internen Datenlecks](https://www.bloomberg.com/news/articles/2023-05-02/samsung-bans-chatgpt-and-other-generative-ai-use-by-staff-after-leak) — Mai 2023 
- [CNIL — Jahresbericht 2024 (87 Sanktionen, über 55 Mio. €)](https://www.cnil.fr/fr/rapport-annuel-2024) 

### EU AI Act

- [EU AI Act, Artikel 99 — Strafrahmen](https://artificialintelligenceact.eu/article/99/) 
- [EU AI Act, Anhang III — Hochrisiko-Anwendungsfälle](https://artificialintelligenceact.eu/annex/3/) 
- [EU AI Act, Artikel 12 — Aufzeichnungspflicht](https://artificialintelligenceact.eu/article/12/) 
- [EU AI Act, Artikel 13 — Transparenzpflicht](https://artificialintelligenceact.eu/article/13/) 
- [EU AI Act, Artikel 14 — Menschliche Aufsicht](https://artificialintelligenceact.eu/article/14/) 
- [EU AI Act — Zeitplan zur Anwendbarkeit](https://ai-act-service-desk.ec.europa.eu/en/ai-act/timeline/timeline-implementation-eu-ai-act) 

### GmbH-Haftung

- [Latham — OLG Dresden zur persönlichen Haftung des Geschäftsführers](https://www.lathamgermany.de/2022/02/olg-dresden-geschaftsfuhrer-haften-personlich-fur-datenschutzverstose-der-gmbh/) — Az. 4 U 1158/21 
- [Volltext OLG Dresden, Urteil v. 30.11.2021](https://rewis.io/urteile/urteil/wrm-30-11-2021-4-u-115821/) 
- [§ 43 GmbHG — Haftung der Geschäftsführer](https://www.gesetze-im-internet.de/gmbhg/__43.html) 

### Dokumentierte KI-Sicherheitsvorfälle

- [HackTheBox — EchoLeak / CVE-2025-32711 (M365 Copilot, Zero-Click)](https://www.hackthebox.com/blog/cve-2025-32711-echoleak-copilot-vulnerability) 
- [PromptArmor — Slack AI Daten-Exfiltration über indirekte Prompt-Injection](https://www.promptarmor.com/resources/data-exfiltration-from-slack-ai-via-indirect-prompt-injection) 
- [The Register — Slack AI Prompt Injection](https://www.theregister.com/2024/08/21/slack_ai_prompt_injection/) 
- [Fortune — Replit AI löscht Produktions-Datenbank](https://fortune.com/2025/07/23/ai-coding-tool-replit-wiped-database-called-it-a-catastrophic-failure/) 
- [AI Incident Database — Eintrag #1152 (Replit)](https://incidentdatabase.ai/cite/1152/) 
- [Heise — Microsoft Copilot fälschte Zugriffs-Logs](https://www.heise.de/en/news/AI-assistant-Microsoft-s-Copilot-falsified-access-logs-for-months-10578970.html) 
- [Simon Willison — Lethal Trifecta](https://simonwillison.net/2025/Jun/16/the-lethal-trifecta/) — Konzeptionelle Begründung 

### Standards und Architektur

- [OWASP Top 10 für LLM-Anwendungen 2025](https://genai.owasp.org/resource/owasp-top-10-for-llm-applications-2025/) 
- [NIST AI 600-1 — Generative AI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence) 
- [ISO/IEC 42001:2023 — AI Management System](https://www.iso.org/standard/42001) 
- [ISO/IEC 27001 — Information Security Management](https://www.iso.org/standard/27001) 
- [Model Context Protocol — Authorization Spec](https://modelcontextprotocol.io/specification/2025-11-25) 

### Marktrealität

- [Gartner — Über 40 % der agentic-AI-Projekte werden bis Ende 2027 gecancelt](https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027) 
- [Computerworld — Microsoft adressiert Copilot-Oversharing (40 % Rollouts verschoben)](https://www.computerworld.com/article/3616459/microsoft-moves-to-stop-m365-copilot-from-oversharing-data.html) 
- [CIO.com — SAPs neues Joule-Pricing weder transparent noch erklärbar](https://www.cio.com/article/655478/saps-new-generative-ai-pricing-neither-transparent-nor-explainable-yet.html) 
- [Microsoft — EU Data Boundary abgeschlossen Februar 2025](https://blogs.microsoft.com/on-the-issues/2025/02/26/microsoft-completes-landmark-eu-data-boundary-offering-enhanced-data-residency-and-transparency/) 
- [Cybernews — Flex Routing außerhalb der EU bleibt möglich](https://cybernews.com/ai-news/microsft-copilot-eu/) 

Stand: 21. Mai 2026. Alle Quellen wurden zum Veröffentlichungszeitpunkt geprüft. URLs können sich ändern.

  ![Michael Schiller](https://ad-ze.de/rails/active_storage/representations/redirect/eyJfcmFpbHMiOnsiZGF0YSI6NDcwMzksInB1ciI6ImJsb2JfaWQifX0=--2f16e9a9191c77e10117f2790eed35b6118222e1/eyJfcmFpbHMiOnsiZGF0YSI6eyJmb3JtYXQiOiJ3ZWJwIiwicmVzaXplX3RvX2ZpbGwiOlsyMDAsMjAwXSwic2F2ZXIiOnsic3RyaXAiOnRydWUsInF1YWxpdHkiOjUwLCJpbnRlcmxhY2UiOnRydWUsIm9wdGltaXplX2NvZGluZyI6dHJ1ZSwiYWNjZXNzIjoic2VxdWVudGlhbCIsImJhY2tncm91bmQiOlsyNTUsMjU1LDI1NV19fSwicHVyIjoidmFyaWF0aW9uIn19--ddadceab840027df8f77d653b1b35d2b9a4a053b/image.webp) 

## Sprechen wir über deinen Fall.

30 Minuten. Dein ERP, deine Risikolage, deine Frage. Kein Pitch.

 [Termin vereinbaren](https://ad-ze.de/get-in-touch?service=operative-ai-safe) 

30 Minuten zu deinem Risiko

 [Termin vereinbaren](https://ad-ze.de/get-in-touch?service=operative-ai-safe)
