ChatGPT im Unternehmen — Sicheres Deployment ohne Kompromisse

Im August 2023 startete OpenAI ChatGPT Enterprise und die Unternehmenswelt horchte auf. Endlich eine offizielle Antwort auf die Frage, die jeden CISO beschäftigt: „Wie geben wir Mitarbeitern ChatGPT, ohne Unternehmensdaten zu gefährden?” Wir haben mehrere Enterprise-Deployments durchlaufen und teilen, was funktioniert — und wo die Fallstricke liegen.

Warum ein Firmen-VPN und „Nichts Sensibles senden” nicht ausreicht¶

Die meisten Unternehmen reagierten in der ersten Hälfte 2023 auf den ChatGPT-Boom mit einer internen E-Mail: „Verwenden Sie ChatGPT nicht für Unternehmensdaten.” Das Ergebnis? Mitarbeiter nutzten es trotzdem — nur heimlich. Shadow AI ist ein reales Problem, und ein Verbot löst es nicht. Ein gesteuertes Deployment mit klaren Regeln schon.

Das Problem mit dem öffentlichen ChatGPT ist einfach: Über die API gesendete Daten können für das Modelltraining verwendet werden (sofern Sie nicht die API mit Opt-out nutzen). Für regulierte Branchen — Banken, Versicherungen, Gesundheitswesen — ist das inakzeptabel. DSGVO, Bankgeheimnis, NIS2 — Regulierungen kennen keine Ausnahmen für „aber es ist nützlich”.

Azure OpenAI — Daten bleiben in Ihrem Tenant¶

Unser empfohlener Weg: Azure OpenAI Service. GPT-4- und GPT-3.5-Turbo-Modelle laufen in einem Azure-Rechenzentrum (West Europe für tschechische Kunden). Daten werden nicht mit OpenAI geteilt, nicht für Training verwendet und bleiben innerhalb Ihres Azure-Tenants. Private Endpoint, VNET-Integration, Managed Identity — der Standard-Azure-Security-Stack.

Für Kunden mit bestehendem Azure Enterprise Agreement ist das Deployment relativ unkompliziert. Resource Group, RBAC, Diagnoseprotokolle an Log Analytics — nichts Neues unter der Sonne. Nur das Modell ist neu.

ChatGPT Enterprise vs. Azure OpenAI — Was wählen?¶

ChatGPT Enterprise (direkt von OpenAI) ist ein verwaltetes SaaS — Benutzeroberfläche, Admin-Konsole, SSO über SAML. Vorteil: Zero Infrastructure. Nachteil: eingeschränkte Anpassung, Vendor Lock-in, der Datenverarbeitungsvertrag besteht mit OpenAI (US-Jurisdiktion).

Azure OpenAI ist API-first — Sie bauen Ihr eigenes Frontend und haben volle Kontrolle über die Infrastruktur. Vorteil: Compliance (EU Data Residency), Integration mit Ihrem bestehenden Azure-Stack, Custom RAG Pipeline. Nachteil: Sie müssen es selbst aufbauen.

Für tschechische Enterprise-Kunden empfehlen wir in der Regel Azure OpenAI. Grund: DSGVO-Compliance, bestehende Azure-Verträge und vor allem — der Bedarf an Integration mit internen Systemen, nicht nur ein Chat-Fenster.

Sichere Deployment-Architektur¶

Eine typische Architektur, die wir deployen:

• API Gateway (Azure API Management) — Rate Limiting, Authentifizierung, Protokollierung aller Anfragen
• PII-Filter — Azure AI Content Safety + Custom Regex für Personalausweisnummern, Kontonummern, interne Codes
• Azure OpenAI mit Private Endpoint — kein öffentliches Internet
• Prompt-Injection-Schutz — System-Prompt-Validierung, Input-Sanitisierung
• Audit Log — wer, wann, was gefragt wurde, welche Antwort erhalten wurde → Log Analytics → Sentinel
• Kostenmanagement — Token-Budget pro Benutzer/Abteilung, Alerting bei Anomalien

Governance — Spielregeln¶

Technologie ist die halbe Lösung. Die andere Hälfte ist Governance:

Acceptable Use Policy: Was darf und was darf nicht in das LLM. Konkrete Beispiele — „Erlaubt: Zusammenfassung öffentlicher Dokumente, Entwurf von E-Mails ohne Kundendaten. Nicht erlaubt: personenbezogene Kundendaten, interne Finanzdaten, Quellcode von Kernsystemen.”

Datenklassifizierung: Verknüpfung mit dem bestehenden Datenklassifizierungsschema. Öffentlich → OK. Intern → OK mit PII-Filter. Vertraulich → verboten. Geheim → verboten.

Schulung: Ohne Schulung ist jede Richtlinie nutzlos. Mitarbeiter-Workshops: Was ist ein LLM, wie funktioniert es, warum halluziniert es, wie schreibt man effektive Prompts, was darf nie gesendet werden.

Messbare Ergebnisse¶

Bei einem Kunden (ein mittelgroßes Versicherungsunternehmen, 800 Mitarbeiter) haben wir nach drei Monaten gemessen: 73 % der Mitarbeiter nutzen das interne ChatGPT aktiv. Durchschnittliche Zeitersparnis von 45 Minuten pro Tag für Knowledge Worker. Null Sicherheitsvorfälle. Die Shadow-AI-Nutzung sank von geschätzten 40 % auf unter 5 %.

Kosten: Azure OpenAI GPT-4 Turbo für 800 Benutzer — ungefähr 1.400 €/Monat. Der ROI wurde innerhalb von 6 Wochen erreicht.

Häufige Deployment-Fehler¶

„Wir deployen das übers Wochenende”: Technisch möglich, aber Governance dauert Wochen. Rechtliche Prüfung des DPA, Security Assessment, Schulung — planen Sie 6–8 Wochen für regulierte Branchen ein.

Kein Monitoring: Ohne Protokollierung wissen Sie nicht, ob jemand die gesamte Kundendatenbank in einen Prompt geschickt hat. Ein Audit Trail ist kein Nice-to-have — er ist ein Must-have.

Überzogene Erwartungen: ChatGPT ist kein Oracle. Es liefert Ihnen keine präzisen Zahlen aus Ihrem ERP. Dafür brauchen Sie RAG über strukturierte Daten.

Sicheres Deployment ist möglich — aber nicht trivial¶

ChatGPT im Unternehmen dreht sich nicht um Technologie — es geht um Governance, Compliance und Change Management. Azure OpenAI löst die technische Schicht. Der Rest liegt bei Ihnen. Und dieser „Rest” macht 70 % der Arbeit aus.