KI mit Kundendaten: Warum ein Server in der EU nicht reicht

Ob eine KI deine Kundendaten sehen darf, hängt an zwei Fragen: Wo läuft sie, und worauf hat sie Zugriff? Ein Server in Frankfurt beantwortet nur die erste Hälfte. Wer seine Aufgaben sauber nach Datenart sortiert, kann trotzdem viel Arbeit an die KI abgeben, auch in einer Branche mit Schweigepflicht.

Die Frage, die mich diese Woche beschäftigt hat

Eine Kundin von mir leitet mehrere Apotheken. Ihr fehlt gerade eine Mitarbeiterin, die sich um Newsletter und Social Media gekümmert hat, und im Team kam die Idee auf, mehr mit KI zu arbeiten. Ihre erste Frage an mich war die richtige: „Wie mache ich das, ohne dass mir die Gesundheitsdaten meiner Kunden um die Ohren fliegen?“

In einer Apotheke ist das doppelt heikel. Gesundheitsdaten gehören nach Artikel 9 DSGVO zu den besonders geschützten Daten, und Apotheker stehen nach § 203 Strafgesetzbuch zusätzlich unter Schweigepflicht. Mit der Unsicherheit ist sie in guter Gesellschaft: In der Bitkom-Umfrage zum Datenschutz 2026 sagt die Hälfte der Unternehmen, dass Datenschutz ihren KI-Einsatz bremst, und 56 Prozent fühlen sich bei Datenschutzfragen zu KI häufig überfordert.

Drei Orte, an denen eine KI laufen kann

Ich habe ihr zuerst erklärt, wo eine KI eigentlich arbeitet. Die meisten denken dabei an zwei Möglichkeiten. Tatsächlich sind es drei.

1. Lokal auf deinem Rechner

Programme wie Ollama oder LM Studio lassen ein KI-Modell komplett auf deinem eigenen Computer laufen. Was du eingibst, verlässt das Gerät nicht. Der Preis dafür: Die Modelle sind schwächer als die großen Online-Dienste, du brauchst einen leistungsstarken Rechner, und Agenten, die selbstständig mit Postfach oder Kalender arbeiten, sind lokal deutlich aufwendiger einzurichten.

2. Online bei einem europäischen Anbieter

Inzwischen gibt es KI-Dienste von Firmen ohne US-Mutterkonzern, etwa STACKIT aus der Schwarz-Gruppe, IONOS, mittwald oder Mistral aus Frankreich. Die Rechenzentren stehen in Deutschland oder der EU, und für diese Anbieter greift der US-amerikanische CLOUD Act nicht unmittelbar. Einen guten Überblick gibt dieser Vergleich europäischer KI-Anbieter.

3. Online bei einem US-Anbieter

Hier hilft der Serverstandort weniger, als viele glauben. Der CLOUD Act erlaubt US-Behörden, Daten bei US-Unternehmen anzufordern, auch wenn die Daten in Europa liegen. Wie ernst das ist, hat Microsoft Frankreich im Juni 2025 selbst gezeigt. Vor dem französischen Senat wurde der zuständige Direktor unter Eid gefragt, ob er garantieren könne, dass keine Daten französischer Bürger an die US-Regierung gehen. Seine Antwort laut Bericht von Born City: „Nein, das kann ich nicht garantieren.“

Die Aufgabe entscheidet über die Stufe

Daraus folgt eine einfache Faustregel, die ich meiner Kundin mitgegeben habe: Die KI bereitet alles vor, was allgemeine Daten betrifft. Sobald es um Kundendaten geht, übernimmt ein Mensch.

Für eine Apotheke heißt das konkret: Newsletter zu saisonalen Themen, Texte für Aushänge und Social Media, eine Stellenanzeige oder Antworten auf allgemeine Fragen zu Öffnungszeiten kann eine Online-KI problemlos vorbereiten. Alles mit Rezepten, Kundenkonten, Bestellungen einzelner Personen oder Beratungsnotizen bleibt beim Team, oder höchstens bei einer KI, die lokal läuft.

Du musst dich also nicht für ein einziges System entscheiden. Du entscheidest pro Aufgabe.

Die Falle, die viele übersehen

Hier wird es knifflig. Eine KI, die nur Newsletter vorbereiten soll, aber Zugriff auf dein komplettes Postfach hat, sieht dort auch jede Mail mit einer Rezeptfrage. Ein Agent mit Zugang zur Warenwirtschaft sieht auch die Kundenkonten. Die Aufgabe ist harmlos, der Zugriff ist es nicht.

Deshalb reicht es nicht, nur die Aufgabe zu prüfen. Entscheidend ist, auf welche Daten die KI technisch zugreifen kann. Ein eigenes Postfach nur für Newsletter-Material oder ein Ordner, in dem ausschließlich allgemeine Unterlagen liegen, löst das Problem oft schon.

So gehst du deine Abläufe durch

Bevor du ein Tool aussuchst, lohnt sich ein Blick auf die eigene Arbeit. Ich habe meiner Kundin geraten, eine Woche lang aufzuschreiben, welche Aufgaben immer wiederkehren und welche Daten dabei durch ihre Hände gehen.

Dann sortierst du jede Aufgabe in eine von drei Gruppen. In die erste kommt alles ohne personenbezogene Daten, das kann eine Online-KI vorbereiten. In die zweite kommen Aufgaben mit personenbezogenen, aber unkritischen Daten, dort lohnt sich ein europäischer Anbieter mit Vertrag zur Auftragsverarbeitung. In die dritte Gruppe gehört alles mit Gesundheitsdaten oder anderen Daten unter Schweigepflicht, das bleibt beim Menschen oder läuft lokal.

Erst wenn diese Liste steht, lässt sich die Frage „Welche KI nehme ich?“ sinnvoll beantworten. Meistens zeigt sich dabei, dass die erste Gruppe größer ist als gedacht, und genau dort steckt die Zeit, die ein Betrieb mit dünner Personaldecke gerade dringend braucht. Wie sich KI am eigenen Schreibtisch tatsächlich bemerkbar macht, habe ich in diesem Artikel beschrieben, und was du vor dem Klick auf „Akzeptieren“ bei KI-Diensten wissen solltest, steht in meinem Beitrag zu den KI-Nutzungsbedingungen.

Häufige Fragen

Ist eine KI mit Servern in Deutschland automatisch DSGVO-konform?

Nein. Der Standort ist nur ein Teil. Entscheidend ist auch, ob der Anbieter einen US-Mutterkonzern hat, ob es einen Vertrag zur Auftragsverarbeitung gibt und welche Daten du eingibst.

Kann ich ChatGPT oder Claude in einer Arztpraxis oder Apotheke nutzen?

Für Aufgaben ohne Patienten- oder Kundendaten, etwa Texte, Aushänge oder Social Media, ja. Gesundheitsdaten gehören dort nicht hinein.

Was ist eine lokale KI?

Ein KI-Modell, das komplett auf deinem eigenen Rechner läuft, zum Beispiel über Ollama oder LM Studio. Eingaben verlassen dein Gerät nicht.

Was ist der CLOUD Act?

Ein US-Gesetz von 2018, nach dem US-Behörden Daten bei US-Unternehmen anfordern können, auch wenn diese Daten auf Servern außerhalb der USA liegen.

Stand: 05.11.2026.