KI in der Medizin: Gesundheitsdaten, DSGVO und Self-Hosted-Lösungen bis 2026

Der Chefarzt eines privaten medizinischen Zentrums in Wien fragt: „Wird KI Diagnosen anstelle unserer Ärzte stellen?“ Unsere Antwort: Nein. Niemals. Ein KI-Assistent in einem medizinischen Zentrum ist kein Diagnostiker und kein Arzt. Es ist ein intelligenter Assistent für den Administrator, der Patienten um 22:00 Uhr antwortet, wenn die Rezeption bereits geschlossen ist – und dies ausschließlich auf der Grundlage der Dokumente Ihrer Klinik tut. Kurze Antwort: KI in der Medizin bedeutet in unserem Verständnis die Automatisierung von Informationsanfragen von Patienten und die Suche in internen Protokollen. Behandlung, Diagnose, Verschreibung – immer nur der Arzt. Aber „Wie bereite ich mich auf ein MRT vor?“ um 23:00 Uhr – das kann durchaus KI.

📚 Inhalt

• KI in der Medizin – kein Diagnostiker: Was sie tut und was sie nie tut
• Welche Szenarien löst ein KI-Assistent in einem medizinischen Zentrum?
• Welche medizinischen Daten sind unter besonderem Schutz der DSGVO und warum betrifft das KI?
• Drei Regulierungsebenen: DSGVO Art. 9 + EU AI Act + nationales Medizinrecht
• Warum ChatGPT und Notion AI rechtlich in der Medizin inakzeptabel sind
• Architektur von KI für medizinische Zentren: Was wo gespeichert wird
• Realer Fall: Medizinisches Zentrum und Implementierung von Self-hosted KI
• Was dem Patienten sagen, wenn er nach KI fragt: Gesprächsskript
• Checkliste für den Chefarzt: 10 Fragen vor der Einführung von KI
• Häufig gestellte Fragen
• Schlussfolgerungen
• Möchten Sie sehen, wie es funktioniert?

KI in der Medizin – kein Diagnostiker: Was sie tut und was sie nie tut

Wenn wir bei AskYourDocs mit Chefärzten und Leitern von medizinischen Zentren sprechen – die erste Frage ist immer dieselbe: „Ist das eine KI, die Diagnosen stellt?“ Die Antwort ist immer gleich: Nein.

Es gibt einen prinzipiellen Unterschied zwischen medizinischer KI (Systeme, die Bilder analysieren, bei der Diagnose helfen, klinische Entscheidungen unterstützen) – und einem KI-Assistenten auf Dokumentenbasis, der Informationsfragen beantwortet. Wir beschäftigen uns mit Letzterem. Ersteres ist eine eigene Klasse von Lösungen mit anderen Anforderungen, anderer Regulierung und anderer Verantwortung.

Die KI antwortet ausschließlich auf Basis der von Ihrer Klinik hochgeladenen Dokumente. Wenn eine Frage über deren Grenzen hinausgeht – antwortet die KI ehrlich mit „Unsere Dokumente enthalten keine Antwort“ und schlägt vor, sich an einen Arzt oder Administrator zu wenden. Das ist keine Einschränkung – es ist ein Schutz.

Konkrete Beispiele – wie diese Grenze in der Praxis aussieht:

Dieses Verhalten wird bei der Implementierung über einen System-Prompt konfiguriert und vor dem Start mit Testfragen überprüft. Wenn die KI im Test versucht, eine medizinische Frage zu beantworten – werden die Einstellungen angepasst, bis solches Verhalten vollständig ausgeschlossen ist. Erst danach wird das System an die Klinik übergeben.

Welche Szenarien löst ein KI-Assistent in einem medizinischen Zentrum?

Vorbereitung auf Prozeduren – 24/7 ohne Personalbeteiligung

Patienten erinnern sich an Fragen zur Vorbereitung nicht während der morgendlichen Geschäftszeiten, sondern am Abend oder in der Nacht. Um 22:30 Uhr erinnert sich ein Patient daran, dass morgen eine Magenspiegelung ansteht – und weiß nicht mehr, ob er abends essen durfte. Ohne KI: Entweder er schläft unruhig, ruft den Bereitschaftsdienst an oder geht unvorbereitet hin und die Prozedur wird verschoben. Mit KI: Er schreibt in den Telegram-Bot und erhält in 5 Sekunden die genaue Antwort aus dem Klinikprotokoll.

Laut unseren Kunden machen Anfragen zur Vorbereitung 25–40 % aller Anfragen an Administratoren aus. In einem Zentrum mit 10 Fachrichtungen und 50 Prozeduren – sind das Hunderte von Kombinationen. KI kennt sie alle – wenn die Protokolle hochgeladen sind. Und antwortet genau nach dem Protokoll Ihrer Klinik, nicht nach dem „allgemeinen Internet“.

Preise, Dienstleistungen und Zeitpläne – das Ende von Warteschlangen am Telefon

„Was kostet ein MRT?“, „Wann praktiziert der Kardiologe?“, „Welche Dokumente benötige ich für den ersten Besuch?“ – jede Frage kostet den Administrator 2–5 Minuten. Bei 50 solchen Fragen pro Tag – fast 4 Stunden nur für gleichartige Antworten. KI antwortet sofort, parallel für eine unbegrenzte Anzahl von Anfragen, jederzeit.

Interne Wissensdatenbank für Personal

Eine Krankenschwester auf einer neuen Station erinnert sich nicht an das Vorbereitungsprotokoll für einen Patienten – sie fragt die KI und erhält in 10 Sekunden eine Antwort mit einem Link zum entsprechenden Dokument. Ein neuer Arzt lenkt erfahrene Kollegen nicht mit organisatorischen Fragen ab – die KI antwortet aus den Unternehmensrichtlinien. Wir empfehlen eine separate Sammlung von Dokumenten für das Personal mit getrennten Zugangsrechten nach Abteilungen.

Betreuung nach der Entlassung und Navigation durch Spezialisten

„Wann kann ich nach einer Koloskopie wieder essen?“, „Wie lange nach der Narkose darf ich Auto fahren?“ – Fragen, die nach der Prozedur zu Hause auftreten. Die KI antwortet genau nach den Entlassungsempfehlungen. Bei Fragen, die über die Standardempfehlungen hinausgehen – leitet sie sofort weiter: „Diese Frage erfordert eine ärztliche Beratung. Rufen Sie [Nummer] an, oder bei Verschlechterung – 103.“

Für die primäre Navigation: „Ich habe Knieschmerzen – zu welchem Spezialisten soll ich gehen?“ – Die KI antwortet ausschließlich auf Basis der Struktur Ihres Zentrums und der Liste der Spezialisten. Dies ist keine medizinische Beratung – dies ist eine Navigation durch die Klinik.

Reale Zahlen

• 60–70 % der Anfragen an Administratoren – sind Informationsfragen, die KI selbstständig bearbeitet
• 3–4 Stunden pro Tag werden für jeden Administrator für echte Aufgaben frei
• 100 % der Anfragen außerhalb der Geschäftszeiten erhalten sofort eine Antwort – zuvor 0 %
• 0 Fälle, in denen die KI versucht hat, eine medizinische Frage zu beantworten – bei korrekter Konfiguration

Welche medizinischen Daten sind unter besonderem Schutz der DSGVO und warum betrifft das KI?

Was sind medizinische Daten gemäß DSGVO Artikel 9?

Gemäß der DSGVO umfassen besondere Kategorien von Daten medizinische Aufzeichnungen, genetische und biometrische Daten, Informationen über die psychische Gesundheit und Behinderungen. Der wichtigste praktische Punkt ist jedoch – Daten, die den Gesundheitszustand offenlegen. Wenn ein Patient fragt „Wie bereite ich mich auf eine Chemotherapie vor?“ – allein die Tatsache dieser Frage offenbart eine Krebserkrankung. Das sind bereits Art. 9 Daten.

Praktische Konsequenz: Wenn ein KI-Assistent über einen Cloud-Dienst Anfragen von Patienten erhält – wird jede Anfrage auf den Servern des Anbieters gespeichert. „Wann darf ich nach einer Knieoperation Fahrrad fahren?“ offenbart, dass der Patient eine Operation hatte. All das sind Art. 9 Daten auf US-Servern ohne Ihre Kontrolle.

Zwei rechtliche Grundlagen für die Verarbeitung medizinischer Daten durch KI

Gemäß DSGVO Artikel 9(2) gibt es zwei realistische Rechtsgrundlagen für medizinische Zentren:

Art. 9(2)(h) – medizinische Notwendigkeit. Die Verarbeitung ist für die Erbringung von Gesundheitsdienstleistungen oder die Verwaltung von Gesundheitssystemen erforderlich. Die häufigste Grundlage – verlangt aber, dass die Verarbeitung im Rahmen des Gesundheitssystems erfolgt, unter der Verantwortung von medizinischem Personal, mit angemessenen Sicherheitsgarantien. Cloud-basierte KI mit Servern in den USA erfüllt diese Anforderungen nicht.

Art. 9(2)(a) – ausdrückliche Einwilligung. Ausdrückliche Einwilligung für medizinische Daten ist eine wesentlich strengere Anforderung als die übliche. Kein Häkchen bei „Ich stimme den Bedingungen zu“ – sondern eine separate, spezifische Erklärung des Patienten, dass er versteht, welche Daten und zu welchem Zweck verarbeitet werden. In der Praxis ist dies für eine KI-Chatbot nur schwer korrekt umsetzbar.

Für die meisten medizinischen Zentren ist Art. 9(2)(h) praktischer – erfordert jedoch rechtlich eine Self-hosted Architektur, bei der Daten nicht an Dritte weitergegeben werden.

Drei Regulierungsebenen: DSGVO Art. 9 + EU AI Act + nationales Medizinrecht

Wir bei AskYourDocs führen vor jeder Implementierung in einem medizinischen Zentrum eine regulatorische Analyse mit dem Kunden durch. Das kostet Zeit – erspart aber weitaus teurere Probleme später.

Ebene 1: DSGVO Artikel 9

Die grundlegende Ebene, die für jede Verarbeitung medizinischer Daten gilt. Für einen KI-Assistenten in einem medizinischen Zentrum erfordert sie:

• Rechtsgrundlage nach Art. 9(2) – dokumentiert vor dem Systemstart
• DPIA (Datenschutz-Folgeabschätzung) – Pflicht für KI, die medizinische Daten in großem Umfang verarbeitet. Wichtige Praxis: Die DPIA muss bei jeder wesentlichen Systemänderung überprüft werden, nicht nur bei der erstmaligen Einführung.
• DPO (Datenschutzbeauftragter) – für die meisten medizinischen Zentren obligatorisch. Muss in die Bewertung jedes neuen KI-Systems einbezogen werden.
• ROPA (Record of Processing Activities) – alle Verarbeitungsvorgänge über KI müssen im Register dokumentiert werden.

Echter Präzedenzfall: Im Jahr 2024 verhängte die schwedische Aufsichtsbehörde (IMY) gegen die Apotheke Apoteket eine Geldbuße von 37 Mio. SEK (ca. 3,2 Mio. €) wegen der Übermittlung von Kundendaten an Meta über Pixel ohne angemessene Rechtsgrundlage und technische Schutzmaßnahmen. Das Fehlen einer korrekten Art. 9(2)-Begründung ist eine der häufigsten Ursachen für Bußgelder im Gesundheitswesen.

Ebene 2: EU AI Act

Update Mai 2026: Die Digital Omnibus Agreement vom 7. Mai 2026 verschob die Fristen für High-Risk KI-Systeme. Für use-based Systeme (Anhang III) – vom 2. August 2026 auf den 2. Dezember 2027. Für in medizinische Geräte integrierte KI (Anhang I, Medizinprodukte) – bis zum 2. August 2028. Die formale Verabschiedung wird bis zum 2. August 2026 erwartet.

Aber die zentrale Klassifizierung bleibt schon jetzt wichtig:

High-Risk (Diagnostik, klinische Entscheidungen, Bildanalyse): Konformitätsbewertung, Registrierung in der EU-KI-Datenbank, Audit-Logs. Laut Einschätzung von The Thinking Company, das Governance-Framework für ein solches System – von 80.000 € bis 200.000 € für die anfängliche Entwicklung.

Nicht High-Risk (Informationsfragen, administrative Aufgaben): Der KI-Assistent AskYourDocs, der nur auf Informationsfragen antwortet und medizinische Fragen immer weiterleitet – ist in der Regel kein High-Risk-System. Deshalb halten wir uns strikt an dieses Prinzip: Es hält das System nicht nur ethisch, sondern auch regulatorisch von der High-Risk-Kategorie fern.

Ebene 3: Nationales Medizinrecht

Österreich: Das Berufsgeheimnis ist strafrechtlich geschützt – nicht nur durch die DSGVO. § 54 ÄrzteG – die Pflicht des Arztes, das Berufsgeheimnis unter Strafe zu wahren. Die Übermittlung von Informationen, die den Gesundheitszustand eines Patienten ohne ausdrückliche Zustimmung an Dritte offenlegen – kann eine Straftat sein. „Dritter“ – das ist sowohl OpenAI als auch Google, und jeder Cloud-Anbieter. Die österreichische Datenschutzbehörde (DSB) hat den strengsten EU-Standard festgelegt: Die bloße Behauptung, „die Wahrscheinlichkeit des Zugriffs durch US-Geheimdienste ist gering“ reicht nicht aus – die technische Unmöglichkeit eines solchen Zugriffs ist erforderlich.

Deutschland: § 393 SGB V – Daten von Versicherten dürfen nur im EWR auf zertifizierten Anbietern gespeichert werden. MBO-Ä § 9 (Schweigepflicht) – Verletzung der ärztlichen Schweigepflicht: disziplinarische und strafrechtliche Verantwortlichkeit. AWS/Azure Deutschland befinden sich physisch in Deutschland, werden aber von US-Unternehmen verwaltet – der CLOUD Act der USA erlaubt die Anforderung von Datenzugriff unabhängig vom physischen Standort der Server.

Wie die drei Ebenen interagieren

Detailliert zu den DSGVO-Anforderungen für Österreich und Deutschland – im Artikel KI und DSGVO in Deutschland und Österreich: Anforderungen an Unternehmenssysteme 2026.

Warum ChatGPT und Notion AI in der Medizin rechtlich nicht akzeptabel sind

Wir hören oft von Klinikdirektoren: "Aber wir beantworten nur allgemeine Fragen – wir übermitteln keine Patientenakten." Das Problem ist, dass Fragen von Patienten eines medizinischen Zentrums gemäß Artikel 9 der DSGVO bereits medizinische Daten darstellen. Selbst ohne Akten.

Grund 1: Patientenfragen decken den Gesundheitszustand auf. "Kann man Ibuprofen nach einer Magen-OP nehmen?" – das verrät, dass der Patient eine Operation hatte. Das sind Art. 9 Daten. Wenn diese ohne DPA und TIA auf den Servern von OpenAI in den USA gespeichert werden, ist das ein Verstoß gegen die DSGVO, unabhängig davon, ob Sie die Patientenakte übermittelt haben oder nicht.

Grund 2: Das Arztgeheimnis ist umfassender als die DSGVO. In Österreich und Deutschland ist es strafrechtlich geschützt. Die Übermittlung von Informationen, die den Gesundheitszustand eines Patienten offenlegen, an Dritte ohne ausdrückliche Zustimmung ist ein potenzielles strafbares Vergehen. OpenAI, Google, Microsoft sind in diesem Zusammenhang alle als "Dritte" zu betrachten.

Grund 3: Das Medizinrecht verlangt eine Verarbeitung unter der Verantwortung von medizinischem Personal. Art. 9 Abs. 2 lit. h DSGVO erlaubt die Verarbeitung ohne ausdrückliche Zustimmung nur, wenn sie "unter der Verantwortung einer Person erfolgt, die zur Berufsgeheimhaltung verpflichtet ist". Ein Cloud-KI-Anbieter ist ein kommerzielles Unternehmen ohne medizinische Vertraulichkeitspflichten. Er fällt nicht unter diese Grundlage.

Grund 4: Fehlender, von Ihnen kontrollierter Audit-Trail. Bei Cloud-basiertem ChatGPT haben Sie keine Kontrolle über die Logs – der Anbieter kann sie ändern oder löschen. Bei einer Prüfung durch eine Aufsichtsbehörde können Sie keine Nachweise erbringen, dass das System korrekt funktioniert hat. Der EU AI Act (Art. 12) verlangt die Speicherung von Audit-Logs für Hochrisikosysteme für 10 Jahre. Bei Self-Hosting befinden sich die Logs auf Ihrem Server unter Ihrer Kontrolle.

Realer Präzedenzfall: Im Jahr 2024 verhängte die schwedische Aufsichtsbehörde (IMY) gegen die Apotheke Apoteket eine Geldbuße von 37 Mio. SEK (ca. 3,2 Mio. €), weil sie Kundendaten an Meta über Pixel übermittelt hatte – ohne angemessene technische Schutzmaßnahmen. Nicht wegen eines Datenlecks – sondern wegen fehlender Rechtsgrundlage und technischer Garantien. Dies ist ein Trend: Regulierungsbehörden in der EU überprüfen aktiv die Gesundheitsbranche, insbesondere im Hinblick auf KI und digitale Tools.

Mehr über die rechtlichen Risiken von Cloud-KI erfahren Sie in unserem Artikel Self-hosted AI vs. Cloud: Wo Ihre Daten verbleiben.

Architektur von KI für Medizinzentren: Was wo gespeichert wird

Für eine Führungskraft ist der Unterschied zwischen "wir speichern Ihre Daten sicher" (Versprechen des Anbieters) und "Ihre Daten können Ihren Server physisch nicht verlassen" (architektonische Garantie) entscheidend. Für die Medizin ist Letzteres wichtig. Nachfolgend finden Sie eine Beschreibung des Systems, das wir bereitstellen.

Komponente 1: Server

Die wichtigste Wahl der gesamten Architektur ist, wo sich der Server physisch befindet und wer ihn verwaltet. Für AT/DE-Kliniken setzen wir ausschließlich auf EU-Anbieter außerhalb der Gerichtsbarkeit des CLOUD Acts:

• Hetzner Online GmbH (Nürnberg DE oder Helsinki FI) – unsere Standardwahl. Deutsches Unternehmen, ISO 27001, ab 30 €/Monat.
• OVHcloud (Straßburg FR) – französisches Unternehmen, Alternative zu Hetzner.
• Eigener Klinik-Server – maximale Isolation, geeignet für höchste Anforderungen.

Komponente 2: Datenbank

PostgreSQL + pgvector – eine Standarddatenbank mit Vektorsuche. Speichert den Text von Klinikdokumenten, deren Vektorrepräsentationen, Metadaten und optional Abfrageprotokolle. Was niemals gespeichert wird: Patientenakten, Analyseergebnisse, persönliche Patientendaten.

Wir empfehlen getrennte Sammlungen: eine öffentliche (Protokolle, Preisliste, Zeitpläne – für Patienten) und eine interne (Regelungen, Verfahren – nur für Personal). Bei Bedarf können separate Sammlungen für Abteilungen eingerichtet werden.

Komponente 3: Sprachmodell

Option A – geschlossener Kreislauf (Ollama lokal). Das Modell ist auf dem Klinikserver installiert. Keine Anfrage verlässt das System. Wir empfehlen diese Option für AT/DE-Kliniken mit höchsten Datenschutzanforderungen. Optimale Modelle: Mistral Small 3 (24B) oder Llama 3.3 70B.

Option B – Hybrid (lokale Speicherung + externer LLM). Dokumente werden lokal gespeichert, die Antwortgenerierung erfolgt über eine externe API (Mistral oder OpenAI), wobei nur ein anonymisierter Ausschnitt ohne jegliche Identifikatoren übertragen wird. Kostengünstiger im Betrieb – aber es gibt minimalen externen Datenverkehr. Für AT/DE-Kliniken, die Daten von versicherten Patienten verarbeiten, empfehlen wir Option A.

Komponente 4: Chat-Interface

Je nach Bedarf der Klinik stellen wir bereit: einen Web-Chat auf der Website (einbindbar mit einer Codezeile), einen Telegram-Bot, einen WhatsApp-Bot (über die Business API) oder ein internes Interface für das Personal (nur von den IP-Adressen der Klinik oder über VPN zugänglich). Alle Interfaces sind mit einem Origin Filter konfiguriert – sie akzeptieren Anfragen nur von Ihren erlaubten Quellen.

Der vollständige Anfrageablauf – einfach erklärt

Ein Patient schreibt um 23:00 Uhr: "Wie bereite ich mich auf ein MRT mit Kontrastmittel vor, wenn ich eine Jodallergie habe?"

1. Die Anfrage erreicht den Klinikserver über HTTPS – sie wird in den Logs auf Ihrem Server gespeichert.
2. Die Frage wird lokal in einen mathematischen Vektor umgewandelt (Embedding-Modell auf Ihrem Server).
3. Die Vektorsuche findet relevante Ausschnitte aus Ihren Protokollen – z. B.: das Protokoll für MRT mit Kontrastmittel und den Abschnitt über allergische Reaktionen.
4. Die gefundenen Ausschnitte + die Frage werden an das LLM übergeben – lokal (Option A) oder nur der anonymisierte Text der Ausschnitte nach außen (Option B).
5. Das LLM generiert eine Antwort: "Bei einer Jodallergie – informieren Sie unbedingt den Arzt vor der Durchführung. Ein MRT ohne Kontrastmittel ist möglich. Für weitere Auskünfte – [Arztnummer]. Terminvereinbarung: [Link]."
6. Die Antwort wird über denselben sicheren Kanal an den Patienten zurückgesendet.

Sicherheitszusammenfassung: Der Patientenname wurde nicht verwendet. Die Patientenakte wurde nicht eingesehen. Die Anfrage – nur auf Ihrem Server. Bei Hybrid-Nutzung hat das externe LLM anonymisierten Protokolltext ohne Kontextualisierung erhalten, wer fragt.

Was wird hochgeladen und was niemals?

Zur Aufbereitung von Dokumenten – siehe Artikel Wie bereitet man Dokumente für einen KI-Assistenten vor. Zum geschlossenen Kreislauf im Detail – siehe Artikel Geschlossener Kreislauf mit Ollama: KI ohne Internet für Unternehmen.

Realer Fall: Medizinisches Zentrum und Einführung von Self-hosted AI

Wir beschreiben diesen Fall detailliert – nicht um mit den Ergebnissen anzugeben, sondern um jede getroffene Entscheidung und deren Gründe aufzuzeigen. Denn im Gesundheitswesen hat jede technische Wahl rechtliche und klinische Konsequenzen.

Situation vor der Implementierung

Der Geschäftsführer wandte sich nicht an uns, weil er "KI wollte" – sondern weil er ein konkretes operatives Problem und eine konkrete Angst hatte.

Problem: 3 Verwaltungsangestellte × 3 Stunden = 9 Stunden pro Tag allein für gleichartige Antworten. 40–50 % der Anfragen kamen außerhalb der Geschäftszeiten und blieben unbeantwortet – daraus resultierten Beschwerden und negative Bewertungen. Bei einem durchschnittlichen Stundensatz von 17 € = 135–180 € verdeckte Kosten pro Tag. Klinik: 8 Fachbereiche, 25 Ärzte, 200+ Vorbereitungsprotokolle, 350 Leistungen im Leistungskatalog.

Angst des Geschäftsführers: "Was, wenn die KI dem Patienten etwas medizinisch Falsches rät?" Unsere Antwort bestimmte die gesamte Architektur: "Die KI wird keine medizinischen Ratschläge geben. Überhaupt nicht. Niemals. Wir bauen ein System, in dem dies technisch unmöglich ist – durch einen System-Prompt und obligatorische Tests vor dem Start." Genau das machte die Implementierung möglich.

Was hochgeladen wurde – und was bewusst nicht

Hochgeladen: 200+ Vorbereitungsprotokolle für Prozeduren, Leistungskatalog mit 350 Leistungen, Arztstundenpläne, FAQ der Klinik (100+ Fragen-Antworten), Entlassungsempfehlungen nach den 15 häufigsten Prozeduren. Jedes Dokument wurde vor dem Hochladen vom Chefarzt auf Aktualität überprüft.

Bewusst NICHT hochgeladen: Patientenakten, Analyseergebnisse, Gesprächsnotizen. KI benötigt für Informationsfragen keinen Zugriff auf Daten einzelner Patienten – und deren Hochladen würde Art. 9 GDPR-Risiken hinzufügen und die ausdrückliche Zustimmung jedes Patienten ohne jeden funktionellen Vorteil erfordern.

Technische Konfiguration und warum so

Server: Hetzner Finnland, 32 GB RAM / 8 vCPU / RTX 3080 16GB / 500 GB SSD. Hetzner ist ein deutsches Unternehmen, der CLOUD Act findet keine Anwendung. Für eine Klinik mit österreichischen Patienten ist dies entscheidend: Die Haltung der DSB gegenüber amerikanischen Cloud-Anbietern ist die strengste in der EU. Finnland statt Nürnberg – der Wunsch des Kunden, ein geografisch getrenntes Rechenzentrum für zusätzliche Ausfallsicherheit zu haben.

Modell: Mistral Small 3 (24B) über Ollama – geschlossener Kreislauf. Für Informationsfragen zur Vorbereitung und zum Zeitplan ist Llama 3.3 70B überdimensioniert. Mistral Small 3 liefert eine Qualität von 9/10 bei doppelt so geringem Ressourcenverbrauch und Antworten in 3–8 Sekunden. Der geschlossene Kreislauf wurde wegen der Spezifität der Medizin gewählt: Selbst ein anonymisierter Ausschnitt "Vorbereitung auf Chemotherapie" deckt eine Krebserkrankung auf – kein Byte sollte den Server verlassen.

Drei Schnittstellen: Telegram-Bot (jüngere Patienten), Web-Chat auf der Website (ältere Patienten und Erstkontakt), interne Schnittstelle für Personal (nur von Klinik-IP-Adressen, Zugriff auf interne Regularien, die Patienten nicht haben).

Festlegen der Systemgrenzen – der wichtigste Schritt

Genau hier sparen die meisten KI-Anbieter Zeit – und genau hier investieren wir die meiste Aufmerksamkeit. Im Gesundheitswesen ist "KI hat etwas gegeben, das wie ein medizinischer Rat klingt" ein rechtliches und reputationsschädigendes Risiko für die Klinik.

Der System-Prompt enthält vier strenge Regeln:

• Nur auf Basis der Klinikdokumente antworten. Wenn keine Antwort vorhanden ist – ehrlich: "Unsere Dokumente enthalten keine Antwort auf diese Frage." Keine Antworten aus "Allgemeinwissen" – die Protokolle verschiedener Kliniken unterscheiden sich.
• Bei jeder medizinischen Frage – Standardweiterleitung. Die Grenze zwischen "informationell" und "medizinisch" ist nicht eindeutig. "Kann man Ibuprofen vor einem MRT nehmen?" hängt vom Zustand des Patienten ab, den die KI nicht kennt. Alles, was Medikamente, Symptome, Diagnosen betrifft – automatische Weiterleitung ohne Versuch einer Antwort.
• Immer die Quelle angeben. "Laut Vorbereitungsprotokoll für die Gastroskopie der Klinik [Name]" – der Patient kann es überprüfen, vertraut mehr. Bei einem Fehler sieht der Administrator sofort, welches Dokument korrigiert werden muss.
• Bei Unsicherheit – weiterleiten. Besser einmal mehr an einen Arzt weiterleiten als eine ungenaue Antwort geben.

Tests vor dem Start: 150 Testanfragen – 100 informativ und 50 medizinisch. Alle 50 medizinischen Anfragen erhielten die Standardweiterleitung ohne jeden Versuch einer inhaltlichen Antwort. Erst danach – der Start.

Ergebnisse nach 2 Monaten

• Antworten außerhalb der Geschäftszeiten: 100 % erhalten sofort eine Antwort (zuvor 0 %). Spitzenaktivität: 20:00–23:00 Uhr – genau dann bereiten sich Patienten auf morgige Prozeduren vor.
• Belastung der Verwaltungsangestellten: gleichartige Fragen, die eine manuelle Antwort erfordern – 65 % weniger. Das Personal kümmert sich um tatsächliche Termine und komplexe Situationen.
• Patientenzufriedenheit: in den Bewertungen regelmäßig "sehr bequem, auch nachts eine Antwort zu bekommen". Beschwerden über "Sie nehmen nicht ab" – sind verschwunden.
• GDPR-Audit nach einem Monat: alle Daten auf dem Server der Klinik, keine Übertragung an Dritte, Protokolle sind für den Administrator zugänglich. Das System entspricht den Anforderungen.
• Medizinische Fragen: null Fälle, in denen die KI versucht hat zu antworten. Jede medizinische Frage wurde in 2 Monaten mit der Standardweiterleitung beantwortet.
• Finanzielle Auswirkung: 9 Std./Tag × 17 € × 22 Tage = ~3.370 € eingesparte Kosten pro Monat bei 120 €/Monat für den Server.

Was nicht funktioniert hat und wie wir es ehrlich behoben haben

Scans ohne OCR. In den ersten zwei Wochen lieferten einige Protokolle leere oder ungenaue Antworten: 30 % der Klinikdokumente waren PDF-Scans ohne Textschicht. Lösung: Konvertierung über Adobe Acrobat und Online-OCR (2–3 Minuten pro Dokument). Nach der Konvertierung – Antwortqualität 9/10.

Veraltete Protokolle. Beim Hochladen stellte sich heraus, dass 15 % der Protokolle im Archiv alte Versionen waren. Wir baten den Chefarzt, die Aktualität jedes Dokuments zu überprüfen. Das dauerte eine Woche – rettete aber vor inkorrekten Antworten an Patienten.

Fragen an der Grenze. "Muss Metformin vor einem MRT abgesetzt werden?" – gleichzeitig Vorbereitung (im Protokoll vorhanden) und Frage nach Medikamenten (medizinisch). Lösung: Die Antwort gibt Informationen aus dem Protokoll und empfiehlt, dies mit dem Arzt zu bestätigen: "Laut unserem Protokoll: Wenn Sie Metformin einnehmen, informieren Sie den Arzt vor der Prozedur. Für eine individuelle Beratung – [Arztkontakt]."

Mehr Details zur Dokumentenvorbereitung – im Artikel Wie Dokumente für einen KI-Assistenten vorbereiten.

Was man dem Patienten sagen kann, wenn er nach KI fragt: Gesprächsskript

Diese Skripte haben wir gemeinsam mit Kunden-Medizinhäusern auf Basis der realen Fragen ihrer Patienten entwickelt.

"Antwortet hier eine KI oder ein Mensch?"

"Ja, das war unser KI-Assistent. Er arbeitet auf Basis der Dokumente unserer Klinik und beantwortet nur informationsbezogene Fragen. Medizinische Fragen – Symptome, Diagnosen, Behandlungen – beantwortet er nicht und leitet immer an einen Arzt weiter. Wenn Ihre Frage medizinisch ist – verbinde ich Sie mit einem Spezialisten."

"Wo werden meine Daten gespeichert?"

"Ihre Frage und unsere Antwort werden ausschließlich auf dem Server unserer Klinik in [EU-Land] gespeichert. Wir übermitteln Ihre Anfragen nicht an externe Dienste – weder ChatGPT, noch Google, noch irgendeine andere Plattform. Ihre medizinischen Akten und Analyseergebnisse sind überhaupt nicht mit diesem System verbunden."

"Ich möchte nicht, dass die KI meine Frage kennt"

"Wir respektieren Ihre Wahl vollkommen. Rufen Sie uns unter [Nummer] an oder schreiben Sie an [E-Mail] – ein Verwaltungsangestellter wird antworten. Der KI-Chat ist eine Option für Komfort außerhalb der Geschäftszeiten, kein Pflichtkanal."

"Wird die KI eine Diagnose stellen?"

"Nein, absolut nicht. Unsere KI antwortet nur auf informationsbezogene Fragen – Vorbereitung auf Prozeduren, Zeitpläne, Preise. Sobald eine Frage Symptome, Schmerzen oder Behandlung betrifft – sagt sie sofort 'Das ist eine medizinische Frage, wenden Sie sich an einen Arzt' und gibt die Kontaktdaten eines Spezialisten an. Medizin macht nur der Arzt."

Was präventiv melden – eine Begrüßungsnachricht des Bots

"Willkommen! Ich bin der KI-Assistent der Klinik [Name]. Ich beantworte Fragen zur Vorbereitung auf Prozeduren, zu Arztterminen, Preisen und Terminvereinbarungen. Auf medizinische Fragen (Symptome, Diagnosen, Medikamente) antworte ich nicht – dafür wenden Sie sich bitte an einen Arzt. Ihre Daten werden ausschließlich auf dem Server unserer Klinik gespeichert und nicht an Dritte weitergegeben."

30 Sekunden Lesezeit – beseitigen 90 % potenzieller Fragen und Missverständnisse.

Checkliste für den Chefarzt: 10 Fragen vor der KI-Implementierung

Sicherheit medizinischer Daten

• 1. Wo werden Patientenfragen physisch gespeichert? Richtige Antwort: auf dem Server der Klinik in der EU. Jede andere Antwort – erfordert eine detaillierte Analyse gemäß Art. 9 GDPR.
• 2. Werden Patientenakten in das System hochgeladen? Richtige Antwort: nein, niemals. KI für informationsbezogene Fragen benötigt keinen Zugriff auf Akten.
• 3. Kann jemand außer der Klinik technisch auf Anfragen zugreifen? Richtige Antwort: nein. Nicht "wir schauen nicht nach" – sondern "wir können technisch nicht". Self-hosted bietet genau diese Garantie.

Rechtliche Konformität

• 4. Wurde eine DPIA durchgeführt? Für KI, die potenzielle Daten nach Art. 9 verarbeitet – gemäß GDPR Art. 35 obligatorisch. Ohne diese – kennen Sie Ihre Risiken nicht und verstoßen gegen die Anforderung.
• 5. Gibt es einen DPO und ist er in die Implementierung eingebunden? Die meisten medizinischen Zentren sind verpflichtet, einen DPO zu haben. Er muss jedes neue Datenverarbeitungssystem bewerten.
• 6. Wurde die Rechtsgrundlage nach Art. 9(2) bestimmt? Normalerweise Art. 9(2)(h) oder (a). Muss vor dem Start dokumentiert und in die ROPA aufgenommen werden.

Funktionale Grenzen

• 7. Wie reagiert das System auf medizinische Fragen? Technisch prüfen: stellen Sie eine medizinische Testfrage und sehen Sie die Antwort. Richtig: Weiterleitung ohne jeglichen Versuch einer inhaltlichen Antwort.
• 8. Werden Anfragen in für die Klinik zugänglichen Logs erfasst? Wichtig für Audits und zur Erfüllung von Patientenrechten (Zugriff auf Daten, Löschung).

Management und Verantwortung

• 9. Wer ist konkret für die Systemadministration verantwortlich? Nicht "die IT-Abteilung allgemein" – sondern eine konkrete Person mit Rechten und Anweisungen.
• 10. Wie ist das Verfahren, wenn die KI eine falsche medizinische Antwort gibt? Vorfälle müssen erfasst und behoben werden. Ein Verfahren muss vor dem Start existieren – nicht nach dem ersten Vorfall.

Die vollständige Checkliste mit 20 Fragen – im Artikel KI-Sicherheitscheckliste: 20 Fragen vor der Implementierung für Unternehmen.

Häufig gestellte Fragen

Kann ein KI-Assistent Medikamente oder Dosierungen empfehlen?

Nein – das ist eine absolute Grenze. KI antwortet ausschließlich auf Basis von Klinikdokumenten. Wenn im Dokument eine allgemeine Entlassungsempfehlung enthalten ist – kann sie diese wiedergeben. Jede Frage zu spezifischen Medikamenten, Dosierungen oder Verordnungen – immer eine Weiterleitung an den Arzt ohne Ausnahmen.

Ist die Zustimmung des Patienten zur Nutzung eines KI-Chats erforderlich?

Wir empfehlen, die Informationen zur KI-Verarbeitung in die Datenschutzerklärung aufzunehmen und beim ersten Kontakt mit dem Chat eine kurze Nachricht anzuzeigen. Für ein System, das ausschließlich anonyme informationsbezogene Fragen ohne persönliche medizinische Daten verarbeitet – ist eine ausdrückliche Zustimmung nach Art. 9 nicht zwingend erforderlich. Aber Transparenz stärkt das Vertrauen der Patienten und ist Best Practice.

Was tun, wenn ein Patient in einer Krisensituation in den Chat schreibt?

Beim Erkennen von Schlüsselwörtern für Notfälle ("unerträgliche Schmerzen", "Atemnot", "Bewusstlosigkeit") – antwortet das System sofort: "Wenn Sie einen Notfall erleben – rufen Sie sofort 103 oder 112 an. Warten Sie nicht auf eine Antwort im Chat." Wir konfigurieren diesen Trigger bei jeder Implementierung.

Wie lange dauert die Implementierung?

5–7 Arbeitstage, wenn Dokumente in Textform vorliegen. Die meiste Zeit beansprucht die Dokumentenvorbereitung: Konvertierung von Scans per OCR, Überprüfung der Aktualität von Protokollen. Details – im Artikel Wie Dokumente für einen KI-Assistenten vorbereiten.

Schlussfolgerungen

• 🚫 KI ersetzt keinen Arzt: Diagnose, Verordnung, Behandlung – immer nur der Arzt. KI beantwortet nur informationsbezogene Fragen aus Klinikdokumenten.
• ✅ Realwert: Vorbereitung auf Prozeduren 24/7, Preise und Zeitpläne, Suche nach Protokollen für Personal – entlastet Verwaltungsangestellte von 60–70 % der Routineanfragen.
• ⚖️ Drei Regulierungsschichten: GDPR Art. 9 + EU AI Act + nationales Medizinrecht. KI-Assistent für Informationsfragen – kein High-Risk-System, wenn es klinische Entscheidungen nicht beeinflusst.
• 🚫 ChatGPT und Cloud-KI: Patientenfragen enthüllen medizinische Daten und fallen unter Art. 9. Cloud-Server unter US-amerikanischer Gerichtsbarkeit – rechtlich inakzeptabel für medizinische Zentren in der EU.
• 🏠 Self-hosted auf dem Klinikserver: die einzige Architektur, bei der Patientenanfragen und Klinikdokumente Ihren Perimeter technisch nicht verlassen.
• 💬 Patienten werden fragen: eine Klinik mit einer vorbereiteten ehrlichen Antwort stärkt das Vertrauen. Ein Gesprächsskript hilft, sicher und korrekt zu antworten.

Möchten Sie sehen, wie das für Ihre Klinik funktioniert?

Senden Sie uns einige Vorbereitungsprotokolle für Prozeduren und Ihre Preisliste. In 30 Minuten zeigen wir Ihnen eine Live-Demonstration: wie KI auf reale Patientenfragen antwortet – und wo sich diese Daten physisch befinden.

In Telegram schreiben →

Schlüsselfertige Implementierung in 5–7 Tagen. Server in der EU unter Ihrer Kontrolle. Patientendaten werden nicht in das System geladen.

Lesen Sie auch

• GDPR und KI auf Dokumenten: Was Unternehmen 2026 wissen müssen
• Self-hosted AI vs Cloud: Wo Ihre Daten verbleiben
• Geschlossener Kreislauf mit Ollama: KI ohne Internet für Unternehmen
• 6 Risiken von Datenlecks durch KI: Wie Unternehmen 2026 geschützt werden
• KI und GDPR in Deutschland und Österreich: Systemanforderungen 2026
• KI-Sicherheitscheckliste: 20 Fragen vor der Implementierung
• Wie Dokumente für einen KI-Assistenten vorbereiten
• Alle Artikel über Datensicherheit und KI

⸻

Quellen: Galeon — Health Data and GDPR 2026 · The Thinking Company — Healthcare AI Governance 2026 · DPO Consulting — GDPR in Healthcare · Momentum — GDPR Consent Requirements for Health Data · LegalNodes — EU AI Healthcare Regulation 2025 · Secure Privacy — Healthcare GDPR & Article 9 · Taylor Wessing — Re-use of Patient Data to Train AI · IMY — Fines against Apoteket and Apohem (2024)