Vom Datenschutz zur Patientensicherheit und echten Datensouveränität

KI-Governance im Spital

KI-Governance im Spital
  • Insight
  • 5 minute read
  • 17/11/26

Warum KI-Governance im Spital anders ist

Spitäler bewegen sich im Spannungsfeld von besonders schützenswerten Gesundheitsdaten, klinischen Entscheidungen und einem Betrieb, der rund um die Uhr funktionieren muss. Eine datenschutzkonforme und technisch sichere Bereitstellung von KI genügt hier nicht. Ein fehlerhaftes Ergebnis kann direkt in eine Behandlung, eine Dokumentation oder eine operative Entscheidung einfliessen; Ausfälle, unklare Zuständigkeiten oder intransparente Datenwege untergraben zugleich das Vertrauen von Patientinnen und Patienten sowie Mitarbeitenden. Wirksame KI-Governance im Spital vereint deshalb drei Ziele: den Schutz der Daten, die Qualität der klinischen Anwendung und die Verlässlichkeit des Betriebs. Sie ist kein Kontrollschritt, der erst nach der technischen Umsetzung folgt, sondern die Voraussetzung dafür, KI verantwortungsvoll in die Versorgung zu integrieren und später zu skalieren.

Vom Datenschutz zur Patientensicherheit

Datenschutz bleibt der zentrale Ausgangspunkt, markiert im Spital aber nicht das Ende der Governance. Für jeden Use Case ist zu klären, welche Aufgabe die KI übernimmt, welche Daten sie dafür wirklich benötigt, wer ihre Ergebnisse beurteilt und welche Folgen ein Fehler haben kann. Ein System, das Texte zusammenfasst, erfordert andere Kontrollen als eine Anwendung, die klinische Informationen aus Fachsystemen abruft oder Entwürfe in die Patientendokumentation zurückschreibt. Mit jedem zusätzlichen Handlungsschritt wachsen Nutzenpotenzial, Prüfbedarf und mögliche Auswirkungen. Menschliche Bestätigungspunkte, Abbruchregeln und Eskalationswege sind daher entlang des konkreten Handlungsspielraums festzulegen. Ebenso zentral ist eine klinisch relevante Qualitätssicherung: Allgemeine Benchmarks ersetzen keine Tests mit repräsentativen Aufgaben, deutscher medizinischer Fachsprache und den Dokumenten, die im Spital tatsächlich im Einsatz sind. Zu bewerten sind nicht nur Genauigkeit und Faktentreue, sondern auch Quellenbezug, Ausfallverhalten, Latenz und der erforderliche menschliche Prüfaufwand.

Der Standort allein schafft noch keine Datensouveränität

Die Verarbeitung in einem Schweizer Rechenzentrum ist ein wichtiger Baustein, beantwortet aber zentrale Fragen nicht: Wer hat administrativen Zugriff? Welche Unterauftragnehmer sind beteiligt? Werden Eingaben oder Ausgaben gespeichert? Wie werden Modelle aktualisiert, und wie werden Daten bei einem Anbieterwechsel zurückgegeben und gelöscht? Echte Datensouveränität entsteht erst aus dem gesamten Betriebs- und Vertragsmodell. Vier Perspektiven sind dabei entscheidend: Recht klärt Rechtsgrundlage, Zweck, Berufsgeheimnis und je nach Anwendung weitere regulatorische Anforderungen. Daten umfasst Minimierung, Berechtigungen, Schlüssel, Speicherung und Protokollierung. Betrieb regelt Betreiberrolle, Überwachung, Aktualisierung, Vorfälle und Wiederanlauf. Ausstieg stellt sicher, dass Daten und gegebenenfalls Modelle exportiert, gelöscht oder auf eine geprüfte Ersatzlösung überführt werden können. Erst im Zusammenspiel machen diese vier Perspektiven Kontrolle nachweisbar und verhindern, dass der Datenstandort mit Datensouveränität gleichgesetzt wird.

Abbildung 2: Vier Säulen einer kontrollierbaren KI für sensible Spitaldaten: Recht, Daten, Betrieb und Ausstieg.

Governance muss das gesamte Betriebsmodell erfassen

Je nach Schutzbedarf und zulässiger Datenverarbeitung kommen unterschiedliche Betriebsmodelle infrage: ein gemeinsam betriebener Schweizer KI-Dienst, eine dedizierte Schweizer Plattform, ein lokaler Eigenbetrieb oder ein Mischbetrieb mit Regeln je Datenklasse. Keine Variante ist per se überlegen. Ein externer Dienst bietet Tempo und elastische Nutzung, setzt aber belastbare Verträge und kontrollierte Datenwege voraus. Eine dedizierte Plattform schafft mehr Abschottung, lässt die Betriebsverantwortung jedoch weiterhin teilweise beim Anbieter. Der Eigenbetrieb gewährleistet maximale technische Kontrolle, macht das Spital aber selbst verantwortlich für Verfügbarkeit, Sicherheit, Patches, Monitoring und den Modelllebenszyklus.

Governance macht diese Unterschiede in Entscheidungen greifbar. Am Anfang steht die rote Linie: Welche Datenklassen und Zwecke sind zulässig, welche Verarbeitung darf ausserhalb des Spitals stattfinden, und wer darf auf Systeme und Protokolle zugreifen? Anschliessend werden nur die rechtlich und organisatorisch zulässigen Varianten mit demselben Aufgabenpaket getestet. Eine zentrale KI-Zugangsschicht kann Modellfreigaben, Identitäten, Budgets, Weiterleitungen und technische Protokolle steuern; die rechtliche Beurteilung und die klinische Qualitätssicherung ersetzt sie jedoch nicht. Auch die Anbindung an ein Klinikinformationssystem sollte stufenweise erfolgen: vom separaten Chat über einen begrenzten Lesezugriff und den kontrollierten Dokumentenbezug bis zum versionierten Rückschreiben mit menschlicher Bestätigung. Jede neue Integrations- oder Handlungsebene erfordert damit eine erneute Governance-Entscheidung.

Fünf Erfolgsfaktoren für die Umsetzung

  • Klinische Verantwortung: Jeder Use Case braucht eine fachlich verantwortliche Rolle, definierte Prüfpflichten und klare Eskalationswege.
  • Verbindliche Datenwege: Datenklassen, Zwecke, Berechtigungen, Verarbeitungsorte und administrative Zugriffe sind vor dem Pilot verbindlich zu klären.
  • Use-Case-spezifische Qualität: Modelle und Arbeitsabläufe werden mit repräsentativen Spitalaufgaben, messbaren Kriterien und dokumentierten Entscheidungsschwellen getestet.
  • Verlässlicher Betrieb: Monitoring, Aktualisierung, Vorfallmanagement, Wiederanlauf und Rückfalllösungen sind von Anfang an fester Bestandteil des KI-Dienstes.
  • Ausstieg und Lernen: Anbieterwechsel, Datenrückgabe und Löschung sind ebenso zu regeln wie die kontinuierliche Verbesserung nach dem Roll-out.

Kurz gesagt

KI-Governance im Spital wirkt, wenn sie Datenschutz, Patientensicherheit und Datensouveränität gemeinsam steuert. Der Standort der Infrastruktur zählt dabei, genügt aber nicht. Entscheidend ist, ob Datenwege, klinische Verantwortung, Betreiberrollen, Qualitätskontrollen und Ausstieg verbindlich geregelt und im Alltag nachweisbar sind. Wer diese Fragen vor der Technikwahl beantwortet und jede Erweiterung des Handlungsspielraums bewusst freigibt, legt die Grundlage dafür, dass aus einem vielversprechenden Pilotprojekt ein sicherer und dauerhaft tragfähiger KI-Dienst wird.

Kontaktieren Sie uns

Michael Ruch

Senior Manager Beratung Gesundheitswesen, PwC Switzerland

+41 58 792 50 07

E-Mail