Beim World Health Summit 2025 in Berlin diskutierten führende europäische und internationale Expert:innen, wie Künstliche Intelligenz (KI) endlich sicher und breiter in den klinischen Alltag einziehen kann. Trotz wachsender Zahl zugelassener KI-Medizinprodukte bleibt die tatsächliche Nutzung in Kliniken und Praxen zögerlich. Eine Kernbotschaft des Symposiums: Nicht die Entwicklung neuer Algorithmen ist das Problem, sondern ihre verlässliche, erklärbare und rechtskonforme Integration in reale Arbeitsabläufe.
Von der Blackbox zum interaktiven Partner
Ein zentrales Hemmnis bleibt das Misstrauen gegenüber „Blackbox“-Modellen, deren Entscheidungswege und Gewichtungen für medizinisches Personal kaum nachvollziehbar sind. „Als Kliniker werde ich niemals etwas anwenden, das ich dem Patienten nicht erklären kann“, sagte Carlo Tacchetti, Professor für Anatomie und Direktor des Strategischen Programms für KI am San Raffaele Scientific Institute in Mailand. Er fordert standardisierte Prozesse und Protokolle für erklärbare, zertifizierte Modelle – idealerweise eine Kombination aus datenstarken Blackbox-Ansätzen und transparenten Whitebox-Verfahren, die die Schlüsselfaktoren sichtbar machen.
Auch der US-Jurist Mark Geistfeld von der New York University betonte, dass sich moderne KI-Systeme technisch zu interaktiven Partnern entwickelt haben: „Man kann sie wie einen Kollegen befragen, ihre Argumentation hinterfragen und so eine fundierte eigene Entscheidung treffen.“ Dadurch werde aus der undurchsichtigen Maschine ein kollaboratives Werkzeug, das die ärztliche Verantwortung nicht ersetzt, sondern unterstützt.
Die Datenfrage: EHDS als Katalysator
Für die EU-Kommission ist klar: Ohne hochwertige, interoperable Daten bleibt KI Stückwerk. Fulvia Raffaelli, Leiterin der Einheit „Digital Health“ bei der Generaldirektion SANTE, bezeichnete den Europäischen Gesundheitsdatenraum (European Health Data Space, EHDS) als „katalysierendes Projekt“ für die Transformation des Gesundheitswesens. „Der EHDS schafft die rechtlichen und technischen Grundlagen für einen sicheren, grenzüberschreitenden Datenaustausch in der EU“, sagte sie. Damit entstehe die Basis, KI-Modelle fair zu trainieren, Verzerrungen zu reduzieren und auch gesunde Bevölkerungsdaten für Forschung und Innovation nutzbar zu machen.
Bis 2029 soll das System flächendeckend funktionieren – mit verpflichtender Interoperabilität von elektronischen Gesundheitsakten und klaren Governance-Strukturen für den Sekundärgebrauch von Daten. Der EHDS bildet damit das Rückgrat für vertrauenswürdige KI-Anwendungen, zusammen mit dem AI Act und der überarbeiteten Produkthaftungsrichtlinie (weitere Infos in unserem News-Beitrag „Der Europäische Gesundheitsdatenraum: Von der Vision bis zur konkreten Umsetzung„).
Mehr Praxis, weniger Konzept: Kommission und Kliniken unter Druck
Yiannos Tolias, Jurist und KI-Koordinator in der Generaldirektion SANTE, berichtete über eine aktuelle EU-Studie zur „Deployment of AI in Healthcare“. Ihr Befund: Die Ursachen für den schleppenden Einsatz liegen nicht an mangelnden Produkten – mehr als 900 KI-basierte Systeme sind bereits CE- oder FDA-zertifiziert -, sondern an fehlender IT-Infrastruktur, überlappenden Regularien, Haftungsunsicherheit und unklarer Finanzierung. „Viele Einrichtungen wissen schlicht nicht, in welches System sie investieren sollen und wie sie den Mehrwert belegen können“, so Tolias.
Genau dort setzt das neue EU-Projekt „Compass AI“ an, das Regina Beets-Tan, Radiologin und wissenschaftliche Direktorin des European Institute for Biomedical Imaging Research (EIBIR), vorstellte. Ziel sei, konkrete Best-Practice-Leitlinien für den sicheren KI-Einsatz zu entwickeln – validiert in klinischen Piloten, von Radiologie über Chirurgie bis zur Primärversorgung. „Der Mehrwert von KI misst sich nicht an der AUC, sondern daran, ob sie den Workflow entlastet, die Ergebnisqualität verbessert und in der spezifischen Umgebung funktioniert“, sagte Beets-Tan.
Recht und Verantwortung: Haftung wird nicht zum Bremsklotz für KI
Wie kann Haftungsrecht mit lernender, interaktiver KI Schritt halten? Geistfeld sieht darin kein unüberwindbares Hindernis. Medizinische Haftung, so seine Analyse, bleibe an den Maßstab des „verantwortungsvollen Arztes“ gebunden – egal, ob dieser sich von einem Kollegen oder einer Maschine beraten lasse. Entscheidend sei, dass der Arzt nachvollziehen könne, warum er einer KI-Empfehlung folgte oder sie verwarf. Damit werde die rechtliche Verantwortung klar verortet, ohne Innovation zu blockieren.
Quellen: * Symposium: „AI – From Promise to Practice: The Healthcare of Tomorrow – Designing Healthcare with the Deployment of AI“, 13. Okt. 2025. Im Rahmen des World Health Summit (WHS) 2025, Berlin, 12.-14.10.2025 (www.worldhealthsummit.org).
* Bildnachweis: Julien Tromeur, 9.1.2023. Unsplash.com.
* Autor: Rainer H. Bubenzer, Eichstädt bei Berlin, 14. Oktober 2025.