Die Digitalisierung des Gesundheitswesens steht nach wie vor vor strukturellen Problemen: Fachkräftemangel, hoher administrativer Aufwand und eine unzureichende Vernetzung klinischer Daten belasten die Versorgung. Die Nationale Akademie der Wissenschaften Leopoldina untersucht vor diesem Hintergrund den Einsatz agentischer künstlicher Intelligenz.
Im Vergleich zu bisher genutzten KI-Anwendungen unterscheidet sich die agentische KI im Wesentlichen durch ihren Handlungsspielraum:
In der klinischen Praxis bedeutet das: Bei einem akuten Herzinfarkt würde die agentische KI nicht mehr nur die Diagnose stellen. Sie würde umgehend das Behandlungsteam alarmieren, eine leitlinienkonforme Therapie vorschlagen, Vitalparameter in Echtzeit überwachen und in der Nachsorge selbstständig Kontrolltermine sowie die Rehabilitation koordinieren. Auch in der Onkologie könnte die KI künftig auf Basis molekulargenetischer Tumoranalysen personalisierte Therapiepläne erstellen und Voruntersuchungen steuern.
In der medizinischen und pharmazeutischen Forschung werden datengetriebene und agentische Systeme bereits für konkrete Teilaufgaben eingesetzt:
Der Einsatz autonom agierender Systeme im medizinischen Umfeld birgt spezifische Risiken, auf die sowohl die Forschung als auch die Leopoldina hinweisen:
1. Re-Identifizierung durch Datenschutz-Lücken
Eine Studie der Technischen Universität München (TUM), des Imperial College London und des Hasso-Plattner-Instituts in der Fachzeitschrift Nature zeigt, dass Medizin-KI-Modelle anfällig für sogenannte Membership Inference Attacks (MIAs) sind. Angreifer können mit dieser Methode rekonstruieren, ob die Daten einer spezifischen Person für das Training des Modells genutzt wurden. Das Risiko betrifft insbesondere seltene Krankheitsbilder oder unterrepräsentierte Patientengruppen, die sich fast zweifelsfrei identifizieren lassen. Wenn Dritte Rückschlüsse auf Diagnosen ziehen können, können den Betroffenen Nachteile entstehen, etwa bei Versicherungsabschlüssen. Die Forschenden fordern den Einsatz von Schutzverfahren wie Differential Privacy, bei denen Störsignale in die Trainingsdaten eingebaut werden.
2. Nachvollziehbarkeit („Blackbox-Problem“)
Damit Entscheidungen für das medizinische Personal verständlich bleiben, müssen KI-Modelle transparent arbeiten. Ein Beispiel für diesen Ansatz ist das System FlowXAI der Universität Marburg zur Diagnostik von B-Zell-Lymphomen. Das System zeigt nicht nur das Diagnoseergebnis an, sondern legt offen, welche Zellmerkmale ausschlaggebend waren, und stuft die eigene Verlässlichkeit in Kategorien wie „sicher“, „wahrscheinlich“ oder „schwierig“ ein.
3. Systemische und organisatorische Risiken
Die Leopoldina verweist zudem auf die Gefahr des Deskillings, bei dem medizinisches Personal durch zu starke Automatisierung praktische Fähigkeiten verliert. Zudem erhöht der autonome Zugriff von KI-Agenten auf klinische Datenbanken die Angriffsfläche für Cyberattacken. Es besteht auch ein struktureller Zielkonflikt: Um Verzerrungen in den Algorithmen zu vermeiden, werden große Datenmengen benötigt, was wiederum hohe Anforderungen an den Datenschutz stellt.
Um die Abhängigkeit von außereuropäischen Anbietern zu verringern, empfiehlt die Leopoldina, domänenspezifische KI-Modelle für die Medizin als Schwerpunkt in der Hightech-Agenda der Bundesregierung festzulegen. Zudem sollten regionale Kompetenzzentren aufgebaut und Kooperationen zwischen Universitätskliniken und der Industrie vereinfacht werden.
In rechtlicher Hinsicht fordert die Akademie eine pragmatische Anwendung der Datenschutz-Grundverordnung (DSGVO). Der Datenschutz dürfe nicht einseitig als Verhinderungsrecht interpretiert werden, wenn dadurch das Ziel eines hohen Gesundheitsschutzes beeinträchtigt werde. Gesetzliche Vorgaben müssten so gestaltet werden, dass Prozesse effizient ablaufen, die Letztentscheidung und Verantwortung aber nachweisbar beim medizinischen Fachpersonal verbleiben (Legal Design Thinking).
Parallel dazu verändert sich der gesetzliche Rahmen:
„Die Integration agentischer KI in das Gesundheitswesen ist kein fernes Zukunftsszenario, sondern zeichnet sich bereits jetzt ab. Agentische KI bietet das Potenzial, die Versorgungsqualität zu erhöhen und gleichzeitig medizinisches und Verwaltungspersonal zu entlasten. Deshalb sollten bereits jetzt die Voraussetzungen für einen verantwortungsvollen Einsatz geschaffen werden. Hierfür braucht es wirkungsvolle Förderstrategien, einen klar definierten rechtlichen und ethischen Rahmen sowie eine gut ausgebaute, interoperable und resiliente digitale Infrastruktur. Agentische KI-Systeme bieten konkrete Ansätze, um Prozesse in der medizinischen Forschung und in Versorgungsbetrieben zu strukturieren und Fachpersonal von administrativen Aufgaben zu entlasten.“
Emer Cooke, Executive Director der Europäischen Arzneimittel-Agentur (EMA), betont dazu: „Künstliche Intelligenz verändert rasant die Art und Weise, wie Arzneimittel entwickelt und reguliert werden. Als Regulierungsbehörde ist es unsere Aufgabe, sowohl Wegbereiter als auch Gatekeeper zu sein. Egal welche Werkzeuge wir nutzen, um Innovationen voranzutreiben: Wir müssen weiterhin sicher sein, dass nur Arzneimittel von nachgewiesener Qualität, Sicherheit und Wirksamkeit die Patientinnen und Patienten erreichen.“ (Quelle: Euractiv Health Policy Conference und AIMed2026)
- Der Policy Brief „Agentische KI im Gesundheitssystem: Chancen und Herausforderungen“ unter: www.leopoldina.org/agentische-ki
- Der Entscheidungsprozess agentischer KI gliedert sich laut Leopoldina in vier Phasen:
- Kabinett beschließt Gesetz für Daten und digitale Innovation im Gesundheitswesen (GeDIG)
Comprix
Langzeit-Ranking
TOP 3
Zertifizierter Google Partner
seit 2017
Mitglied im GWA – Deutschlands
führende Agenturen
