Funktionsweise: Der Unterschied zwischen konventioneller und agentischer KI

Die Digitalisierung des Gesundheitswesens steht nach wie vor vor strukturellen Problemen: Fachkräftemangel, hoher administrativer Aufwand und eine unzureichende Vernetzung klinischer Daten belasten die Versorgung. Die Nationale Akademie der Wissenschaften Leopoldina untersucht vor diesem Hintergrund den Einsatz agentischer künstlicher Intelligenz.

Im Vergleich zu bisher genutzten KI-Anwendungen unterscheidet sich die agentische KI im Wesentlichen durch ihren Handlungsspielraum:

• Konventionelle KI-Systeme arbeiten reaktiv. Sie führen definierte Einzelaufgaben aus, etwa die Erfassung von Strukturen in der Bildgebung oder die statistische Auswertung von Datensätzen, und geben Empfehlungen an das Personal weiter.
• Agentische KI-Systeme arbeiten proaktiv. Sie basieren meist auf großen Sprachmodellen (LLMs) im Verbund mit domänenspezifischen Basismodellen (Foundation Models). Diese Systeme können Abläufe automatisieren, die auf medizinischen Leitlinien, Standard Operating Procedures (SOPs) oder Medikationsregeln basieren.

In der klinischen Praxis bedeutet das: Bei einem akuten Herzinfarkt würde die agentische KI nicht mehr nur die Diagnose stellen. Sie würde umgehend das Behandlungsteam alarmieren, eine leitlinienkonforme Therapie vorschlagen, Vitalparameter in Echtzeit überwachen und in der Nachsorge selbstständig Kontrolltermine sowie die Rehabilitation koordinieren. Auch in der Onkologie könnte die KI künftig auf Basis molekulargenetischer Tumoranalysen personalisierte Therapiepläne erstellen und Voruntersuchungen steuern.

Aktuelle Einsatzfelder in der pharmazeutischen und klinischen Praxis

In der medizinischen und pharmazeutischen Forschung werden datengetriebene und agentische Systeme bereits für konkrete Teilaufgaben eingesetzt:

• ‍Molekulare Wirkstoffsuche: Bayer nutzt die KI-Plattform des Unternehmens Iambic Therapeutics, um durch Strukturvorhersage-Modelle gezielt kleine Moleküle für schwer zugängliche Proteinstrukturen zu identifizieren. Das Chan Zuckerberg Biohub veröffentlichte mit ESMC und ESMFold2 KI-Modelle zur Berechnung und Vorhersage von Proteininteraktionen.‍
• Reduktion von Studienfehlversuchen: Das Start-up Verge Labs setzt das Modell vBx-1.0 ein, um aus Blutproben die molekulare Aktivität im Gehirn zu simulieren. Das Ziel ist es, bei neurologischen Erkrankungen wie Parkinson vorab zu bestimmen, welche Patient:innen auf bestimmte Wirkstoffe ansprechen, um hohe Abbrecherquoten in klinischen Studien zu verringern.‍
• Plattformen für die Forschung: Anthropic stellt mit Claude Science eine Softwareumgebung bereit, die Daten aus der Genomik, Proteomik und Chemieinformatik mit Fachliteratur verknüpft, um Forschungsabläufe zentral zu analysieren. Bristol Myers Squibb nutzt Supercomputing-Infrastrukturen von NVIDIA, um datenintensive Analysemodelle in der Onkologie und Immunologie auszuführen.‍
• Sicherheitsprüfungen bei Sprachmodellen: OpenAI ließ das Modell GPT-5.5 Instant von Ärzt:innen anhand standardisierter Kriterien (HealthBench) evaluieren. Damit soll erreicht werden, dass medizinische Fragen von Anwendern präziser beantwortet und Notfälle verlässlicher erkannt werden.

‍

Sicherheitsrisiken: Datenschutz, Nachvollziehbarkeit und Cyber-Sicherheit

Der Einsatz autonom agierender Systeme im medizinischen Umfeld birgt spezifische Risiken, auf die sowohl die Forschung als auch die Leopoldina hinweisen:

1. Re-Identifizierung durch Datenschutz-Lücken‍

Eine Studie der Technischen Universität München (TUM), des Imperial College London und des Hasso-Plattner-Instituts in der Fachzeitschrift Nature zeigt, dass Medizin-KI-Modelle anfällig für sogenannte Membership Inference Attacks (MIAs) sind. Angreifer können mit dieser Methode rekonstruieren, ob die Daten einer spezifischen Person für das Training des Modells genutzt wurden. Das Risiko betrifft insbesondere seltene Krankheitsbilder oder unterrepräsentierte Patientengruppen, die sich fast zweifelsfrei identifizieren lassen. Wenn Dritte Rückschlüsse auf Diagnosen ziehen können, können den Betroffenen Nachteile entstehen, etwa bei Versicherungsabschlüssen. Die Forschenden fordern den Einsatz von Schutzverfahren wie Differential Privacy, bei denen Störsignale in die Trainingsdaten eingebaut werden.‍

2. Nachvollziehbarkeit („Blackbox-Problem“)

Damit Entscheidungen für das medizinische Personal verständlich bleiben, müssen KI-Modelle transparent arbeiten. Ein Beispiel für diesen Ansatz ist das System FlowXAI der Universität Marburg zur Diagnostik von B-Zell-Lymphomen. Das System zeigt nicht nur das Diagnoseergebnis an, sondern legt offen, welche Zellmerkmale ausschlaggebend waren, und stuft die eigene Verlässlichkeit in Kategorien wie „sicher“, „wahrscheinlich“ oder „schwierig“ ein.

3. Systemische und organisatorische Risiken

Die Leopoldina verweist zudem auf die Gefahr des Deskillings, bei dem medizinisches Personal durch zu starke Automatisierung praktische Fähigkeiten verliert. Zudem erhöht der autonome Zugriff von KI-Agenten auf klinische Datenbanken die Angriffsfläche für Cyberattacken. Es besteht auch ein struktureller Zielkonflikt: Um Verzerrungen in den Algorithmen zu vermeiden, werden große Datenmengen benötigt, was wiederum hohe Anforderungen an den Datenschutz stellt.

‍

Regulatorische Rahmenbedingungen und Gesetzgebung

Um die Abhängigkeit von außereuropäischen Anbietern zu verringern, empfiehlt die Leopoldina, domänenspezifische KI-Modelle für die Medizin als Schwerpunkt in der Hightech-Agenda der Bundesregierung festzulegen. Zudem sollten regionale Kompetenzzentren aufgebaut und Kooperationen zwischen Universitätskliniken und der Industrie vereinfacht werden.

In rechtlicher Hinsicht fordert die Akademie eine pragmatische Anwendung der Datenschutz-Grundverordnung (DSGVO). Der Datenschutz dürfe nicht einseitig als Verhinderungsrecht interpretiert werden, wenn dadurch das Ziel eines hohen Gesundheitsschutzes beeinträchtigt werde. Gesetzliche Vorgaben müssten so gestaltet werden, dass Prozesse effizient ablaufen, die Letztentscheidung und Verantwortung aber nachweisbar beim medizinischen Fachpersonal verbleiben (Legal Design Thinking).

Parallel dazu verändert sich der gesetzliche Rahmen:

• National: Das Bundeskabinett hat den Entwurf für das Gesetz für Daten und digitale Innovation im Gesundheitswesen (GeDIG) beschlossen. Es sieht den Ausbau der elektronischen Patientenakte (ePA), die Einführung der digitalen Überweisung sowie die vereinfachte Nutzung von Gesundheitsdaten für Versorgungs- und Forschungszwecke vor.
• Europäisch: Die Europäische Arzneimittel-Agentur (EMA) nutzt KI-Anwendungen zur Unterstützung bei Bewertungen und verweist auf die Bedeutung regulierter Datenräume wie DARWIN EU und den European Health Data Space (EHDS). Zusammen mit dem EU AI Act soll sichergestellt werden, dass KI-gestützte Entwicklungen Qualitäts- und Sicherheitsstandards erfüllen.

Das Fazit im „Leopoldina Fokus“ lautet:

„Die Integration agentischer KI in das Gesundheitswesen ist kein fernes Zukunftsszenario, sondern zeichnet sich bereits jetzt ab. Agentische KI bietet das Potenzial, die Versorgungsqualität zu erhöhen und gleichzeitig medizinisches und Verwaltungspersonal zu entlasten. Deshalb sollten bereits jetzt die Voraussetzungen für einen verantwortungsvollen Einsatz geschaffen werden. Hierfür braucht es wirkungsvolle Förderstrategien, einen klar definierten rechtlichen und ethischen Rahmen sowie eine gut ausgebaute, interoperable und resiliente digitale Infrastruktur. Agentische KI-Systeme bieten konkrete Ansätze, um Prozesse in der medizinischen Forschung und in Versorgungsbetrieben zu strukturieren und Fachpersonal von administrativen Aufgaben zu entlasten.“

Emer Cooke, Executive Director der Europäischen Arzneimittel-Agentur (EMA), betont dazu:

„Künstliche Intelligenz verändert rasant die Art und Weise, wie Arzneimittel entwickelt und reguliert werden. Als Regulierungsbehörde ist es unsere Aufgabe, sowohl Wegbereiter als auch Gatekeeper zu sein. Egal welche Werkzeuge wir nutzen, um Innovationen voranzutreiben: Wir müssen weiterhin sicher sein, dass nur Arzneimittel von nachgewiesener Qualität, Sicherheit und Wirksamkeit die Patientinnen und Patienten erreichen.“ (Quelle: Euractiv Health Policy Conference und AIMed2026)

Emer Cooke

Wer mehr wissen möchte:

- Der Policy Brief „Agentische KI im Gesundheitssystem: Chancen und Herausforderungen“ unter: www.leopoldina.org/agentische-ki

Aktualisierung aus der Praxis: OpenAI startet „ChatGPT Health“ in den USA (23. Juli 2026)

OpenAI hat den Start von „ChatGPT Health“ in den USA eingeläutet. Gesundheitsdaten, darunter Einträge aus Apple Health und elektronischen Krankenakten von US-Krankenhaussystemen, können direkt mit der Plattform verknüpft werden. Der Anlass für das Feature: Laut OpenAI nutzen bereits über 300 Millionen Menschen die Plattform wöchentlich für gesundheitsbezogene Anliegen, etwa um Laborwerte zu verstehen oder Arztgespräche vorzubereiten.

Worin liegt der Nutzen, wie ein Anwender beschreibt: „…hat mir geholfen, mich in meiner eigenen Krankengeschichte weniger verloren zu fühlen. Statt nur zusammenhanglose Diagnosen, Befunde und Operationsberichte zu sehen, konnte ich das Gesamtbild verstehen.“

Einige andere Aspekte sind:

• Strukturierung von Daten: Diagnosen, Operationsberichte und Laborbefunde können in einer chronologischen Übersicht zusammengeführt werden.
• Vorbereitung auf Arzttermine: Medizinische Fachbegriffe werden in Alltagssprache übersetzt. Mehrere Tester:innen gaben an, dass ihnen dies helfe, gezieltere Fragen im Gespräch mit Ärzt:innen oder Therapeut:innen zu stellen.
• Kein Ersatz für Fachpersonal: Eine beteiligte Pflegekraft betonte, dass der Hauptnutzen nicht im Ersetzen von medizinischem Personal liege, sondern im besseren Verständnis der eigenen Daten, etwa um unerwartete Einträge in der Akte gezielt beim nächsten Arztbesuch anzusprechen.
• Datenschutzerklärung: Synchronisierte Gesundheitsdaten sowie die darauf basierenden Chats werden laut OpenAI nicht für das Training der Basismodelle oder für Werbung genutzt.
• Modellarchitektur: Für die Auswertung kommen die Modellvarianten GPT-5.5 Instant (kostenfreie Nutzung) und GPT-5.6 Sol (kostenpflichtige Abonnements) zum Einsatz.
  

Auswirkungen auf Therapie und Pharmaindustrie: Lassen Patienten Medikationspläne, Wechselwirkungen oder Beipackzettel per KI aufbereiten, verändert das ihr Verständnis für die eigene Behandlung und die Genauigkeit bei der Einnahme oder überhaupt bei der Adherence. Pharmaunternehmen müssen medizinische Fachinformationen deshalb künftig so aufbereiten, dass KI-Systeme sie fehlerfrei auslesen können. Außerdem verlieren herstellereigene Apps an Bedeutung, wenn Patienten ihre Gesundheitsdaten lieber auf einer einzigen, zentralen KI-Plattform sammeln statt in vielen verschiedenen Anwendungen.

Hintergrund: Der Rollout erfolgt während juristischer Auseinandersetzungen in den USA. Gegen OpenAI sind derzeit mindestens zwei Klagen anhängig, die dem Unternehmen vorwerfen, fehlerhafte medizinische Ratschläge erteilt zu haben, die zu schweren gesundheitlichen Schäden führten. OpenAI weist darauf hin, dass das System Fehler machen kann und keine professionelle medizinische Beratung ersetzt.

(Quellen: OpenAI; FirstWord Pharma | Foto: Screenshot Website OpenAI ChatGPT Health)

- Der Entscheidungsprozess agentischer KI gliedert sich laut Leopoldina in vier Phasen:

1. Zielerfassung: Das System erhält eine übergeordnete Vorgabe.
2. Planung: Die Aufgabe wird autonom in logische Teilschritte zerlegt.
3. Ausführung: Der Agent nutzt Programmierschnittstellen (APIs), um externe Programme oder Datenbanken anzusteuern.
4. Feedback-Schleife: Bei Abweichungen korrigiert das System den Ablauf selbstständig oder übergibt den Vorgang an Fachpersonal.
   

- Kabinett beschließt Gesetz für Daten und digitale Innovation im Gesundheitswesen (GeDIG)

‍