Deepfake-Mediziner:innen: „You want real truth in advertising“

‍Einige Aspekte im Überblick:

• ‍Massenhafte Verbreitung synthetischer Scheinmediziner: Laut einer Datenanalyse der Digitalagentur Hallam und Berichten des Guardian basieren bei spezifischen TikTok-Suchen wie „Health Tips“ bis zu 84% der reichweitenstärksten Videos auf KI-generierten Inhalten, die vielfach widerlegte medizinische Behauptungen verbreiten.‍
• Unterschiedliche Marktbedingungen in den USA und Europa: Während KI-Avatare in den USA laut Recherchen der New York Times für den direkten Verkauf ungeprüfter Nahrungsergänzungsmittel genutzt werden, dokumentieren Recherchen des Deutschlandfunks (DLF-Reihe „Medfluenced“) und Analysen der Verbraucherzentralen, wie Akteure im deutschsprachigen Raum die strengen Vorgaben des Heilmittelwerbegesetzes (HWG) und der EU-Health-Claims-Verordnung umgehen. Der Vertrieb erfolgt hier seltener über direkte Heilversprechen, sondern primär durch das Schüren von Ängsten vor angeblichen „Alltagsgiften“ und die Nutzung von indirektem Affiliate-Marketing.‍
• Konkrete Gesundheitsrisiken und EU-Regulierung: Fachgesellschaften wie die British Medical Association (BMA) und des NHS England warnen vor Gefahren durch verzögerte Behandlungen. Die Europäische Union tritt dem Trend mit dem EU AI Act (Kennzeichnungspflichten für Deepfakes nach Art. 50) und dem Digital Services Act (DSA) (Plattformpflichten zur Risikominimierung für die öffentliche Gesundheit) entgegen.

‍

Ausmaß und Methoden automatisierter Gesundheitstipps

Eine Datenanalyse der britischen Digitalagentur Hallam von 1.198 TikTok-Videos hat ergeben: Bei allgemeinen gesundheitsbezogenen Suchanfragen stammten rund 40% der reichweitenstärksten Beiträge von KI-generierten oder KI-unterstützten Profilen. Bei gezielten Begriffen wie „Health Tips“ lag dieser Anteil bei bis zu 84%. Die meistgesehenen Videos dieser Art verzeichneten im Schnitt 2,5 Millionen Aufrufe.

Die Erstellung dieser Inhalte basiert auf einer kostengünstigen und skalierten Produktion. Marketingagenturen, wie u.a. mit Sitz in China, nutzen spezialisierte Software, um hunderte Kurzvideos pro Tag zu Stückpreisen von etwa zehn US-Dollar zu generieren. Die gezeigten Personen existieren nicht; ihre Stimmen, ihr Äußeres sowie die visuellen Hintergründe, etwa Sprechzimmer mit gefälschten Diplomen, werden rein digital erzeugt.

‍

Das Geschäftsmodell: USA versus Europa und Deutschland

Die Einsatzmöglichkeiten und Zielsetzungen dieser Videosequenzen unterscheiden sich je nach rechtlichem Rahmen der Zielmärkte deutlich.

USA: Direkter Produktverkauf und aggressive Werbung‍

• In den USA trifft die Technologie auf eine vergleichsweise gelockerte Regulierung im Bereich der Nahrungsergänzungsmittel (Dietary Supplement Health and Education Act von 1994) sowie auf die Erlaubnis direkter Arzneimittelwerbung gegenüber Verbraucher:innen (Direct-to-Consumer Advertising).
• Investigative Recherchen der New York Times belegen, dass US-amerikanische Konsument:innen gezielt mit KI generierten Werbevideos angesprochen werden. (Von einer Betroffenen stammt auch die Forderung: „You want real truth in advertising.“)
• Die Avatare treten dort als Mediziner oder Fachleute für Naturheilkunde auf, um Nahrungsergänzungsmittel für spezifische Leiden wie Autoimmunerkrankungen, Nierenleiden oder Gelenkschmerzen zu bewerben.
• Der Vertrieb erfolgt meist über anonyme Firmensimulationen (LLCs) und E-Commerce-Plattformen. In mehreren Fällen führten solche Produkte zu behördlichen Interventionen, etwa durch die US-Gesundheitsbehörden FDA und CDC nach Salmonellenkontaminationen bei vertriebenen Pflanzenderivaten.

Deutschland und EU: Grauzonen und indirektes Marketing‍

• In Deutschland und der Europäischen Union verhindern gesetzliche Rahmenbedingungen, wie das Heilmittelwerbegesetz (HWG), die EU-Health-Claims-Verordnung und das Gesetz gegen den unlauteren Wettbewerb (UWG), direkte Heilversprechen für Nicht-Arzneimittel. Verpflichtende Wirksamkeitsnachweise schränken das direkte E-Commerce-Marketing für Nahrungsergänzungsmittel stark ein.
• Recherchen des Deutschlandfunks (Podcast-Reihe „Medfluenced“) sowie Analysen der Verbraucherzentralen belegen jedoch, wie KI-Avatare und reale Medfluencer:innen diese regulatorischen Hürden im deutschsprachigen Raum gezielt umgehen. Da direkte Verkaufsversprechen rechtliche Konsequenzen nach sich ziehen, verlagert sich die Strategie auf indirekte Verkaufsförderung:

Schüren von Ängsten vor „Alltagsgiften“: Erzeugung von Verunsicherung durch Skandalisierungen alltäglicher Produkte und Inhaltsstoffe (z. B. angeblich krebserregende Deodorants, Sonnencremes, Pflanzenöle oder Fluorid).

Konstruktion von Versorgungsdefiziten: Die wissenschaftlich nicht belegte Behauptung, die normale Ernährung sei heutzutage „nährstoffleer“ und mache die Einnahme spezifischer Präparate alternativlos.

Indirektes Affiliate-Marketing: Verweise auf externe Rabattcodes, Partner-Links, E-Books oder eigene Online-Shops werden außerhalb der direkt regulierten Videoflächen platziert, um die Inhaltsprüfungen der Social-Media-Plattformen zu unterlaufen.

Untergrabung der Evidenzmedizin: Systematische Infragestellung etablierter medizinischer Behandlungsstandards zugunsten ungeprüfter Alternativmethoden.

‍

‍

Auswirkungen auf Akteure im Gesundheitswesen

Patientinnen und Patienten

Untersuchungen von Healthwatch England zeigen, dass etwa jede fünfte Person soziale Medien als primäre Anlaufstelle für Gesundheitsfragen nutzt. Fehlt das Wissen über den Einsatz KI-generierter Medien, fällt die Unterscheidung zwischen wissenschaftlich fundierter Aufklärung und kommerziell motivierten Synthese-Videos schwer.

Ärztinnen und Ärzte

Vertreter von medizinischen Fachgesellschaften wie der British Medical Association (BMA) und dem Royal College of GPs berichten von einer zunehmenden Belastung des Behandlungsalltags. Ärztliches Personal muss Behandlungszeit aufwenden, um im Netz aufgeschnappte Mythen und Falschinformationen im Gespräch zu korrigieren.

Pharmaindustrie und Evidenzbasierte Kommunikation

Institutionen des Gesundheitswesens und Pharmaunternehmen unterliegen bei der Erstellung von Inhalten strengen Prüfprozessen (Medical, Legal, Regulatory | MLR). Diese Freigabeverfahren stellen die inhaltliche Korrektheit sicher, verlangsamen jedoch die Produktionsgeschwindigkeit. Punktuelle Aufklärungskampagnen treffen somit auf eine kontinuierliche, automatisierte Erzeugung von KI-Inhalten, was die Sichtbarkeit valider Informationen erschwert.

‍

Ausblick

Die immer schneller werdende Entwicklung generativer Bild- und Videotechnologien stellt Regulierungsbehörden und Plattformbetreiber vor strukturelle Herausforderungen. Zwar setzen gesetzliche Regelungen wie der EU AI Act und der Digital Services Act striktere Rahmenbedingungen für die Kennzeichnung von KI-Inhalten, die praktische Durchsetzung auf global agierenden Social-Media-Kanälen hinkt der Erstellung neuer Profile jedoch hinterher.

Im Kern betrifft die Debatte das Fundament der Gesundheitskommunikation: Vertrauen. Die Aussage der US-amerikanischen Betroffenen – „You want real truth in advertising“ – sagt es in diesem einen Satz: Gefragt ist die 100%-ige Transparenz darüber, ob eine medizinische Einschätzung oder Produktempfehlung von verifizierten Fachkräften oder von einem kommerziell gesteuerten Algorithmus stammt. Solange behördliche Vorgaben und die Inhaltsprüfung der Plattformen Lücken aufweisen, schützt vor allem die eigene Gesundheits- und Medienkompetenz vor Irreführung. Das ist wiederum eine Kommunikationschance für HCPs und Pharma.

‍

Wer mehr wissen möchte

Quellen

• The Guardian (2026): Misleading AI-generated doctors pose ‘huge danger to public safety’ (Berichterstattung über die Verbreitung synthetischer Medizin-Avatare auf TikTok und Warnungen britischer Fachgesellschaften (BMA, NHS).)
• The New York Times (2026): The Fake Influencers Selling Wellness on Your Feed (Investigativ-Recherche zur automatisierten Produktion KI-generierter Werbevideos für Nahrungsergänzungsmittel.)
• Deutschlandfunk: Medfluenced. Der Medizincheck (Podcast-Reihe zur wissenschaftlichen Überprüfung populärer Gesundheitsmythen auf Social Media.)
• Verbraucherzentralen / Bundesverband (vzbv): Marktanalysen und Warnungen zu unzulässigen Werbepraktiken, irreführenden Health Claims und verstecktem Affiliate-Marketing bei Nahrungsergänzungsmitteln im digitalen Raum.
• Hallam (2026): TikTok Health Misinformation Analysis (Datenauswertung von 1.198 TikTok-Videos zu gesundheitsbezogenen Suchbegriffen bezüglich der Durchdringung synthetischer Inhalte und deren Reichweite; https://dl.acm.org/doi/10.1145/3772318.3790857)
• Hallam-Blog Beitrag
• Savanta / Healthwatch England: Befragung unter 7.407 Erwachsenen in England zur Nutzung von Social-Media-Plattformen als primäre Quelle für Gesundheitsinformationen.
• Europäische Union: EU AI Act (Verordnung (EU) 2024/1689): Transparenz- und Kennzeichnungspflichten für synthetische Medien (insb. Art. 50); Digital Services Act (DSA): Risikominimierungs- und Sorgfaltspflichten für Online-Plattformen.
• Gesetzliche Vorgaben (Deutschland/EU): Heilmittelwerbegesetz (HWG) sowie EU-Health-Claims-Verordnung (Verordnung (EG) Nr. 1924/2006) zur Regulierung gesundheitsbezogener Werbeaussagen.