„Stimmt die Antwort?“ ist bei KI im Gesundheitswesen die falsche Frage.

Die Debatte über generative KI im Gesundheitswesen dreht sich fast ausschließlich um eine Frage: Sind die Antworten von ChatGPT, Gemini oder Claude medizinisch korrekt? In einem neuen Viewpoint im European Journal of Public Health argumentiert Christoph Dockweiler, dass diese Verengung in die Irre führt. Sie reduziert einen strukturellen Wandel des gesundheitlichen Informationsumfelds auf ein technisches Qualitätsproblem — und übersieht das Eigentliche.

Wenn Millionen Menschen KI-Systeme zu Symptomen, Prävention oder Therapie befragen, verschiebt sich, unter welchen Bedingungen Bevölkerungen Gesundheitswissen bilden, anzweifeln und revidieren — und zwar ohne Public-Health-Aufsicht. KI-Inhalte tragen keine Autorschaft, keine Interessenkonflikte, kein Peer Review; sie verschmelzen Evidenz, Näherung und plausibel klingende Vermutung zu einem flüssigen, personalisierten Narrativ, dessen Quellen sich weder benennen noch prüfen lassen.

Daraus entsteht eine neue Ungleichheit — ein „AI Divide“. Er betrifft nicht den Zugang zu KI (der schwindet rasch), sondern die ungleich verteilte Fähigkeit, KI-generierte Gesundheitsnarrative zu erkennen, einzuordnen und zu hinterfragen. Da fast die Hälfte der Bevölkerung in mehreren EU-Staaten über geringe Gesundheitskompetenz verfügt, ersetzt konversationelle KI für genau diese Gruppen institutionelle Information zunehmend, statt sie zu ergänzen. Es ist eine Lücke nicht im Zugang, sondern in der epistemischen Handlungsfähigkeit.

Die Regulierung schaut derweil an der falschen Stelle hin: Der EU AI Act stuft klinische Entscheidungsunterstützung als hochriskant ein — die verbrauchernahen Chatbots aber, über die Millionen ihr Gesundheitswissen beziehen, bleiben weitgehend außen vor. Kurz: Europa zieht Leitplanken um die Klinik, während das Informationsumfeld davor neu geschrieben wird.

Was folgt daraus? Drei konkrete Ansatzpunkte: verbrauchernahe Gesundheits-KI als public-health-relevante Informationsinfrastruktur anerkennen und mit Transparenzpflichten versehen; Health-Literacy-Konzepte um jene Kompetenzen erweitern, die generative Systeme verlangen; und Public-Health-Institutionen ermutigen, in der konversationellen Gesundheitskommunikation eine eigene Präsenz aufzubauen — statt dieses Feld Systemen zu überlassen, die für Engagement optimiert sind, nicht für informierte Entscheidungen.

„Die entscheidende Frage ist nicht, ob KI korrekt antwortet, sondern wer ihre Antworten noch hinterfragen kann. Genau dort entscheidet sich künftig gesundheitliche Chancengleichheit.“ Prof. Dr. Christoph Dockweiler