Eine neue Studie aus Großbritannien kommt zu einem alarmierenden Ergebnis: Die Nutzung von Künstlicher Intelligenz (KI) zur medizinischen Beratung kann für Patientinnen und Patienten gefährlich sein. Forschende der Universität Oxford warnen davor, sich bei gesundheitlichen Fragen auf KI-Chatbots zu verlassen, da diese häufig ungenaue, widersprüchliche oder sogar falsche Informationen liefern.
Die Untersuchung wurde vom Oxford Internet Institute sowie vom Nuffield Department of Primary Care Health Sciences durchgeführt. Ziel war es, zu analysieren, wie zuverlässig KI-basierte Systeme bei medizinischen Entscheidungen sind. Laut den Forschenden zeigen sich dabei erhebliche Risiken – insbesondere dann, wenn Menschen versuchen, anhand von KI-Antworten eigenständig Diagnosen zu stellen oder über das weitere Vorgehen zu entscheiden.
Dr. Rebecca Payne, Mitautorin der Studie und praktizierende Hausärztin, betont, dass KI trotz des großen öffentlichen Interesses noch nicht in der Lage sei, die Rolle einer Ärztin oder eines Arztes zu übernehmen. „Patienten sollten wissen, dass es gefährlich sein kann, große Sprachmodelle nach Symptomen zu fragen“, erklärt sie. Die Systeme würden nicht nur falsche Diagnosen liefern, sondern oft auch nicht erkennen, wann dringend medizinische Hilfe erforderlich ist.
Im Rahmen der Studie wurden rund 1.300 Teilnehmende gebeten, verschiedene gesundheitliche Szenarien zu bewerten. Sie sollten mögliche Erkrankungen identifizieren und entscheiden, welche nächsten Schritte sinnvoll wären. Ein Teil der Gruppe nutzte dafür KI-basierte Sprachmodelle, während andere auf klassische Wege zurückgriffen, etwa den Kontakt zu einer Hausarztpraxis.
Die Ergebnisse zeigten deutlich: Die KI lieferte häufig eine Mischung aus korrekten und fehlerhaften Informationen. Vielen Nutzenden fiel es schwer, diese voneinander zu unterscheiden. Zwar schneiden moderne KI-Systeme bei standardisierten medizinischen Wissenstests gut ab, doch im realen Anwendungskontext – mit individuellen Symptomen und Unsicherheiten – stoßen sie an ihre Grenzen.
Andrew Bean, Hauptautor der Studie, erklärt, dass insbesondere die Interaktion mit Menschen eine große Herausforderung für selbst leistungsstarke KI-Modelle darstelle. Gesundheit sei ein sensibler Bereich mit hohen Risiken, in dem kleine Fehler schwerwiegende Folgen haben könnten.
Die Forschenden hoffen, dass ihre Arbeit zu einer vorsichtigeren Nutzung von KI im Gesundheitsbereich beiträgt. KI könne Ärztinnen und Ärzte möglicherweise in Zukunft unterstützen, solle aber keinesfalls unkritisch als Ersatz für professionelle medizinische Beratung eingesetzt werden. Für Patientinnen und Patienten gilt weiterhin: Bei gesundheitlichen Beschwerden ist der Gang zu qualifiziertem Fachpersonal der sicherste Weg.
