Forscher des Mount Sinai Health System in New York haben 20 KI-Modelle mit über 3,4 Millionen Anfragen getestet, um ihre Anfälligkeit für medizinische Fehlinformationen zu untersuchen. Die Studie, veröffentlicht in The Lancet Digital Health, ergab, dass selbst fortschrittliche Large Language Models (LLMs) anfällig für fabrizierte medizinische Fakten sind, insbesondere wenn diese in professioneller, klinischer Sprache formuliert sind. KI-Modelle zeigten eine deutlich höhere Akzeptanz von Falschaussagen, wenn diese in Arztbriefen eingebettet waren (46,1%), verglichen mit Informationen aus Reddit-Foren (8,9%). Speziell auf Medizin trainierte Modelle waren nicht zwangsläufig sicherer als Allzweckmodelle wie GPT-4o, das sich als robustestes Modell erwies. Die Ergebnisse unterstreichen die Notwendigkeit kontextbezogener Schutzmechanismen und die Unverzichtbarkeit ärztlicher Kontrolle im Gesundheitswesen.