In Kürze

  • Forschende um Marzyeh Ghassemi (MIT) und Roxana Daneshjou (Stanford) liessen medizinische Laien sowie Grundversorgerinnen und -versorger Hautkrankheiten diagnostizieren – mit und ohne Unterstützung verschiedener erklärbarer KI-Systeme, darunter auch Systeme mit textbasierten Erklärungen durch Sprachmodelle.
  • KI-Unterstützung verbesserte die Diagnosegenauigkeit in beiden Gruppen grundsätzlich; der Effekt einzelner Erklärungsarten unterschied sich jedoch stark: Bei Laien war die Tendenz, sich auf eine KI-Erklärung zu verlassen, bei Sprachmodell-Erklärungen am stärksten ausgeprägt – auch wenn die Erklärung falsch war, und sie waren dabei überdurchschnittlich sicher, richtig zu liegen.
  • Fachpersonen erwiesen sich dagegen als deutlich widerstandsfähiger gegenüber falschen KI-Erklärungen: Da sie meist bereits eine eigene Diagnosevermutung mit ihrer Ausbildung abgleichen, fiel ihnen eine unplausible Begründung eher auf; von allen getesteten Erklärungsarten verbesserten Sprachmodell-Erklärungen die Genauigkeit der Fachpersonen am wenigsten.

Was ist passiert?

Ein Forschungsteam um Marzyeh Ghassemi, außerordentliche Professorin am Institut für Elektrotechnik und Informatik (EECS) des MIT, und Roxana Daneshjou, Assistenzprofessorin für biomedizinische Datenwissenschaft und Dermatologie an der Stanford University, untersuchte in einer am 4. August 2026 vorgestellten und in der Fachzeitschrift «Nature Medicine» veröffentlichten Studie, wie sich KI-gestützte Diagnosehilfen auf medizinische Laien und auf Grundversorgerinnen und -versorger unterschiedlich auswirken. Die Testpersonen sollten Hautkrankheiten anhand von Bildern diagnostizieren – teils ohne KI-Unterstützung, teils mit Hilfe verschiedener erklärbarer KI-Systeme, die ihre Einschätzung jeweils unterschiedlich begründeten, darunter auch textbasierte Erklärungen durch Sprachmodelle.

Grundsätzlich verbesserte KI-Unterstützung die Diagnosegenauigkeit sowohl bei Laien als auch bei Fachpersonen. Die Wirkung einzelner Erklärungsarten fiel jedoch deutlich unterschiedlich aus: Bei Laien war der sogenannte Deferenz-Effekt – also die Tendenz, sich auf die KI-Einschätzung zu verlassen – bei Erklärungen durch Sprachmodelle am stärksten ausgeprägt, und zwar auch dann, wenn die KI-Erklärung tatsächlich falsch war. Laien waren in diesen Fällen zudem überdurchschnittlich zuversichtlich, richtig zu liegen. Fachpersonen dagegen blieben gegenüber falschen KI-Erklärungen weitgehend resistent; von sämtlichen getesteten Erklärungsarten verbesserten Sprachmodell-Erklärungen ihre Diagnosegenauigkeit sogar am wenigsten.

Warum ist das wichtig?

Die Studie liefert eine plausible Erklärung für den Unterschied: Eine Fachperson hat in der Regel bereits eine eigene Diagnosevermutung im Kopf und gleicht die KI-Erklärung mit der eigenen Ausbildung ab – eine unplausible Begründung fällt ihr dadurch eher auf. Ein medizinischer Laie hingegen nutzt genau dieselbe Erklärung oft erst, um sich überhaupt eine Meinung zu bilden; eine selbstsicher klingende, aber falsche Begründung kann ihn dadurch gezielt in die falsche Richtung lenken. Für die Gestaltung medizinischer KI-Anwendungen bedeutet das: Ein und dasselbe Erklärungsformat kann je nach Nutzerkreis nützen oder schaden.

Die Ergebnisse sind besonders relevant, weil KI-gestützte Diagnosehilfen zunehmend nicht nur in Spitälern und Praxen, sondern auch direkt in Endkundenanwendungen wie Symptom-Checker-Apps zum Einsatz kommen, die sich explizit an medizinische Laien richten. Die Studie legt nahe, dass Entwicklerinnen und Entwickler solcher Systeme Erklärungsformate nicht pauschal, sondern gezielt nach Fachwissen der Zielgruppe gestalten sollten – etwa durch einfachere, stärker abgesicherte Erklärungen für Laien und detailliertere, technischere Begründungen für Fachpersonal.

Was bedeutet das für die Schweiz?

  • Für Schweizer Gesundheitsanwendungen mit direktem Patientenkontakt – etwa Symptom-Checker-Apps von Krankenkassen oder Telemedizin-Anbietern – liefert die Studie einen konkreten Warnhinweis: Plausibel klingende, aber falsche KI-Erklärungen können medizinische Laien in falscher Sicherheit wiegen und dazu verleiten, nötige ärztliche Abklärungen zu verzögern.
  • Für Spitäler und Praxen, die KI-gestützte Diagnoseunterstützung für Fachpersonal einführen – etwa im Rahmen kantonaler Digitalisierungsprojekte im Gesundheitswesen –, ist der Befund beruhigender: Geschultes Fachpersonal liess sich in der Studie deutlich seltener von falschen KI-Erklärungen in die Irre führen als Laien.
  • Für Anbieter medizinischer KI-Anwendungen in der Schweiz liefert die Studie ein Argument dafür, Erklärungsformate konsequent nach Zielgruppe zu differenzieren – eine Praxis, die sich auch mit den Anforderungen an Transparenz und Nachvollziehbarkeit im Rahmen der laufenden sektoriellen KI-Regulierung für Hochrisikobereiche wie das Gesundheitswesen decken dürfte.

Verwendete Quellen

MIT News veröffentlichte die Zusammenfassung der in «Nature Medicine» erschienenen Studie am 4. August 2026; MIT EECS, MIT Schwarzman College of Computing und medicalxpress.com lieferten zusätzliche Einordnung.

Häufige Fragen

Was ist die Kernaussage zu MIT-Studie: KI-Diagnosehilfen nützen Fachpersonen und Laien unterschiedlich – Laien vertrauen falschen Erklärungen eher?

Forschende um Marzyeh Ghassemi (MIT) und Roxana Daneshjou (Stanford) liessen medizinische Laien sowie Grundversorgerinnen und -versorger Hautkrankheiten diagnostizieren – mit und ohne Unterstützung verschiedener erklärbarer KI-Systeme, darunter auch Systeme mit textbasierten Erklärungen durch Sprachmodelle.

Warum ist diese KI-Meldung für die Schweiz relevant?

Für Schweizer Gesundheitsanwendungen mit direktem Patientenkontakt – etwa Symptom-Checker-Apps von Krankenkassen oder Telemedizin-Anbietern – liefert die Studie einen konkreten Warnhinweis: Plausibel klingende, aber falsche KI-Erklärungen können medizinische Laien in falscher Sicherheit wiegen und dazu verleiten, nötige ärztliche Abklärungen zu verzögern.

Welche Quelle nutzt KI News Schweiz für diese Einordnung?

MIT News veröffentlichte die Zusammenfassung der in «Nature Medicine» erschienenen Studie am 4. August 2026; MIT EECS, MIT Schwarzman College of Computing und medicalxpress.com lieferten zusätzliche Einordnung.