Deutsch-niederländisches Forscherteam testet 20 Pathologie-Foundation-Models in niederländischen Universitätskliniken; bis zu 94% Fehlklassifikationen gesunder Gewebe
Künstliche «Intelligenz» macht bei Krebsdiagnosen viele Fehler – infosperber
Bei der Krebsdiagnostik ist der fachkundige Blick entscheidend. © anamejia18
Künstliche «Intelligenz» macht bei Krebsdiagnosen viele Fehler
17.08.2026 KI-Modelle orientieren sich an den falschen Merkmalen. Deshalb übersehen sie Tumore oder stufen gesundes Gewebe als Krebs ein.
Um Krebspatienten bestmöglich zu behandeln, werden Tumore zuerst durch Pathologen mikroskopisch und mikrobiologisch untersucht. Sowohl die Therapie als auch die Prognose hängen davon ab, ob die Tumorzellen bestimmte Biomarker aufweisen oder nicht. Zunehmend kommt bei der Analyse solcher Gewebeproben auch Künstliche Intelligenz zum Einsatz – doch die zieht bisweilen Schlüsse, die für die Patienten fatal sein könnten.
Ein deutsch-niederländisches Forscherteam stellte 20 sogenannte Pathologie Foundation Models auf die Probe. Das sind KI-Systeme, die anhand von Millionen von Gewebeproben vortrainiert wurden und die laufend «weiterlernen» – dummerweise aber nicht immer das Richtige. Die Studie unterstreicht, wie wichtig es ist, dass Fachleute bei der Diagnostik das letzte Wort haben.
KI stützte sich auf medizinisch Irrelevantes
Je nach KI-Modell wurden zwischen 28 und 94 Prozent der gesunden Gewebeproben einer niederländischen Universitätsklinik fälschlicherweise als bösartig eingestuft. 19 bis 99 Prozent von Tumor proben einer anderen Universitätsklinik diagnostizierten verschiedene KI-Modelle dagegen fälschlicherweise als gesundes Gewebe.
«Jedes Pathologielabor hinterlässt eine subtile Signatur auf seinen Gewebeschnitten: Unterschiede bei der Präparation, Färbung und Digitalisierung von Biopsien. Diese Unterschiede sind medizinisch irrelevant, für KI-Systeme jedoch sichtbar und die Modelle verinnerlichen sie», schreibt die TU Berlin in einer Pressemitteilung .
Die Foundation Models konnten anhand dieser Signatur mit hoher Treffsicherheit erkennen, aus welchem Spital eine Gewebeprobe stammte. Hatte dieses Spital in der Vergangenheit fast nur gesunde Gewebeproben geschickt, «lernte» das Foundation Model unter anderem auch, Proben aus diesem Spital als gesund einzustufen.
«Dadurch klassifizierte es einen eindeutig bösartigen Gewebeausschnitt fälschlicherweise als gesund – allein deshalb, weil die Probe aus einem Krankenhaus stammte, das in der Vergangenheit fast nur gesunde Proben geschickt hatte.» Die KI habe also den Absender – das Spital – mit gesundem Gewebe assoziiert. Auch die Eigenheiten verschiedener Scanner flossen in die Bewertung durch die KI ein – obwohl auch diese nichts mit dem Tumorgewebe zu tun haben.
Dass die KI solche systematischen Fehler macht, war den Pathologen bisher nicht klar.
Systematischer Fehler auch in anderen Medizinbereichen
Typischerweise würden die KI-Modelle nicht über verschiedene medizinische Zentren hinweg trainiert, schreiben die Wissenschaftler in «Nature Communications». Unter diesen Umständen könnten sie «zu schwerwiegenden Fehlern neigen, die einen sicheren Einsatz in klinischen Szenarien mit hohen Risiken ausschliessen». Modelle, die mit vielfältigen Daten trainiert worden seien, schnitten in der Studie besser ab.
Foundation Models seien in verschiedenen Medizinbereichen inzwischen Standard, geben die Wissenschaftler in « Nature Communications » zu bedenken. Das Problem beschränke sich daher nicht nur auf die Pathologie. Systematisch falsche Ergebnisse, bei denen die KI die «Diagnose» primär aufgrund der Herkunft eines Befunds stellte anstatt nach medizinischen Kriterien, seien auch in der Radiologie oder bei molekularbiologischen Untersuchungen schon bekannt geworden.
Abhilfe – aber kein komplettes Beseitigen dieses Systemfehlers – könnten Verfahren schaffen, mit denen die KI weniger anfällig für solche falschen Lernprozesse gemacht werde, ohne dass sie komplett neu trainiert werden müsse. Das deutsch-niederländische Forscherteam hat erstmals einen Massstab entwickelt, der helfen soll, das Problem zu messen und zu verringern. Es stellt ihn frei zur Verfügung, damit auch andere ihre Foundation Models erst auf die Probe stellen können – bevor diese für Entscheide zur richtigen Behandlung von Patienten eingesetzt werden.
Ärzte werden mit «Künstlicher Intelligenz» schlechter , Infosperber vom 23.8.2025
Chatbot zitiert aus erfundener Studie und täuscht Ärzte , Infosperber vom 19.7.2024
Gesundheit: KI lügt, erfindet, desinformiert auf Befehl , Infosperber vom 15.4.2024
Keine _____________________ ➔ Solche Artikel sind nur dank Ihren SPENDEN möglich. Spenden an unsere Stiftung können Sie bei den Steuern abziehen. Mit Twint oder Bank-App auch gleich hier: _____________________ Meinungen in Beiträgen auf Infosperber entsprechen jeweils den persönlichen Einschätzungen der Autorin oder des Autors.
KI – Chancen und Gefahren
Künstliche Intelligenz wird als technologische Revolution gefeiert. Doch es gilt, ihre Gefahren zu beachten.
Direkt mit Twint oder Bank-App