Themen: KI/Digital, Gesundheit, Wissenschaft
Regionen: International, International Unbestimmt
Ein deutsch-niederländisches Forschungsteam hat 20 KI-Modelle für die Pathologie untersucht und erhebliche Fehlklassifikationen festgestellt. Je nach Modell wurden 28 bis 94 Prozent gesunder Gewebeproben fälschlich als bösartig eingestuft. Umgekehrt diagnostizierten die Systeme 19 bis 99 Prozent von Tumorproben einer anderen Universitätsklinik irrtümlich als gesund. Die Modelle orientierten sich nicht nur an medizinisch relevanten Merkmalen, sondern auch an Eigenheiten der Spitäler: Präparation, Färbung und Digitalisierung der Proben hinterlassen erkennbare Signaturen. Auch Scannerunterschiede beeinflussten die Beurteilung. Wenn ein Spital zuvor hauptsächlich gesundes Gewebe geliefert hatte, konnte ein Modell dessen Herkunft mit «gesund» verknüpfen und dadurch einen Tumor übersehen. Vielfältiger trainierte Modelle schnitten besser ab. Die Forschenden warnen, solche Fehler könnten einen sicheren Einsatz in klinischen Hochrisikosituationen verhindern. Sie entwickelten einen frei verfügbaren Massstab, mit dem sich die Anfälligkeit von Foundation Models messen und verringern lässt. Fachleute sollen bei Diagnosen das letzte Wort behalten.
