Die Arbeit entstand als Kooperationsprojekt zwischen dem Mannheim Center of Neuromodulation and Neuroprosthetics (MCNN, Prof. Thomas Kinfe), der FAU Erlangen Nürnberg und der ZHAW Winterthur. Ein wichtiger Ausgangspunkt war ein Besuch von Prof. Helmut Grabner und Fitim Abdullahu von der ZHAW Winterthur in Mannheim, aus dem sich ein produktiver wissenschaftlicher Austausch entwickelte.

Die Studie zeigt, dass die Art der Eingabeaufforderung einen deutlichen Einfluss darauf haben kann, wie KI-Modelle Bilder interpretieren und bewerten. Dies ist besonders relevant für zukünftige medizinische Anwendungen, bei denen KI-Systeme zunehmend bei der Auswertung von Bilddaten und der Unterstützung diagnostischer Entscheidungen eingesetzt werden.

Um diese Effekte besser zu verstehen, wurden neurowissenschaftlich inspirierte Methoden verwendet, mit denen Einblicke in die internen Verarbeitungsprozesse der Modelle gewonnen werden können. Die Ergebnisse machen deutlich, dass medizinische KI nicht nur leistungsfähig, sondern auch transparent, überprüfbar und zuverlässig sein muss.

Die Arbeit unterstreicht die Bedeutung interdisziplinärer Zusammenarbeit zwischen Medizin, Neurowissenschaften und Künstlicher Intelligenz für die Entwicklung vertrauenswürdiger KI-Systeme in der klinischen Anwendung.