KI kann nicht unterscheiden was wichtig ist, der graue Elefant oder das grüne Gras. Foto: Thorsten Messing auf pixabay

K.I. Krimis online

So spannend kann Wissenschaft sein. In der ersten Folge der Reihe „K.I. Krimis“ geht es um die Frage: „Warum können ,Künstliche Intelligenz‘-Modelle schwarze von weißen Patienten nur nach den Röntgenbildern ihrer inneren Organe und Knochen unterscheiden?“

Jaromir Konecny ist Experte und Fachdozent für Künstliche Intelligenz an der SRH Fernhochschule. Der promovierte Naturwissenschaftler, Autor und Science Slammer stellte kürzlich eine spielerische Anwendung von KI für Kinder vor.

Lesetipp: Kinderträume und Künstliche Intelligenz

Jetzt widmet er sich in einem YouTube-Kanal der SRH Fernhochschule gesellschaftsrelevanten Themen und stellt ungelöste Rätsel der Künstlichen Intelligenz vor, die die User selbst lösen können. „Wir befinden uns in einer technologischen Revolution ohnegleichen“, sagt der Wissenschaftler. Er wolle mit seiner Reihe neugierig machen und dazu anregen, sich selbst Gedanken zu machen.

Jaromir Konecny bei einem Vortrag über KI in Tegernsee. Foto: MZ

Im ersten Beitrag der K.I. Krimis hat er eine erstaunliche, aber auch besorgniserregende wissenschaftliche Studie ausgewertet. Darin wird gezeigt, dass Künstliche Intelligenz anhand von Röntgenaufnahmen von inneren Organen entscheiden kann, ob die Patienten weiß oder schwarz sind oder aus Asien stammen.

Die Forscher reagierten entsetzt und befürchten Voreingenommenheit, denn statistisch gesehen, so argumentiert Jaromir Konecny, werden Schwarze medizinisch schlechter behandelt als Weiße. Beispielsweise erhalten sie seltener ein neues Kniegelenk.

KI klassifiziert falsch

Im Laufe der Evolution haben sich die Gene ordentlich gemischt und das sei gut so, konstatiert der Vortragende, denn dies mache uns gesund, intelligent und anpassungsfähig.

Die Frage sei, wie man diese falsche Klassifizierung korrigieren könne. Biologisch sei ein Unterschied der inneren Organe bei unterschiedlicher Ethnie nicht begründbar. Natürlich passe sich ein Organismus der Umwelt an, ein Bewohner der Anden etwa habe ein etwa um ein Viertel größeres Lungenvolumen.

Andererseits könne man vielleicht die Unterscheidung sogar nutzen, um spezifische Behandlungen zu ermöglichen? Oder könne die KI wirklich durch unterschiedliche Hautfarben beeinflusst werden?

K.I. Krimis stellen Fragen

Eine Möglichkeit sieht Jaromir Konecny im Pigment Melanin und verweist auf einen Artikel im Wissenschaftsmagazin Nature, in dem gezeigt wird, dass die in Melanin enthaltenen Elemente Eisen und Kupfer mit Röntgenstrahlen bestimmt wurden.

Es bleibe aber, so der Wissenschaftler, das Problem, dass Künstliche Intelligenz durchaus statt einer Krankheit, wie einem Lungentumor, die Hautfarbe in einem Röntgenbild ermittle. Um dies zu begründen, erklärt er, wie KI funktioniert.

Quelle: Yale Rosen, CC BY-SA 2.0 https://creativecommons.org/licenses/by-sa/2.0, via Wikimedia Commons”

Die Modelle berechnen aus Merkmalen der vorgegebenen Bilder das Ergebnis. Wie aber die Entscheidungen getroffen werden, das sei eine Black Box. Beispielsweise könne die KI im Foto des Elefanten nicht unterscheiden, was wichtiger sei, die Form des Tieres oder das Gras. So habe KI einen Husky als Wolf klassifiziert, nur weil die meisten Wolfsbilder im Schnee im System waren und auch das Huskybild im Winter aufgenommen worden war.

KI unterscheidet statt Krankheit Hautfarbe

Hier also liegt der Kern des Problems, resümiert Jaroslav Konecny: „Wir können nicht verhindern, dass Künstliche Intelligenz statt Krankheit Hautfarbe unterscheidet.“

Er fordert am Ende seine Zuschauerinnen und Zuschauer auf, sich selbst zur Lösung der Frage „Woran erkennt KI die Hautfarbe anhand von Röntgenbildern“ Gedanken zu machen.:

Ist es unerkannte Voreingenommenheit in den verarbeiteten Bildern? Gibt es tatsächlich Gewebeunterschiede? Oder ist es doch das Pigment Melanin in der Haut, das einen Einfluss hat?

„Die Welt ist voller Wunder“, schließt er und sagt: „Die Wissenschaft ist die Poesie der Realität.“ Wir seien die Seefahrer auf Routen in unerforschte Welten.

Die erste Folge der Reihe stieß auf Begeisterung. In den Kommentaren rätseln die Menschen mit und freuen sich schon auf die nächste Folge. Da wird es um selbstfahrende Autos gehen und darum, ob nur Kameras für ihre Wahrnehmung ausreichen. In der dritten Folge fragt der Wissenschaftler: „Kann es starke Künstliche Intelligenz geben, die der menschlichen ebenbürtig wäre?“

Jaromir Konecny sagt: „Künstliche Intelligenz ist eine wichtige Technologie für unsere Zukunft. Wir sollten gucken, dass wir bei ihrem Einsatz mitreden. Damit diese Technologie nicht für Kriege, Manipulation und Kontrolle eingesetzt wird, sondern zum Wohl der Menschheit.“