Folge 13: Benachteiligt die Künstliche Intelligenz weibliche Patienten?

Interviewpartner: BIH Professorin Sylvia Thun, Direktorin der Core Unit eHealth und Interoperabilität am Berlin Institute of Health (BIH) und an der Charité,  gefördert von der Stiftung Charité

Herzlich willkommen zum BIH-Podcast „Aus Forschung wird Gesundheit“ aus dem Berlin Institute of Health. Wir wollen in diesem Podcast Fragen beantworten rund um das Thema Gesundheit und Gesundheitsforschung. Mein Name ist Stefanie Seltmann.

Heute bin ich zu Gast bei BIH-Professorin Sylvia Thun. Sie leitet hier die Core Unit eHealth und Interoperabilität und kümmert sich darum, wie die vielen Daten, die in der Medizin und in der medizinischen Forschung anfallen, sinnvoll genutzt werden können. Gerade hat sie eine Tagung veranstaltet, die sich mit der Rolle von Frauen und künstlicher Intelligenz in der Medizin beschäftigt.

Seltmann: Frau Thun, es gibt Beispiele, die verdeutlichen, dass manche medizinischen Apps Frauen benachteiligen. Könnten Sie da mal ein Beispiel nennen?

Thun: Ja, es gibt zum Beispiel Apps, die Diagnosen finden, und wenn eine Frau diese App bedient mit bestimmten Symptomen wie zum Beispiel Schmerzen auf der linken Seite am Rücken und weiteren Schmerzen im Arm, dann kommt bei dieser App als Ergebnis heraus, dass sie eine Depression hat und bitte den Hausarzt in den nächsten Tagen aufzusuchen hat. Bei einem Mann hingegen ist es bei denselben Symptomen so, dass die App dann anzeigt, dass er unverzüglich ein Krankenhaus aufsuchen soll, weil natürlich der Verdacht besteht auf Herzinfarkt. Also so unterschiedlich sind die Algorithmen der künstlichen Intelligenz, in den Apps vorhanden. Und eine Überprüfung findet bis heute in Deutschland nicht statt.

Seltmann: Wie kommt das denn, dass die App so unterschiedliche Diagnosen stellt bei Frau und Mann? Hat der Programmierer das unterschiedlich programmiert?

Thun: Ja, meistens ist es so, dass diese Apps oder diese Algorithmen ja durch vorhandene Daten entscheiden. Das heißt, es kommt auf die Datenbasis an. Wenn natürlich sehr viele Frauen hier ihre Daten eingeben, ist die Erkenntnis meistens diejenige, die dann auch auf Frauen zutrifft. Kommen jedoch die Daten von Männern, so ist natürlich der Algorithmus dementsprechend verändert hinsichtlich der Gesundheit des Mannes.

Seltmann: Aber die App, erkennt sie denn, dass es sich um eine Frau handelt? Muss man das vorher eingeben? Ist es denn vielleicht tatsächlich so, dass Frauen an Depressionen leiden, wenn sie Schmerzen im hinteren Rücken haben, oder ist da der Herzinfarkt genauso wahrscheinlich?

Thun: Naja, es kommt natürlich darauf an. Das kann man gar nicht so einfach sagen. Und dafür brauchen wir natürlich auch gute Ärzte im Zusammenhang mit vielleicht Anwendungen aus der künstlichen Intelligenz. Weil so einfach ist es ja gar nicht, eine Diagnose zu erhalten. Zudem brauche ich noch weitere Parameter, Laborparameter zum Beispiel. Die Apps selbst fragen manchmal ab und manchmal nicht ab, ob es sich jetzt um eine Frau oder einen Mann oder um Diverse handelt. Das kommt auch da wieder darauf an, was die App hier vorgibt und welcher internationale Standard auch hier zum Beispiel benutzt wird. 

Seltmann: Es gibt ja auch die Beobachtung, dass Frauen mit Herzinfarkt, also jetzt mal ganz ohne App, auch später diagnostiziert werden und später zum Notarzt geschickt werden als Männer. Wiederholt sich da sozusagen auf der künstlichen Intelligenzebene das, was schon bei der natürlichen Intelligenz nicht so ganz gut läuft?

Thun: Ja, genau. Und das ist sogar so, dass es sich potenziert hier in der Digitalisierung, weil wir meistens die Algorithmen auf Basis von Parametern aus den USA erhalten. Und hier werden vor allen Dingen Soldaten untersucht, die hier ihre Daten zur Verfügung stellen. Und wie wir wissen, sind in manchen Bereichen natürlich nur sechs Prozent Frauen hier Soldatinnen. Und demzufolge ist die Datenlage eben ... die hat einen Bias, also einen Bias in Hinsicht auf die Männer.

Seltmann: Was könnte man denn da jetzt tun? Man kann jetzt nicht plötzlich mehr Soldatinnen rekrutieren. Oder woher sollen denn die weiblichen Daten kommen, woher könnten sie kommen?

Thun: Na ja, da möchte ich über die Möglichkeit der Datenspende reden. Das heißt, es gibt genügend Menschen, die ihre Daten der Wissenschaft zur Verfügung stellen, ich mache das übrigens auch, und hier dann die Datenlage dadurch verbessern, dass sie genau die der Wissenschaft zur Verfügung stellen.

Seltmann: In klinischen Studien ist es zum Beispiel auch häufig so, dass mehr männliche Teilnehmer rekrutiert werden als Frauen. Das liegt zum Teil daran, dass Frauen schwanger werden können und dass man da lieber kein Risiko eingehen kann. Sehen Sie da noch Nachholbedarf? Müsste man das ändern? Wie könnte man das ändern?

Thun: Absolut. Auch da haben wir eine massive Schieflage. Die muss natürlich über Gesetze reguliert werden. Wir müssen auch hier Vorgaben und Kriterien für die Apps erstellen oder auch gesetzlich fordern. Und es könnte sein, dass es eine Selbstverpflichtung der Apphersteller gibt oder dass wir jetzt hier zusammenkommen und gemeinsam überlegen, also mit den Fachwissenschaftlerinnen, nach welchen Kriterien man eben diese Apps bewerten soll. Und wir werden ein Berliner Memorandum im Januar erstellen und hier diese Dinge fordern, also zusammen mit der Wirtschaft, mit der Wissenschaft und der Politik.

Seltmann: Die Wirtschaft, die Wissenschaft und die Politik spielen eine Rolle. Fangen wir mal mit der Wissenschaft an. Es sind ja auch schon weniger Wissenschaftlerinnen in der KI-Forschung tätig, das heißt, auch diejenigen, die nachher diese Apps programmieren und entwickeln, sind schon mehrheitlich Männer. Da fehlt es also offensichtlich auch noch an Frauen, die sich sozusagen selbst darum kümmern, dass die App auch weibliche Symptome besser erkennt.

Thun: Ja, man erkennt eben, dass es auf verschiedenen Ebenen viel zu tun ist, also dass wir hier auch ich sage schon im Kindergarten die Kinder und die Mädchen dazu bringen müssen, dass sie sich für Technik interessieren oder für Mathematik. Es ist ja erst mal nur eine mathematische Fragestellung. Und dass diese Mädchen und hinterher Studentinnen und hinterher die Wissenschaftlerinnen auch adäquat gefördert werden, dass hier auch die Professuren dementsprechend vergeben werden, dass man wirklich sagt. Wir vergeben. 50 Prozent der Professuren an junge Wissenschaftlerinnen und 50 Prozent an männliche Wissenschaftler. Das sind alles Dinge, die wir natürlich auch machen müssen. Wir sollen nicht nur darüber reden. Was auch noch wichtig ist, das ist, dass die Projektförderung vom BMBF zum Beispiel, vom Bundesministerium für Bildung und Forschung, hier sehr darauf achtet, dass die Frauen auch hier in den Leitungspositionen sind von den Großprojekten, wie zum Beispiel der Medizininformatik-Initiative. Hier haben wir so gut wie gar keine Frau in Leitungspositionen. Und das wundert mich, weil wir auch eben Vorgaben der EU eigentlich haben.

Seltmann: Das Argument ist dann ja immer: Es gibt keine Frauen, die man berufen könnte.

Thun: Doch.

Seltmann: Also Sie zum Beispiel gibt es. Wie sieht denn die Situation aus, wie nehmen Sie das denn wahr? Haben Sie nur männliche Kollegen oder gibt es auch Frauen, die Ihre Position oder andere Professuren einnehmen könnten?

Thun: Ja, ich kann Ihnen natürlich die Frauen aufzählen, weil ich sie alle sehr gut kenne. Wir sind im Moment drei sehr sichtbare Professorinnen. Und hunderte männliche Professoren in dem Bereich der Medizininformatik. Das müssen wir natürlich ändern, indem wir hier adäquat fördern. Es werden ja jetzt auch viele W2- und W3-Professuren ausgeschrieben. Und auch da sollten doch die Universitäten darauf achten, dass hier eine adäquate Vergabe stattfindet. Weil junge kluge Wissenschaftlerinnen haben wir in Deutschland. Ich habe ja auch das Netzwerk #SheHealth gegründet genau mit dem Hintergrund, dass wir eben hier die Frauen nicht nur fördern wollen, sondern auch wirklich bis zur Professur oder bis zum Aufsichtsrat oder bis zum Vorstand führen möchten. Und hier sind mittlerweile über 120 Frauen organisiert. Und da kann man ja durchaus mal schauen, ob es da die eine oder andere gäbe, die auch infrage käme für diese Position.

Seltmann: Jetzt kommen wir noch mal zurück auf diese Apps, die so programmiert sind, dass die weiblichen Symptome vielleicht nicht so richtig gut diagnostiziert werden können. Wenn sie mit diesen Vorwürfen an Ihre männlichen Kollegen herantreten und ihnen sagen: Schau mal hier, das erkennt ja gar nicht die Symptome von Frauen, wie reagieren die Männer? Nehmen sie das wahr, nehmen sie das ernst?

Thun: Ja, das wird sehr ernstgenommen. Und ich bin der Meinung, dass die Männer das gar nicht wissen. Die merken leider nicht, dass sie in einer Welt von Männern für Männer hier in der Digitalisierung im Gesundheitswesen agieren. Und sobald wir was sagen, versucht man, es zu ändern. Wir hatten gestern bei der Veranstaltung auch junge Männer dabei, und die waren also wirklich wundervoll. Und die möchten auch die Welt mit verändern, also zu einer gerechteren Welt machen.

Seltmann: Sie selbst sind ja jetzt sozusagen noch in einer Welt, in der sehr viele Männer vorhanden sind und sehr wenige Frauen. Wie kommen Sie denn zurecht? Müssen Sie kämpfen gegen männliche Dominanz?

Thun: Nein, nein. Also das ist kein Kampf. Es macht große Freude, mit Männern zu arbeiten, aber auch mit Frauen. Ich merke aber, dass die Projekte, die tatsächlich mit Frauen besetzt worden sind, auch vor allen Dingen im Führungsbereich sehr erfolgreich sind und sehr viel schneller. Und nicht ...

Seltmann: Worauf führen Sie das zurück?

Thun: Ja, das ist vielleicht eine nicht allzu technokratische Sicht auf die Dinge. Und die Frauen kommen auch meistens wirklich aus der Praxis und wissen, wie zum Beispiel Krankenhaus funktioniert. Und wir sehen das ja auch zum Beispiel in Österreich oder in den Niederlanden. Da werden zum Beispiel die Telematik-Infrastrukturprojekte von Frauen geführt. Und die sind seit über zehn Jahren extrem erfolgreich. Wohingegen hier in Deutschland ja die Gematik zum Beispiel seit jeher von Männern geführt wird. Die Gematik ist die zuständige Organisation für die Einführung der Anwendungen der Gesundheitskarte. Ich weiß nicht, ob es darauf zurückzuführen ist. Aber vielleicht wäre es mal eine gute Idee, dass da auch mal eine Frau in die Führung kommt.

Seltmann: Raten Sie jungen Frauen, in diesem Bereich zu gehen? Wie sind denn die Zukunftsaussichten? Macht es Spaß, hat man da Chancen?

Thun: Ja, es macht sehr viel Spaß. Wir haben hier auch ganz viele junge Frauen am BIH, die in dem Bereich arbeiten. Wir haben sogar 50 Prozent junge Frauen, junge Studienanfängerinnen. Nur, leider verlassen sie den Bereich. Ich habe noch nicht ganz herausgefunden, warum. Aber wir versuchen alles, damit sie bleiben und Freude haben und auch die Möglichkeit haben, wenn sie dann vielleicht mal eine Familie gründen möchten, dass sie dann von zu Hause aus arbeiten zum Beispiel. Das ist durchaus möglich.

Seltmann: Sie sprechen jetzt von Medizininformatik? Oder welche Studiengänge sind es denn, die einen dahin führen, dass man auf diesem Bereich der künstlichen Intelligenz in der Medizin arbeitet?

Thun: Ja, das sind vor allen Dingen die Health Data Scientists. Das sind also die Datenwissenschaftler, aber auch Mediziner, die interessiert sind, oder Informatiker, die an der Medizin interessiert sind, oder Mathematiker. Also es ist durchaus so, dass wir hier sehr interdisziplinär zusammenarbeiten. Und das macht vielleicht auch die Freude an diesem Beruf aus. Und man macht natürlich was absolut Sinnvolles. Wir versuchen hier zum Beispiel derzeit, die Krankenakte für krebskranke Menschen aufzubauen, die dann deutschlandweit und auch international gültig wird. Und das ist natürlich ein ganz tolles Ziel... ja, dass der Job einfach Sinn macht. Das ist sicherlich auch den Frauen sehr wichtig.

Seltmann: Eine Krebsakte für männliche und weibliche Patienten?

Thun: Ja. Und ich sollte da auch unterscheiden, ob es sich um einen männlichen oder einen weiblichen Patienten handelt.

Seltmann: Dann vielen Dank.

Thun: Sehr gerne.

Und das war der BIH-Podcast „Aus Forschung wird Gesundheit“ aus dem Berlin Institute of Health. BIH-Professorin Silvia Thun erklärte, wie es dazu kommen kann, dass künstliche Intelligenz Frauen benachteiligt. Falls auch Sie eine Frage zu Gesundheit oder zur Gesundheitsforschung haben, schicken Sie sie gerne an podcast@bihealth.de. Tschüss und bis zum nächsten Mal sagt Stefanie Seltmann.