Warnhinweis: Möglicherweise enthält dieser Artikel sensible Inhalte

Über Algorithmen, Daten und die erstaunliche Hartnäckigkeit alter Vorurteile

Vor ein paar Tagen wollte ich eigentlich nur nachsehen, wie meine neu angelegten Pinnwände auf Pinterest auf neue Besucherinnen und Besucher wirken. Also loggte ich mich mit meinem privaten Account ein und öffnete mein eigenes Profil. Anstelle meiner Vulva-Aquarelle erwartete mich jedoch zunächst ein verschwommenes Vorschaubild mit dem Hinweis:

„Diese Pinnwand enthält möglicherweise sensible Inhalte.“

Ich musste kurz lachen. Nicht, weil ich den Hinweis besonders empörend fand. Sondern weil ich mich in meiner Kunst bestätigt fühlte. Ausgerechnet meine Aquarelle, Papiercollagen und textilen Arbeiten – abstrahierte Darstellungen der Vulva – sollten plötzlich etwas sein, vor dem Besucherinnen und Besucher zunächst einmal geschützt werden müssen. Interesting!

Auf dieser Pinnwand befinden sich weder Fotografien noch pornografische Inhalte. Es sind Kunstwerke. Manche zeigen die Vulva deutlich, andere sind so abstrahiert, dass sie sich erst auf den zweiten Blick erkennen lässt. Und trotzdem reicht ihre bloße Form offenbar aus, damit ein Algorithmus vorsichtshalber eine Warnung ausspricht.

Vielleicht liegt es daran, dass ich Kunsthistorikerin bin. Vielleicht aber auch daran, dass ich mich seit Jahren mit der Geschichte des weiblichen Körpers beschäftige. Als der Pinterest-Algorithmus meine abstrakten Vulva-Darstellungen als „sensiblen Inhalt“ einstufte, fragte ich mich deshalb nicht nur, warum das passiert. Ich fragte mich, ob dahinter nicht dieselben Mechanismen stecken, die unseren Blick auf die weibliche Anatomie seit Jahrhunderten prägen. Anders gefragt: Warum hat ein Algorithmus gelernt, dass eine Vulva etwas sein könnte, vor dem Menschen geschützt werden müssen?

Die Antwort auf diese Frage beschäftigt mich schon lange. Sie ist der Grund, warum ich angefangen habe, Vulven abstrakt darzustellen. Denn im Kern geht es in meiner Kunst nie nur um Anatomie. Es geht um die Frage, wer bestimmt, wie wir den weiblichen Körper betrachten – und warum dieser Blick bis heute so hartnäckig von alten Vorstellungen geprägt ist.

Der weibliche Körper war nie neutral

Wir sprechen häufig davon, dass Wissenschaft objektiv sei. Tatsächlich entsteht sie jedoch nie im luftleeren Raum. Sie wird von Menschen gemacht. Und Menschen bringen immer die Vorstellungen ihrer Zeit und eigenen Erfahrungen mit.

Über Jahrhunderte wurde Medizin fast ausschließlich von Männern betrieben. Sie beobachteten den weiblichen Körper, beschrieben ihn und entwickelten Theorien darüber, wie er funktioniere. Vieles davon war ein bedeutender wissenschaftlicher Fortschritt. Manches erzählte jedoch mindestens genauso viel über gesellschaftliche Rollenbilder wie über Anatomie.

Ein besonders eindrückliches Beispiel ist der Mythos vom wandernden Uterus. Über viele Jahrhunderte glaubte man, die Gebärmutter könne sich im Körper bewegen und dadurch unterschiedlichste Beschwerden auslösen – von Melancholie über Angst bis hin zu Schlaflosigkeit oder Reizbarkeit. Aus dieser Vorstellung entwickelte sich schließlich sogar der Begriff Hysterie, abgeleitet vom griechischen hystera, der Gebärmutter (1).

Und ja, ich weiß, wenn man das liest, kann Frau nur mit dem Kopf schütteln. Denn Heute wirkt diese Vorstellung absurd. Gleichzeitig zeigt sie, wie eng medizinisches Wissen und gesellschaftliche Vorstellungen miteinander verwoben sein können. Der weibliche Körper wurde nicht nur beschrieben, sondern auch bewertet. Seine vermeintlichen Besonderheiten dienten immer wieder als Erklärung dafür, warum Frauen emotionaler, irrationaler oder weniger belastbar seien.

Diese Geschichte endet jedoch nicht im 19. Jahrhundert. Sie verändert lediglich ihre Sprache.

Unsichtbare Frauen und sichtbare Datenlücken

Beim Lesen von Invisible Women musste ich das Buch mehr als einmal zur Seite legen. Nicht, weil Caroline Criado Perez besonders polemisch schreibt. Sondern weil sie genau das Gegenteil tut. Sie sammelt Daten. Und gerade diese Daten sind es, die so wütend machen.

Sie zeigt, wie häufig Frauen in Forschung, Medizin und Technik schlicht nicht mitgedacht wurden. Jahrzehntelang orientierten sich Crash-Test-Dummies am durchschnittlichen männlichen Körper. Medikamente wurden überwiegend an Männern getestet. Herzinfarkte bei Frauen bleiben häufiger unerkannt, weil ihre Symptome vom klassischen – also männlichen – Lehrbuchbild abweichen (2).

Das Erschreckende daran ist, dass hinter diesen Beispielen selten böser Wille steckt. Viel häufiger steckt dahinter eine Annahme, die so selbstverständlich geworden ist, dass sie kaum noch auffällt: Der männliche Körper gilt als Standard. Der weibliche als Abweichung.

Je mehr Beispiele Perez beschreibt, desto deutlicher wird dieses Muster. Frauen fehlen nicht deshalb, weil man sie bewusst ausgeschlossen hätte. Sie fehlen, weil niemand daran gedacht hat, sie einzubeziehen.

Dasselbe Muster begegnet uns bis heute in vielen Bereichen der Medizin. Auch neurodivergente Frauen wurden lange Zeit deutlich seltener erkannt, weil sich Diagnosekriterien überwiegend am männlichen Erscheinungsbild orientierten. Ich bin davon persönlich betroffen. Denn auch ich habe meine ADHS Diagnose erst im Alter von 44 Jahren erhalten. Alles was es dazu gebracht hat, war der Tod meiner Mutter, eine Depression und mehrere Angststörungen.

Das Männer der Standart sind und Frauen die Ausnahme und deshalb oft nicht mitgedacht werden, ist das Problem. Weil sich daraus ein Weltbild entwickelt hat, das Männer und auch Frauen hinnehmen anstatt es in Frage zu stellen. Getreu dem Motto: Aber das war schon immer so.

Was passiert, wenn Algorithmen aus unserer Gesellschaft lernen?

Viele Menschen verbinden künstliche Intelligenz mit Objektivität. Computer, so die Vorstellung, treffen Entscheidungen ohne Vorurteile. Tatsächlich verhält es sich fast umgekehrt.

Eine KI entwickelt keine eigene Moral. Sie kennt weder Scham noch Anstand. Sie lernt Muster. Und diese Muster stammen aus den Daten, mit denen sie trainiert wird. Und diese Daten stammen von, na? Genau: Menschen.

Und wenn die KI nun Milliarden Vulva-Bilder aus dem Internet ausgewertet hat, lernt sie nicht nur, wie eine Vulva aussieht. Sie lernt auch, in welchem Zusammenhang sie ihr begegnet. Wird weibliche Anatomie überwiegend sexualisiert dargestellt, erkennt die KI genau dieses Muster. Taucht sie häufiger in Kontexten auf, die als „nicht jugendfrei“ markiert wurden, übernimmt sie auch diese Bewertung. Die KI denkt dabei nicht: Eine Vulva ist problematisch. Sie berechnet lediglich Wahrscheinlichkeiten. Doch Wahrscheinlichkeiten spiegeln immer die Welt wider, aus der sie stammen. oder im Fall der KI: mit der sie trainiert wurde.

Genau deshalb warnen Organisationen wie die UNESCO inzwischen ausdrücklich davor, dass Künstliche Intelligenz bestehende gesellschaftliche Ungleichheiten verstärken kann, wenn Trainingsdaten nicht ausreichend überprüft werden (3).

Auch Wissenschaftlerinnen wie Safiya Umoja Noble oder Joy Buolamwini zeigen seit Jahren, dass algorithmische Systeme keineswegs neutral sind. Sie übernehmen die Verzerrungen der Daten, mit denen sie trainiert wurden – und reproduzieren sie anschließend mit beeindruckender Effizienz (4)(5).

Vielleicht ist das die eigentliche Ironie. Je intelligenter unsere Algorithmen werden, desto deutlicher zeigen sie uns, welche Vorurteile wir ihnen beigebracht haben.

Vielleicht ist gar nicht die Vulva sensibel

Dass der Algorithmus meine Vulven als "sensiblen Inhalt" gelabelt hat, empfinde ich nach wie vor als Bestätigung meiner Kunst. Denn ich möchte es schaffen, dass wir die Vulva nicht mehr als etwas betrachten, für das man sich schämen muss. Eine Vulva ist eine Vulva. Nicht mehr und nicht weniger. Die Hälfte der Weltbevölkerung hat eine.

Und trotzdem kommen wir viel früher mit dem Begriff Penis als der Vulva in Berührung. Ähnlich verhält es sich mit der Darstellung. Eine Penis-Darstellungen an den Wänden jeder Schultoilette war mehrfach zu finden. Die einer Vulva? Fehlanzeige.



Und dann gibt es da noch die Ersatzbegriffe, die viele Erwachsene für die Vulva verwenden, nur um nicht "Vulva" sagen zu müssen. Anatomische Darstellungen weiblicher Körper werden vorsorglich als sensibel eingestuft, während dieselben Körper gleichzeitig in Werbung, Filmen oder sozialen Medien permanent bewertet, normiert und sexualisiert werden.

Vielleicht liegt genau darin der Widerspruch. Nicht die Vulva wird sexualisiert, sondern unser Blick auf sie.

Deshalb erzählt der Warnhinweis auf Pinterest für mich weniger etwas über meine Kunst als über die Geschichte, die wir seit Jahrhunderten über den weiblichen Körper erzählen und gegen die ich mit meiner Kunst ankämpfe.

Mögen es früher medizinische Mythen gewesen sein, ist es heute der Algorithmus. Und beides entsteht nicht im luftleeren Raum. Beides ist Ausdruck der Gesellschaft, die es hervorgebracht hat.

Kunst verändert keine Algorithmen. Aber vielleicht unseren Blick.

Vielleicht liest eine KI diesen Artikel und lernt: Eine Vulva ist eine Vulva. Sie kommt in allen Formen und Farben. Sie ist da. Darf sein. Und Vielleicht schaut sich die KI meine Aquarell, Collagen und Plüsch Vulven an und lernt, dass es nicht nur die eine Wahrheit gibt, sondern viele. Dass die Darstellung der Vulva nicht immer etwas ist, dass zensiert werden oder vor dem gewarnt werden muss. Und ganz vielleicht lernt die KI, dass Vulven WUNDERSCHÖN sind.

Denn ich glaube daran, dass Kunst die Welt verändern kann. Nicht sofort. Aber Stück für Stück.

Meine Kunst braucht keinen Warnhinweis. Im Gegenteil. Sie ist eine Einladung, den Blick auf Weiblichkeit, auf Anatomie und auf den weiblichen Körper zu hinterfragen. Denn vielleicht sind nicht meine Aquarelle der sensible Inhalt. Vielleicht sind es die Vorurteile, mit denen wir gelernt haben, sie zu betrachten.

---

Quellen

(1) King, H. The Disease of Virgins: Green Sickness, Chlorosis and the Problems of Puberty. Routledge. https://www.routledge.com/

(2) Criado Perez, C. (2019). Invisible Women: Data Bias in a World Designed for Men.https://carolinecriadoperez.com/book/invisible-women/

(3) UNESCO (2021). Recommendation on the Ethics of Artificial Intelligence.https://unesdoc.unesco.org/ark:/48223/pf0000381137

(4) Noble, S. U. (2018). Algorithms of Oppression. https://nyupress.org/9781479837243/algorithms-of-oppression/

(5) Buolamwini, J. & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. MIT Media Lab. http://gendershades.org/