Der algorithmische Blick: Ist die KI männlich?

22. Juli
6 Min. Lesezeit

Aktualisiert: 23. Juli

"Our mission is to bring everyone the inspiration to create a life they love. We believe that when people find great products from trusted merchants, it can empower them to do things they care about.“

So steht es in den Merchant Guidelines auf Pinterest. Das klingt erst einmal wunderbar. Und tatsächlich entspricht dieser Gedanke auch meinem eigenen Anspruch als Künstlerin. Denn ich male Vulven, weil ich dazu beitragen möchte, Scham abzubauen, Gespräche anzustoßen und weibliche Anatomie zu normalisieren.

Deshalb war ich eigentlich überzeugt, dass meine Kunst gut zu dieser Mission passen würde.  Was ich dabei nicht bedacht hatte: den Algorithmus. Denn der scheint das anders zu sehen.

Screenshot von Pinterest und der Ablehung meines Händlerstatus

Und deshalb stehe ich seit einigen Tagen mit Pinterest – oder besser gesagt mit dessen Support – im Kontakt. Unter anderem auch, weil mein Händlerstatus abgelehnt wurde. Mehrfach. Und jedes Mal mit derselben Begründung: Meine Inhalte würden gegen die Merchant Guidelines verstoßen. Welche Produkte genau betroffen sind, erfahre ich nicht. Auch nach mehreren Widersprüchen erhalte ich immer wieder nahezu identische Antworten – jedes Mal unterschrieben von einem „Mitarbeiter“ namens Cols.

Ob Cols tatsächlich eine reale Person ist, weiß ich natürlich nicht. Die fast identischen Antworten haben bei mir jedoch den Eindruck hinterlassen, dass hier vor allem automatisierte Prozesse arbeiten, weshalb ich Pinterest inzwischen ausdrücklich um eine manuelle Prüfung gebeten habe.

Ich bin gespannt wie das ausgeht. In der Zwischenzeit lässt mich jedoch eine andere Frage nicht mehr los: Arbeiten KI-Systeme tatsächlich neutral, wenn sie den weiblichen Körper bewerten? Oder stufen Moderationsalgorithmen weibliche Anatomie häufiger als problematisch ein – selbst dann, wenn sie in einem anatomischen, medizinischen oder künstlerischen Kontext gezeigt wird?

Und wenn sich (m)ein ADHS-Gehirn erst einmal an einer Fragestellung festgebissen hat, gibt es ohnehin kein Zurück. Dann wird recherchiert.

Hyperfokus an und los geht's.

Gibt es andere bestoffene Künstler:innen?

Als Erstes wollte ich wissen, ob es nur mir so geht oder haben andere Künstler:innen ähnliche Erfahrungen mit Pinterest oder anderen Plattformen gemacht?

Schon nach kurzer Recherche stieß ich auf Interviews, Fachartikel und unzählige Reddit-Beiträge von Künstler:innen, die von ähnlichen Erfahrungen berichten. Viele schildern eingeschränkte Reichweite, abgelehnte Werbeanzeigen oder moderierte Beiträge, sobald ihre Arbeiten den menschlichen Körper zeigen.

Besonders eindrücklich beschreibt die US-amerikanische Künstlerin Clarity Haynes ihre Erfahrungen. Ihre großformatigen Gemälde weiblicher Oberkörper wurden auf Social-Media-Plattformen wiederholt moderiert oder in ihrer Sichtbarkeit eingeschränkt. Dabei macht sie deutlich, dass es nicht nur um künstlerische Freiheit geht. Werden Ausstellungen während ihrer Laufzeit online kaum sichtbar oder Beiträge gelöscht, hat das unmittelbare wirtschaftliche Folgen.

Nachdem ich die 2024 veröffentlichte Studie "Exposed or Erased: Algorithmic Censorship of Nudity in Art" gefunden hatte verdichtete sich mein Verdacht, dass ich nicht nach Einzelfällen suchte, sondern nach einem strukturellen Problem. In dieser Studie führten Forschende qualitative Interviews mit 14 Künstler:innen, deren Werke von algorithmischer Moderation betroffen waren. Die Studie beschreibt nicht nur die emotionalen Belastungen, sondern auch die von Haynes genannten wirtschaftlichen Folgen, wenn Beiträge entfernt oder in ihrer Sichtbarkeit eingeschränkt werden. Gleichzeitig kritisieren die Autor:innen die mangelnde Transparenz heutiger Moderationssysteme und fordern, künstlerische Nacktheit stärker als eigenen Kontext zu berücksichtigen.

Als nächstes fragte ich mich:

Was sagt Pinterest selbst?

Dazu habe ich mir den aktuellsten Transparency Report von Pinterest angeschaut. Die Zahlen sind „beeindruckend“: Allein im Jahr 2025 entfernte Pinterest pro Quartal zwischen rund 135 und 193 Millionen Pins wegen Verstößen gegen die Richtlinie zu sexuellen Inhalten und Nacktheit. Das entspricht rund 377.000 bis 527.000 entfernten Pins – jeden einzelnen Tag! Bei dieser Größenordnung überrascht es kaum, dass Pinterest auf automatisierte Moderationssysteme angewiesen ist.   Aus dem Bericht geht auch hervor, dass hunderttausende Beschwerden gegen diese Entscheidungen eingereicht eingereicht wurden und ein ein erheblicher Teil dieser Einsprüche erfolgreich war und Entscheidungen nachträglich wieder aufgehoben wurden.

Zumindest das machte mir Hoffnung.

Was ich im Transparency Report allerdings nicht gefunden habe ist, welche Arten von Inhalten besonders häufig von Fehlentscheidungen betroffen sind.  Also musste ich weiter nach Belegen für meine Annahme suchen.

KI macht Fehler bei der Bewertung von Kunstwerken

Auf meiner Suche stieß ich schließlich auf die Studie „An Art-centric Perspective on AI-Based Content Moderation of Nudity“ aus dem Jahr 2024.

Darin untersuchten Forschende der ETH Zürich gemeinsam mit weiteren Forschungseinrichtungen drei KI-Systeme zur Erkennung sogenannter NSFW-Inhalte („Not Safe For Work“). Die Ergebnisse zeigen deutliche Grenzen heutiger Bildklassifikatoren. Je nach Modell wurden zwischen 34,7 % und 47,9 % der untersuchten Kunstwerke fälschlicherweise als problematisch eingestuft.

Mit anderen Worten: Je nach System wurde nahezu jedes zweite Kunstwerk irrtümlich als problematisch eingestuft.

Besonders spannend fand ich zwei weitere Ergebnisse. Das erste stützte meine Vermutung, das zweite eröffnete eine Fragestellung, über die ich vorher noch gar nicht nachgedacht hatte. Die Forschenden fanden tatsächlich Hinweise auf einen Gender Bias: Weibliche Nacktheit wurde häufiger als problematisch eingestuft als männliche. Außerdem identifizierten die Forschenden einen sogenannten Stylistic Bias. Demnach beeinflusst nicht nur das Motiv die Bewertung eines Bildes, sondern offenbar auch dessen künstlerischer Stil.

Als Künstlerin frage ich mich seitdem nicht mehr nur, was ich darstellen kann, ohne vom Algorithmus aussortiert zu werden. Sondern auch, wie ich es darstellen muss, damit eine KI meine Arbeit überhaupt als Kunst erkennt.

Und auch wenn die Studie keine Plattformen wie Pinterest direkt untersucht, zeigt sie deutlich, dass aktuelle KI-Systeme Schwierigkeiten haben können, künstlerische Nacktheit zuverlässig von sog. „Adult Content“ zu unterscheiden.

Die ETH-Studie steht nicht allein

Mit der ETH-Studie war meine Recherche allerdings noch nicht zu Ende. Im Gegenteil. Je tiefer ich einstieg, desto häufiger begegnete mir dieselbe Fragestellung – in ganz unterschiedlichen Zusammenhängen.

Eine qualitative Studie von Dr. Carolina Are mit dem Titel „Stop Censoring Tits“ (2026) beschreibt, wie Moderationsrichtlinien bestehende gesellschaftliche Machtverhältnisse reproduzieren können und welche wirtschaftlichen Folgen dies für betroffene Künstlerinnen hat.

Auch außerhalb der Kunst zeigen sich ähnliche Muster.

Eine Untersuchung des Unternehmens Essity kam 2025 zu dem Ergebnis, dass Inhalte zu Frauengesundheit – etwa Menstruation, Anatomie oder der Uterus – auf verschiedenen Plattformen regelmäßig fälschlicherweise als „Adult Content“ eingestuft oder in ihrer Sichtbarkeit eingeschränkt wurden, obwohl sie ausschließlich medizinische oder aufklärende Inhalte enthielten.

Zu ähnlichen Schlussfolgerungen kommt auch das Center for Intimacy Justice (CIJ). Die Organisation dokumentiert seit Jahren Fälle, in denen Werbung oder Händlerkonten zu weiblicher Gesundheit häufiger eingeschränkt werden als vergleichbare Inhalte zu männlicher Sexualität.

Besonders spannend fand ich außerdem eine Recherche des Guardian aus dem Jahr 2023. Darin wurden KI-Bildklassifikatoren großer Technologieunternehmen mit Bildern aus unterschiedlichen Kontexten getestet – darunter Alltagssituationen, medizinische Aufnahmen und Sport. Das Ergebnis: Bilder von weiblichen Körpern wurden deutlich häufiger als „racy“ oder sexualisiert eingestuft als vergleichbare Bilder von Männern. Selbst klinische Aufnahmen oder Bilder im Zusammenhang mit Schwangerschaft und Brustkrebsvorsorge wurden teilweise als anstößig klassifiziert.

Natürlich beweist keine der Studien, dass Pinterest meinen Händlerstatus zu Unrecht abgelehnt hat. Bemerkenswert finde ich jedoch, dass völlig unterschiedliche Untersuchungen mit unterschiedlichen Methoden immer wieder auf ähnliche Muster hinweisen. Nach meiner Recherche halte ich die Vermutung, dass Moderationssysteme weibliche Anatomie häufiger als problematisch klassifizieren als vergleichbare männliche Darstellungen oder Inhalte in medizinischen und künstlerischen Kontexten, für gut begründet. 

Und die Moral von der Geschicht`?

Die eigentliche Frage beginnt hier erst

Als ich diese Recherche begann, wollte ich wissen, ob meine Vermutung überhaupt berechtigt ist.

Arbeiten KI-Systeme tatsächlich neutral, wenn sie den weiblichen Körper bewerten? Oder stufen Moderationsalgorithmen weibliche Anatomie häufiger als problematisch ein – selbst dann, wenn sie in einem anatomischen, medizinischen oder künstlerischen Kontext gezeigt wird?

Nach allem, was ich gelesen habe, fällt mir die Antwort relativ eindeutig aus. Ich habe keine Studie gefunden, die meine Vermutung widerlegt. Stattdessen bin ich auf eine ganze Reihe unabhängiger Untersuchungen gestoßen, die immer wieder auf ähnliche Muster hinweisen. Unterschiedliche Forschende, unterschiedliche Methoden und unterschiedliche Fragestellungen – und doch zeigt sich immer wieder, dass weibliche Anatomie häufiger als problematisch eingestuft wird als vergleichbare männliche Darstellungen oder Inhalte in medizinischen, anatomischen und künstlerischen Kontexten.

Das bedeutet nicht, dass Pinterest meine Bilder absichtlich benachteiligt hat. Und es bedeutet auch nicht, dass jeder Moderationsfehler Ausdruck eines gesellschaftlichen Vorurteils ist. Aber es bedeutet, dass meine ursprüngliche Frage berechtigt war.

Wenn Algorithmen mit Datensätzen trainiert werden, die gesellschaftliche Vorstellungen vom weiblichen Körper widerspiegeln, dann überrascht es vielleicht nicht, dass genau diese Vorstellungen auch in ihren Entscheidungen sichtbar werden.

Für mich ist die eigentliche Erkenntnis dieser Recherche deshalb nicht, dass ein einzelner Händlerstatus abgelehnt wurde. Sondern dass die Frage nach der Neutralität algorithmischer Moderation offenbar viel berechtigter ist, als ich zu Beginn gedacht hatte.

Was wir hier erleben, ist kein technischer Fehler, sondern die digitale Fortführung einer jahrhundertealten patriarchalen Blickstruktur. Weil mich diese Frage als Künstlerin und Kunsthistorikerin nicht mehr loslässt, möchte ich hier weiter recherchieren. Denn wir müssen dringend darüber sprechen, wer im digitalen Raum überhaupt noch sichtbar ist und wer das bestimmt.

Quellen aus deinem Blogbeitrag

Pinterest