Diskriminierung queerer Inhalte in sozialen Netzen

Das Internet ist groß. Verdammt groß. Um uns in dem Dschungel von Inhalten zurechtzufinden, brauchen wir Möglichkeiten recht genau das zu finden, was wir suchen und Unpassendes auszublenden – egal ob in klassischen Suchmaschinen wie Google oder in den Appstores unserer Smartphones. Aber was ist eigentlich „unpassend“, wer entscheidet das und nach welchen Kriterien?
Dieses komplexe Thema wollen wir auf Femgeeks in Bezug auf die großen sozialen Netzwerke mit einer kleinen Artikelserie behandeln. In diesem ersten Teil werde ich mich vor allem mit der Filterung von Inhalten der queeren Community beschäftigen, die von Filtermaßnahmen oft in die „Sex-Ecke“ gestellt werden. Somit geraten queere Menschen in Gefahr, auf den großen Plattformen nicht mehr sichtbar zu sein und ihre öffentliche Stimme einzubüßen.

Mitte März handelte sich YouTube einen Shitstorm ein. Seit 2010 verfügt es über die Option eines eher versteckten „Restricted Mode“, der durch automatische Filter einen Großteil der Videos ausblendet. Nur diejenigen werden übrig gelassen, bei denen der Algorithmus sich sicher ist, dass er keine anstößigen Inhalte enthält – zum Beispiel solche mit Beschimpfungen und Gewalt. Tatsächlich wurden seit jeher auch viele harmlose Videos herausgefiltert. Der Modus soll lieber etwas zu gründlich sein, damit der Zugriff auf die Videoplattform z.B. auch in öffentlichen Einrichtungen wie Schulen möglich ist, ohne die Kinder und Jugendliche dabei beaufsichtigen zu müssen.
Mehreren Menschen war in den letzten Monaten allerdings aufgefallen, dass im Restricted Mode keinerlei Videos zu LGBTQ-Themen verfügbar waren. Der Filter ging so weit, dass die bloße Erwähnung des Wortes gay im Videotitel genug war, um es herauszufiltern, selbst wenn das Video bloß ein süßes Katzenbaby zeigte. Besonders die Channels von YouTube-Größen wie Ash Hardell, die seit vielen Jahren queere Aufklärungsarbeit auf YouTube leisten, waren betroffen – kein einziges ihrer Videos war im Restricted Mode verfügbar.

Wenig später, am 29. März, ging ein kleiner Aufschrei durch Twitter: Die Suche lieferte für bestimmte Begriffe plötzlich keine Ergebnisse mehr, die Ergebnisliste war einfach leer. Während der Großteil der Begriffe irgendwie mit Sex zusammenhing, waren auch nicht unmittelbar damit verknüpfte Worte wie queer offenbar darunter gelandet. Zynisch merkten Twitternde an, dass schwulenfeindliche Beleidigungen wie faggot oder Naziparolen wie sieg heil weiterhin auffindbar waren.

In beiden diesen Fällen ruderten die Netzwerke zurück, nachdem es Proteste aus der Community gab. Bei YouTube nahm man umfassend Stellung und gestand ein, dass der Filter nicht so funktionierte wie er sollte. Einen Monat später wurden die Probleme für behoben erklärt, allerdings mit einer teils irritierenden Klarstellung darüber, wie weitreichend Inhalte im Restricted Mode weiterhin nicht verfügbar sein sollen (dazu unten mehr). YouTube hatte Mitte 2016 noch mit der Kampagne #ProudToBe die queeren YouTuber*innen gefeiert und sich LGBTQ-freundlich vermarktet.

Bei Twitter war der Block von Worten wie queer und sex nach einem Tag kommentarlos wieder verschwunden, ohne dass sich die Betreiber dazu äußerten; nicht unwahrscheinlich, dass man gesehen hatte, was bei YouTube wenige Wochen zuvor passiert war und nun versuchte, den eigenen Fehler unter den Teppich zu kehren. Bei eindeutigeren Begriffen wie porn oder pussy wird noch gefiltert (nach Bildern oder Videos lässt sich nicht suchen), bei manchen Hashtags wie #dick lassen sich nicht mal die aktuell damit geposteten Tweets anzeigen.

Es ist durch die thematisch so sehr eingegrenzte Begriffsliste allerdings sicher, dass es sich nicht um einen allgemeinen Fehler, sondern um eine bewusste Änderung gehandelt haben muss. Wir können daraus schließen: Erstens, ein Feature, um spezifisch Themen rund um Sexualität zu filtern, wurde von Twitter entwickelt, getestet und dann live ausgerollt. Und zweitens, Begriffe der queeren Community wurden erst einmal diesem Themenbereich zugeordnet.

Warum wird überhaupt gefiltert?

Einerseits müssen gesetzliche Anforderungen der verschiedenen Länder eingehalten werden. In repressiveren Staaten wie China werden Unternehmen gezwungen, die staatliche Zensur mitzutragen und daher z.B. die Suchergebnisse zu bestimmten politischen Themen nicht anzuzeigen. In der EU können Bürger*innen Suchergebnisse löschen lassen, um ihre persönlichen Daten zu schützen, was auch vielfach genutzt wird. Wichtiger für die Einschränkung der Suchergebnisse in westlichen Staaten ist aber meist das Thema Jugendschutz: Um Heranwachsende in ihrer Entwicklung nicht zu beschädigen, soll ihr Zugang zu sexuellen (insbesondere pornografischen) und gewalttätigen Inhalten beschränkt werden.

Andererseits geht es einfach ums Geld. Wer ein soziales Netzwerk betreibt, ist auf die Inhalte der Nutzenden angewiesen. Eine große Vielfalt der Inhalte ist zwar gut – wenn manche von ihnen aber viele andere irritieren oder gar verstören, leidet die Plattform darunter. Außerdem besteht eine Abhängigkeit von den eigenen Werbekund*innen, die bei schlechter Publicity ihr Geld womöglich anderswo lassen. YouTube durfte das zuletzt im Zusammenhang mit den antisemitischen Äußerungen des YouTube-Stars PewDiePie deutlich spüren.

Die Technik, bestimmte Suchbegriffe oder Inhalte zu filtern, ist somit in wohl allen weltweit tätigen Suchmaschinen und sozialen Netzwerken grundsätzlich vorhanden.

Was ist denn das Problem mit Sex?

Die einfache Antwort ist: In den USA, wo die großen sozialen Netzwerke herkommen, ist Sexualität ein besonders heikles Thema. Nicht erst Pornografie, sondern auch das offene Sprechen über z.B. sexuelle Erfahrungen in der Öffentlichkeit wird als sensibel und insbesondere ungeeignet für Minderjährige gesehen.

Die sozialen Netzwerke unterscheiden sich in ihrer Handhabung dieses Themas. Auf Twitter können Medien von den Schreibenden als „sensibel“ gekennzeichnet werden; in dem Fall sind pornografische Inhalte grundsätzlich in Ordnung. Auf YouTube wird die Kennzeichnung dagegen vom System selbst übernommen und selbst Nacktheit ist nur erlaubt, wenn sie in einem aufklärerischen oder künstlerischen Kontext steht. Und das ist noch um Meilen liberaler als Facebook, wo selbst Bilder auf denen Babys gestillt werden gegen die Regeln verstoßen.

Manche der Regelungen sind auch schlicht widersprüchlich. YouTubes Restricted Mode erlaubt nach dem jüngsten Statement offiziell zwar aufklärende Inhalte zu Sexualität, es sollen aber weiterhin „overly detailed conversations about sex or sexual activity“ herausgefiltert werden. Sexual education ohne offen über Sex zu sprechen – wie soll das gehen? So sind dann fast alle Videos bekannter SexEd-YouTuber*innen wie Laci Green nicht sichtbar, selbst wenn es gar nicht um sexuelle Aktivitäten, sondern beispielsweise um Intersexualität oder Menstruation geht. Das Statement wirkt wie ein Feigenblatt, das Problem bleibt weitgehend ungelöst.

Ähnlich verwundert kann man von Twitter sein. Warum ist eine explizite Suche nach pornografischen Inhalten nicht möglich, obwohl sie doch nach den Regeln der Plattform erlaubt sind? Für manches gibt es auch banale Erklärungen, wie dass einem bei der Suche nach z.B. fat acceptance-Inhalten mit dem deutsch gelesenen Hashtag #dick nicht plötzlich ungewollt Penisse angezeigt werden sollten; die grundsätzliche Unmöglichkeit, gezielt nach pornografischen Fotos und Videos zu suchen, wirkt jedoch schlicht inkonsistent. Zudem sind manche Begriffe nur als Hashtag gesperrt, als normales Wort aber erlaubt.

In den USA haben Kinder noch nicht einmal ein Anrecht darauf, sexuell aufgeklärt und über wirksame Methoden der Schwangerschaftsverhütung informiert zu werden – die Panik vieler Konservativer davor, dass mit Kindern über Sex zu sprechen diese zu selbigem verleitet, ist weiterhin riesig. Und auch moderate Eltern gehen in diesem Klima lieber auf Nummer sicher. So entsteht ein Druck auf große Internetunternehmen, solche Inhalte vor ihren Kindern zu verbergen bzw. entsprechende Optionen anzubieten: die parental controls. In den USA werden sie zur Filterung von Internetinhalten von etwa 40% der Eltern genutzt. Sie werden von den Anbietenden damit beworben, dass sie Inhalte unzugänglich machen, die vage als mature (reif), als inappropriate (unangmessen) oder harmful (schädlich) für die Kinder beschrieben werden.

Was macht Queerness eigentlich so sexy?

In der Öffentlichkeit geistert viel Unwissen und Ignoranz über queere Themen herum und sie werden regelmäßig in eine nicht jugendfreie, womöglich gar pornografische Ecke gestellt. Ein gewisser Teil der queeren Community zelebriert sicherlich sehr offen die eigene Sexualität (wie bei den schrillen Pride-Paraden), und dafür müssen wir uns gewiss nicht schämen! Aber bei den gesperrten Inhalten geht es viel häufiger um Aufklärung und um die Beschreibung eigener Erfahrungen als queerer Mensch. Es geht um Diskriminierung von inter- und transsexuellen Menschen, um Coming Outs – alles Materialien, die es queeren Menschen (und insbesondere Kindern und Jugendlichen!) heutzutage ungleich leichter als vor 20 Jahren machen, ihresgleichen zu finden, ihre eigene Identität zu erforschen und zu sich zu stehen.

Selbst in Deutschland führen wir harte Debatten über die Inhalte von Bildungsplänen und ob queere Menschen und Lebensweisen im Schulunterricht erwähnt werden dürfen. Noch mehr als bei uns hält sich in den USA der falsche Glaube, dass ein Sprechen über queere Themen die Kinder einer „Frühsexualisierung“ aussetzt, sie gar „verschwult“ oder in ihrer Geschlechtsidentität verwirrt. Vielleicht passiert das teilweise, weil Begrifflichkeiten wie Homo- und Transsexualität den Sex vermeintlich im Wort tragen. Noch mehr wird die Assoziation mit devianter Sexualität von queerfeindlichen Bewegungen zu einer regelrechten Waffe gemacht. Homosexuellen wird nicht nur in Russland, sondern auch hierzulande noch vorgeworfen, Täter*- oder Unterstützer*innen sexualisierter Gewalt gegen Kinder und Jugendliche zu sein – selbst in großen Tageszeitungen, übertitelt mit blutroten Lettern wie im Horrorfilm.

Von Internet-Giganten wie YouTube oder Twitter sollte man schon erwarten, dass sie hier unterscheiden können und dieser queerfeindlichen Propaganda nicht auf den Leim gehen – besonders, wenn sie sich wie YouTube doch eigentlich Queerfreundlichkeit auf die Brust schreiben! Dem öffentlichen Kampf um die gleichberechtigte Anerkennung queerer Menschen in der Gesellschaft können sie sich aber auch nicht entziehen.

Warum hören wir gerade jetzt von diesen Filtermaßnahmen?

Dass verschiedene Unternehmen Filter einsetzen, ist kein neues Phänomen – Instagram beispielsweise sperrt seit Jahren automatisch Suchbegriffe, über die viel regelwidriges (z.B. pornografisches) Material gepostet wird. Das erwischt leider auch eine große Menge LGBTQ-Begriffe wie die Hashtags #bi und #lesbian. Das ist ein gutes Beispiel dafür, wie eine einfache Regel schädliche Auswirkungen haben kann, selbst wenn sie nicht von Anfang an auf queere Menschen abzielt. Es ist glasklar, dass die queere Community dadurch diskriminiert wird – selbst wenn die Entscheidung darüber durch einen Algorithmus getroffen wurde; selbst unter der Annahme, dass bei Instagram niemand aktiv queerfeindlich sein wollte.

YouTubes Restricted Mode ist nicht bei weitem nicht neu, er ist jedoch im Mitte 2015 veröffentlichten neuen YouTube-Interface sichtbarer geworden (ganz unten auf jeder Seite) und wurde seitdem stärker eingesetzt. Vermutlich wurde queerer Content also schon sehr lange gefiltert, aber diese gezielte Sperre zufällig erst jetzt entdeckt.

In meiner Recherche konnte ich nicht feststellen, ob alle jetzt aktiven Filter auf Twitter bereits seit längerer Zeit so funktioniert haben; das Wort queer im Speziellen wurde aber definitiv Ende 2016 noch nicht gefiltert und die jüngste Änderung fiel bei diesem für die queere Filterbubble prominenten Begriff höchstwahrscheinlich sehr schnell auf. In jedem Fall hat es ohne erkennbare Not eine Änderung der gefilterten Begriffe gegeben, und schon alleine das ist ja interessant.

Ich schließe den Artikel daher mit einer kleinen Verschwörungstheorie: Vielleicht ist es kein Zufall, dass die Filtermaßnahmen kurz nach Amtsantritt von Donald Trump als Präsident der Vereinigten Staaten verstärkt wurden…? Natürlich lässt sich der direkte Zusammenhang nicht belegen, aber es ist denkbar, dass das politische Klima in den USA die amerikanischen Unternehmen beeinflusst. In einem zukünftigen Teil dieser Artikelserie will ich darauf eingehen, wie die großen Kreditkartenunternehmen in der Trump-Ära noch einmal deutlich ihre Anti-Sex-Regelungen verschärft haben.

Welche Thematiken rund um das Thema soziale Netzwerke und Content-Filter fallen euch noch ein, was könnten wir hier noch behandeln? Schreibt es in die Kommentare!

EDIT: Am gleichen Tag wie dieser Beitrag ist Tove beim Missy Magazine ein Artikel von Tove zur Unsichtbarmachung und Unterdrückung queeren Lebens erschienen, der eine tolle Ergänzung zu diesem hier ist und ebenfalls YouTubes Filter anspricht.

Titelbild: Blogtrepreneur, Social Media Mix 3D Icons - Mix #2, CC BY 2.0