Cleaner

„Im Schatten der Netzwelt – Die Cleaner“ lief als Doku am 28. August 2018 auf arte.
Der Inhalt ist relevant für die Digitalisierung, so dass wir uns einen kurzen schriftlichen Einblick erlauben.

Manila auf den Philippinen ist die Hauptstadt der Cleaners und damit einer der Hauptstandorte für die gigantische Schattenindustrie digitaler Zensur. Cleaners sind Menschen, die die sozialen Netzwerke von rassistischen und anstössigen Inhalten befreien. Die Mitarbeiter und die Firmen verwenden den Begriff „Content Moderator“. Die Aufgabe eines Content Moderator ist es, „den Dreck wegzumachen und sicher zu stellen, dass nichts Anstößiges hochgeladen wird“, so einer der interviewten Cleaner. Algorithmen können die Arbeit der Cleaner nicht leisten.

Die Bilder erscheinen auf einem Monitor. Der Cleaner entscheidet über delete (löschen) oder ignore (ignorieren) per Sprachbefehl. Teilweise werden ca. 25 Tausend Bilder pro Tag von einer Person gesichtet. Zehntausende von Cleanern arbeiten in 10 Stunden Schichtsystemen in Manila.

Kommerzielle Content Moderatoren arbeiten im Schatten der sozialen Netzwerke. Drei Milliarden Menschen sind über soziale Netzwerke verbunden. Die Nutzer verschwenden eher keinen Gedanken daran, wer die Netzwerke „sauber“ hält.

Zitat eines Content Managers:

„Als Content Moderator sollte man Prinzipien haben. Du entscheidest ob die Leute ein Bild zu sehen bekommen oder nicht. Der schlimmste Fehler den man begehen kann ist Nacktfotos zuzulassen. Oder männliche Genitalien, absolut inakzeptabel.“

Die Arbeit eines Content Managers ist eine psychische Herausforderung. Die Mitarbeiter werden mit stark verstörenden Inhalten konfrontiert. Die Kriterien und Vorgaben, nach denen sie arbeiten, werden seitens der Unternehmen nicht offen kommuniziert.

Hinzu kommen unterschiedliche Problemfelder. Beispielsweise der Content von Nutzern in Kriegsgebieten ist ein anderer als der in Europa oder den USA. Sie berichten nicht über Fußball oder Feiern, sie berichten über Luftangriffe, Tod und Krieg. Organisationen, die versuchen die Inhalte zu nutzen um ein möglichst zutreffendes Bild einer Lage in einem Kriegsgebiet zu schaffen, sind von dem „delete“ der Content Manager abhängig.

Es ergeben sich für die Zukunft in vielerlei Hinsicht rechtliche und tatsächliche Problemkreise. Es gilt nach unserer Ansicht die Thematik der Cleaner im Auge zu behalten. Sie stellen rein faktisch die Polizei im Internet dar und sind damit ein integraler Bestandteil unserer vermeintlichen Freiheit im Netz.