Digitalisierungsexpertin „Sie schützen unsere Demokratie“

Sie sind Mitbegründerin von Superrr, einer Non-Profit-Organisation, die sich für eine ethische Verwendung von Technologien einsetzt. Wie können wir uns Ihre Arbeit vorstellen?

Superrr ist eine gemeinnützige Organisation mit Sitz in Berlin. Wir beschäftigen uns mit der Frage, wie gerechte und inklusive digitale Zukünfte aussehen können. Wie gestaltet man die Digitalisierung fair? Wessen Stimmen müssen für diese Gestaltung miteinbezogen werden? Welche Auswirkungen haben neuen Technologien auf die Gesellschaft? Das alles sind Fragen, die uns als Superr Lab in unserem Arbeitsalltag umtreiben. Um Antworten zu finden und Konzepte zu entwickeln, arbeiten wir mit den unterschiedlichsten Gruppen zusammen: mit Wissenschaftlerinnen und Wissenschaftlern genauso wie mit zivilgesellschaftlichen Organisationen. So möchten wir gemeinsam mit anderen Menschen Zukunftsvisionen entwerfen und uns für die Umsetzung dieser Visionen einsetzen.

Außerdem arbeiten wir eng mit der Politik zusammen und tragen unsere Visionen aus der Zivilgesellschaft in die Politik. Dabei machen wir auf Chancen, aber auch auf Risiken beim Einsatz neuer Technologie aufmerksam. Für uns ist Digitalisierung kein rein technisches, sondern in erster Linie ein gesell­schaftliches Thema. Es geht um grund­legende soziale Themen wie Gerechtig­keit, Soli­darität, Teil­habe und Zugang. Außerdem finden wir, dass Digitalpolitik keine Wirtschafts-, sondern Gesellschaftspolitik sein sollte. Bei digitalpolitischen Fragestellungen sollte es also immer um den gesellschaftlichen Mehrwert und das Gemeinwohl gehen.

Kürzlich waren Sie zu einer öffentlichen Sitzung im Digitalausschuss eingeladen. „Content-Moderatoren sind die Putzkräfte unserer Demokratie“, haben Sie dort gesagt. Was meinen Sie damit?

Content-Moderatoren machen sehr wichtig Arbeit, aber sie ist häufig unsichtbar. Content-Moderatoren sind die Menschen, die sich Inhalte auf Social-Media-Plattformen ansehen, wenn sie beispielsweise gemeldet werden. Sie müssen dann prüfen, ob die Inhalte gelöscht werden, weil sie Hass, Hetze oder Gewaltdarstellungen beinhalten.

Diese Arbeitskräfte moderieren zwar Inhalte für Instagram, Facebook, TikTok und ähnliche Netzwerke, sind aber nie direkt dort angestellt. Ihre Arbeit ist outgesourct und sie sind somit bei Unternehmen angestellt, die kaum jemand kennt. In diesen Unternehmen herrschen oft sehr prekäre Bedingungen. Die Gewerkschaft Verdi schätzt, dass es in Deutschland mindestens 5.000 dieser Content-Moderatoren gibt, die Tag und Nacht arbeiten und dafür sorgen, dass bestimmte Inhalte nicht im Netz landen.

Wenn ich sage, dass die Content-Moderatoren Putzkräfte unserer Demokratie sind, dann meine ich genau das: Sie machen wichtige Arbeit im Hintergrund und sorgen zum Beispiel dafür, dass Volksverhetzung aus den sozialen Medien gelöscht wird. Und das ist deshalb so entscheidend, weil diese Inhalte – wenn sie tausende Menschen erreichen – am Ende unseren demokratischen und gesellschaftlichen Zusammenhalt bedrohen könnten. Content-Moderatoren schützen unsere Demokratie, durch sie bleiben unsere Social-Media-Feeds frei von illegalen Inhalten.

Zur Tätigkeit als Content-Moderator gehört es, Inhalte, die Gewalt oder Kinderpornografie enthalten, zu sichten. Inwiefern können die Arbeitsbedingungen denn in so einem belastenden Job überhaupt verbessert werden?

Es gibt einige Berufe, die für die Gesellschaft wichtig sind, die ebenfalls sehr belastende Tätigkeiten beinhalten. Zum Beispiel gibt es bei der Polizei Abteilungen, die sich mit kinderpornografischem Material auseinandersetzen müssen. Andere Abteilungen müssen Filme mit extremer Gewaltdarstellung sichten, um sie strafrechtlich zu verfolgen. Auch Soldatinnen und Soldaten sind regelmäßig extremen Situationen ausgesetzt.

Was diese Berufsgruppen von den Content-Moderatoren unterscheidet, ist die Tatsache, dass es dort einen besonderen Gesundheits- und Arbeitsschutz gibt. Da könnte man sich einiges abschauen. Content-Moderatoren wünschen sich beispielsweise eine viel bessere psychologische Betreuung. Sie stellen sich vor, dass sie laufend von Experten betreut werden, die extern angestellt sind. Aktuell beschränkt sich die psychologische Betreuung nämlich auf sogenannte Well-Being-Coaches, die intern angestellt sind und bei denen deshalb die Gefahr besteht, dass Informationen an den Arbeitgeber weitergegeben werden.

Zudem wäre es sinnvoll, dass man schon bei der Einstellung gemeinsam mit den Menschen prüft, welche Toleranz sie für bestimmte Inhalte mitbringen. Das ist von Mensch zu Mensch unterschiedlich. Man muss auch beachten, dass sich posttraumatische Belastungsstörungen nicht von heute auf morgen entwickeln, sondern über einen längeren Zeitraum. Das heißt, man könnte regelmäßig testen, ob die Mitarbeiter gerade Gefahr laufen, diese Störung zu entwickeln.

Es gibt also einiges nachzujustieren, um die Arbeitsbedingungen zu verbessern. Natürlich bleibt es ein Job, bei dem extreme Inhalte gesichtet werden müssen. Aber man kann dafür sorgen, dass Menschen nicht lebenslange psychische Schäden davontragen. 

Welche Rolle könnten denn Betriebsräte und Gewerkschaften wie Verdi bei der Verbesserung dieser Arbeitsbedingungen spielen?

Sowohl Gewerkschaften als auch Betriebsräte spielen eine wichtige Rolle. Betriebsräte sind – wie der Name sagt – Teil des Betriebs. Das sind Mitarbeiter und Mitarbeiterinnen, die sich zur Wahl stellen und sich dann im Betrieb für die Rechte der Arbeitnehmerinnen und Arbeitnehmer einsetzen. Dabei sind die Mitglieder des Betriebsrates nicht kündbar und haben so einen besonderen Schutz und zusätzlich Zugriff auf Informationen, auf die andere Mitarbeitende nicht zugreifen können. Deshalb könnten Betriebsräte dazu beitragen, dass es den Content-Moderatorinnen und -Moderatoren in ihrem Job besser geht.

Gewerkschaften können bei der arbeitsrechtlichen Mobilisierung und Organisierung von Menschen helfen. Gewerkschaften unterstützen zum Beispiel dabei, Betriebsratswahlen zu organisieren. Und wenn ein gewisser Anteil von Arbeitnehmern in einem Betrieb einer Gewerkschaft angehört, können sogenannte Tariflöhne ausgehandelt werden. Gewerkschaften können aber auch andere Arbeitsbedingungen aushandeln. Und so könnten sie helfen, die Arbeitsbedingungen von Content-Moderatoren zu verbessern.

Es ist vorgekommen, dass Content-Moderatoren, die öffentlich über die Arbeitsbedingungen berichtet haben, entlassen wurden. Auch Content-Moderator Cengiz Haksöz wurde freigestellt, nachdem er im Ausschuss gesprochen hat. Warum reagieren die Konzerne so?

Diese Konzerne haben in den vergangenen Jahren eine Kultur der Angst und Geheimhaltung aufgebaut. Menschen, die als Content-Moderatoren arbeiten, müssen sehr strenge Verschwiegenheitsvereinbarungen unterzeichnen. Und in diesen Vereinbarungen steht auch, dass sie sich nicht mit anderen über ihre Arbeitsbedingungen austauschen dürfen. Das ist eine Bedingung, die in Deutschland unüblich und arbeitsrechtlich auch nicht in Ordnung ist. Das Recht, sich zu organisieren, sich mit anderen auszutauschen und Arbeitsbedingungen zu verbessern, ist in unserem Grundgesetz verankert. Dieses Recht steht immer über jeder Geheimhaltungsvereinbarung.

Dass man nun jemanden wie Cengiz Haksöz, der von seinen Rechten Gebrauch macht und vor Abgeordneten über seine Arbeitsbedingungen spricht, freistellt, zeugt von genau dieser Kultur der Einschüchterung und Geheimhaltung. Man möchte den Leuten klarmachen, was ihnen für Konsequenzen drohen, wenn sie versuchen, die Zustände öffentlich zu machen.

Der Arbeitgeber von Cengiz Haksöz hat mit seinem Verhalten Union-Busting betrieben. So nennt man es, wenn Unternehmen versuchen, systematisch gegen gewerkschaftliche Interessenvertretungen vorzugehen. Gebracht hat das Verhalten des Unternehmens aber nichts. Die Verdi-Liste, auf der auch Cengiz stand, hat bei der Betriebsratswahl 14 von 17 Plätzen gewonnen. Mit dem neuen Betriebsrat haben die Content-Moderatoren und -Moderatorinnen eine starke Vertretung, auf die sie zählen können.

Wie können die Abgeordneten, wie kann das Parlament helfen, die Arbeitsbedingungen von Content-Moderatoren zu verbessern?

Zum einen wäre es wichtig, eine wissenschaftliche Grundlage für weitere Maßnahmen zu schaffen. Die Dinge, die wir anhand von Erzählungen nun kennen, müssten in einer Studie durch Daten erfasst werden: Wie sehen die Arbeitsbedingungen und Verträge aus? Wie viele Personen arbeiten als Content-Moderatorinnen und -Moderatoren?

Außerdem müsste man sich das Arbeitsrecht genau ansehen und dort besonders den Bereich Gesundheitsschutz. So könnte man klären, welchen Gesundheitsschutz man für diese Berufsgruppe gesetzlich verankern könnte.

Und auf digitalpolitischer Ebene könnte die Europäische Kommission im Rahmen des Digital Services Acts gemeinsam mit den Unternehmen Richtlinien für gute Arbeitsbedingungen in der Content-Moderation ausarbeiten. Das wäre auch deshalb sinnvoll, weil wir annehmen, dass sich die Arbeitsbedingungen auf die Qualität der Content-Moderation auswirken. Und das betrifft am Ende wiederum uns alle, denn die Inhalte, die wir zu sehen bekommen, wirken sich auf uns Nutzerinnen und Nutzer aus. 

(Mira Knauf)