Social-Media-Kritik „Facebook nimmt Kriegspropaganda in Kauf“

Wer ist Frances Haugen?

Die amerikanische Informatikerin Frances Haugen kennt sich mit Social Media gut aus. Für Google arbeitete sie als Algorithmus-Expertin, bevor sie 2018 als leitende Produktmanagerin zum Meta-Konzern wechselte, dem unter anderem Facebook und Instagram gehören.

Letztes Jahr kündigte Haugen dort, weil sie, so sagte sie in der Anhörung im Digitalausschuss im Bundestag, „nicht länger Teil eines Systems sein wollte, das Kindern schadet, Gewalt befördert und unsere Demokratie schwächt.“

Im Oktober 2021 spielte sie dem US-Senat Informationen zu, die sogenannten „Facebook-Files“. Sie sollten beweisen, dass Facebook den eigenen Profit über das Wohl seiner Nutzerinnen und Nutzer stelle. Haugen wirft dem Meta-Konzern vor, die schädlichen Mechanismen seiner Produkte zu kennen, aber zu Gunsten des eigenen Wachstums zu ignorieren.

Der Ukraine-Krieg: „Neue Kriegsfront Internet“

Als aktuelles Beispiel wählte Haugen den Krieg in der Ukraine. Facebook profitiere von der „Kriegspropaganda und bösartiger Desinformation“ des russischen Präsidenten Wladimir Putin, sagte Haugen im Ausschuss. Die Plattform würde weder gezielte Desinformationen noch Hatespeech gegen ukrainische Geflüchtete und Journalisten verhindern. So würde das Internet zur „neuen Kriegsfront“.

Technisch wäre Facebook durchaus in der Lage, gegenzusteuern, meinte Haugen. Aber aus wirtschaftlichen Gründen geschehe viel zu wenig. Sie selbst sei bei Facebook Teil des „Counter Espionage Teams“ gewesen, das versucht, Spionage-Angriffe abzuwehren. Allerdings hätten dort weniger als 20 Menschen versucht, gegen Tausende russischer Hacker-Angriffe anzukommen, was aussichtslos gewesen sei.

Haugen sprach von „bewussten Entscheidungen“, die die „öffentliche Sicherheit“ und auch die Sicherheit der Menschen in der Ukraine gefährdeten. Plattformen wie Facebook seien in Demokratien entstanden und dürften nun kein „Zufluchtsort für autokratische Propaganda“ sein, so die Informatikerin.

Was tun gegen gezielte Desinformationen?

Facebook und andere Social Media Plattformen müssten transparent darlegen, was sie gegen gezielte Desinformationen etwa des russischen Staats unternähmen, forderte Haugen. Eigenverantwortliche Selbstregulierung funktioniere nachweislich nicht, deshalb brauche man strengere verbindliche Regelungen. Außerdem müssten die Plattformen verpflichtet werden, ihre Daten Wissenschaftlern, Journalisten und der Zivilgesellschaft zur Verfügung stellen.

Das geplante EU-Gesetz „Digital Services Act“ bezeichnete Haugen als „wichtigen Schritt in die richtige Richtung“ für mehr Transparenz.

Digital Services Act

Der Digital Services Act (DSA) soll zum einen dafür sorgen, dass die Nutzerinnen und Nutzer von Online-Plattformen besser geschützt werden. Zum anderen soll das Gesetz die Plattformen zu mehr Transparenz verpflichten. Der Gesetzgebungsprozess läuft noch. Im Januar sprach sich aber eine Mehrheit der Abgeordneten im EU-Parlament schon für den Entwurf der EU-Kommission aus. Mehr erfahrt ihr hier.

SPD fragt nach „digitalem Kolonialismus“

Für die SPD sprach Jens Zimmermann. Er zitierte Frances Haugen aus einem Interview mit dem Begriff „digitaler Kolonialismus“ und fragte, ob Plattformen wie Facebook nicht genügend Sprach- und Kultur-Kompetenz hätten.

Haugen bestätigte, es sei ein großes Problem, dass Facebook zu wenig in andere Sprachen als Englisch investiere. Facebook garantiere Sicherheit nur für englischsprachige Nutzer, in anderen Sprachen würden die Inhalte sehr viel weniger kontrolliert. So könnten sich Falschinformationen und Hatespeech ungestörter verbreiten.

Union fragt nach polarisierenden Inhalten

Hansjörg Durz (CDU/CSU) fragte, warum Facebook-Werbung mit polarisierendem Inhalt billiger sei als andere. Darauf antwortete Haugen: „Der schnellste Weg zum nächsten Klick ist Wut.“ Werbeanzeigen mit polarisierendem Inhalt würden von Facebook als besonders attraktiv eingestuft, weil sie zu mehr Interaktion führten.

Durz fragte auch nach dem „Facebook Oversight Board“, einem internen Kontrollgremium. Haugen erklärte, dieses Gremium beschäftige sich nur damit, welche Inhalte gelöscht werden sollten, habe aber zum Beispiel keinen Einblick in die Algorithmen. Außerdem enthalte Facebook dem Board Informationen und lüge mitunter sogar. Im Endeffekt habe das Gremium keinerlei Handhabe, wirklich etwas zu bewirken.

Grüne fragen nach gefährlichen Inhalten für Jugendliche

Für Bündnis 90/Die Grünen fragte Tabea Rößner nach den Auswirkungen bestimmter Inhalte auf die Psyche von jungen Menschen – und inwiefern Facebook dafür Verantwortung übernehme.

In ihrer Antwort griff Haugen das Beispiel Essstörungen auf. Es sei wissenschaftlich bewiesen, dass bei Jugendlichen, die ohnehin Probleme mit Essstörungen haben, eine exzessive Beschäftigung mit dem Thema die Störungen noch verschlimmerten. Trotzdem verführe Facebook diese Jugendlichen durch seine Algorithmen dazu, in ‚Loops‘ zu geraten, so dass sie sich immer weiter mit diesen schädlichen Inhalten beschäftigten.

FDP fragt nach „Overblocking“

Maximilian Mordhorst (FDP) wollte wissen, ob der Digital Services Act nicht die Gefahr des „Overblockings“ berge, also des übermäßigen Löschens von Inhalten. Haugen antwortete, dass Facebook im Moment nur etwa drei bis fünf Prozent der Hatespeech-Inhalte auf der Plattform entdecke und lösche. Ein Problem, das unter anderem wieder damit zusammenhinge, sei, dass Beiträge in anderen Sprachen nicht ausreichend bewertet werden könnten.

AfD fragt nach Löschpraktiken

Beatrix von Storch (AfD) fragte, wie es funktioniere, dass man bei einer Beschwerde auf Facebook manchmal innerhalb weniger Minute eine Antwort bekäme. Haugen sagte, dass in der Regel Algorithmen Beschwerden bearbeiteten, weil das billiger sei. Eigentlich müsste man aber als Nutzer das Recht haben, dass ein Mensch sich mit der Beschwerde auseinandersetze. Sie ergänzte, dass Facebook schon lange versuche, die öffentliche Diskussion auf das Thema Zensur zu beschränken, obwohl es viele wichtige technische Aspekte gebe, über die man rede müsste, zum Beispiel die Sicherheit von Programmen oder die Möglichkeit, Hatespeech mit technischen Möglichkeiten zu reduzieren.

Linke fragt nach „Metaverse“

Anke Domscheit-Berg (Die Linke) fragte nach dem sogenannten „Metaverse“. So nennt man digitale, dreidimensionale Erlebniswelten, in denen Nutzerinnen und Nutzer zusammenkommen, um etwa zu spielen, einzukaufen oder auch Konzerte zu besuchen. Der Meta-Konzern (der sich auch deshalb so umbenannt hat) will in Zukunft stark in diesen Bereich investieren. Domscheit-Berg fragte, ob die Entstehung des „Metaverse“ nicht eine Chance sein könnte, dort von Anfang an stärker zu regulieren. Haugen zeigte sich skeptisch. Der Meta-Konzern wolle im „Metaverse“ die Verantwortung auf kleine Plattformen abwälzen. Deshalb sei es wichtig, Verantwortung bei digitalen Produkten in allen Bereichen einzufordern.

Die Anhörung seht ihr hier im Video (teilweise auf Englisch):

(jk)