Menü
Dresdner Neueste Nachrichten | Ihre Zeitung aus Dresden
Anmelden
Digital Wie Facebook – unbeabsichtigt – Werbung für Terroristen macht
Nachrichten Digital Wie Facebook – unbeabsichtigt – Werbung für Terroristen macht
Partner im Redaktionsnetzwerk Deutschland
13:30 13.05.2019
Wie einfach es ist, Facebooks Kontrollmechanismen zu umgehen, zeig diese Seite, aufgenommen am 7. Mai. Quelle: AP/Screenshot
Washington

Das Video beginnt mit einem Foto der schwarzen Dschihad-Flagge. Es folgen die Social-Media-Höhepunkte der vergangenen zwölf Monate: Einblendungen mit antisemitischen Sprüchen, Hassreden und zwei Männer mit weiteren Dschihad-Flaggen, die die US-Fahne verbrennen. Produziert wurde das Video nicht von den Extremisten, sondern von Facebook selbst. Mit einer automatisierten Funktion erstellt der Social-Media-Gigant für seine Nutzer ein Video mit seinen im vergangenen Jahr geposteten Inhalten.

In diesem Fall nannte sich der User „Abdel-Rahim Moussa, the Caliphate“. Das Video endet mit der Einblendung „Danke von Facebook, dass Du hier bist“ und dem Markenzeichen der Firma: dem Daumen nach oben. Facebook erweckt mit seinen Äußerungen gerne den Eindruck, dass es den Extremisten zuvorkommt und deren Posts löscht – oft bevor andere Nutzer sie überhaupt zu Gesicht bekommen.

Beschwerde: Facebook verbreitet unbeabsichtigt Propaganda

In einer Beschwerde bei der US-Börsenaufsicht SEC, die der Nachrichtenagentur AP vorliegt, wird dem börsennotierten Unternehmen jedoch vorgeworfen, seine Erfolge zu beschönigen. Und noch schlimmer: Das Unternehmen verbreitet demnach mit seinen automatisch generierten Videos unbeabsichtigt Propaganda für extremistische Gruppen.

Der Beschwerde zufolge untersuchten Wissenschaftler im vergangenen Jahr über fünf Monate hinweg Seiten von Nutzern, die sich selbst in Verbindung mit Gruppen gebracht hatten, welche das US-Außenministerium als Terrororganisationen einstuft. In dieser Zeit seien 38 Prozent der Posts mit bekannten Symbolen der Gruppen gelöscht worden. Eine Erhebung von AP in diesem Monat zeigte, dass ein großer Teil der in der Studie genannten Inhalte auch weiter durch die Algorithmen rutscht: Videos von Hinrichtungen, abgeschlagenen Köpfen oder mit der Verherrlichung getöteter Extremisten sind weiter leicht auf Facebook zu finden.

Facebook löscht nicht so viel, wie es impliziert

Die Beschwerde wird zu einem Zeitpunkt bekannt, da sich Facebook mit wachsender Kritik konfrontiert sieht – vor allem wegen des Schutzes der Privatsphäre seiner Nutzer und seiner Fähigkeit, Hassbotschaften und live übertragene Morde einzudämmen.

Ein Screenshot von der Seite eines Facebook-Nutzers, der angibt, für den Islamischen Staat zu arbeiten. Quelle: AP

Facebook-Chef Mark Zuckerberg gibt sich betont optimistisch, der Verbreitung von Gewalt-Posts beizukommen. Bei Themen, die mit Terrororganisationen wie Al-Kaida oder dem IS zusammenhingen, würden 99 Prozent der Inhalte gestoppt, bevor sie öffentlich würden, sagte er in einer Telefonkonferenz im April.

Lesen Sie hier:
Facebooks KI meldete Christchurch-Livestream nicht

Zuckerberg nannte keine absoluten Zahlen, wie viel verbotene Inhalte gelöscht werden. Die Untersuchung, auf der die Beschwerde bei der SEC beruht, legt jedoch nahe, dass der Umfang nicht so groß ist, wie es das Unternehmen impliziert.

Facebook setzt auf künstliche Intelligenz

Wie einfach es ist, Facebooks Kontrollmechanismen zu umgehen, zeigt eine Seite, auf der mit weißen Buchstaben auf schwarzem Grund „Der islamische Staat“ steht. Dahinter ist ein Rauchpilz zu sehen, der über einer Stadt aufsteigt. Zuletzt war die Seite noch online, offenbar weil das Textsuch-System von Facebook keine Buchstaben erkennt, wenn sie Teil einer Grafik sind.

Facebook räumt ein, dass sein System nicht perfekt ist, dass man aber Fortschritte mache. „Nach den großen Investitionen erkennen und löschen wir terroristischen Content mit einer deutlich höheren Erfolgsquote als noch vor zwei Jahren“, heißt es in einer Erklärung des Unternehmens. „Wir behaupten nicht, dass wir alles finden. Wir bleiben wachsam bei unseren Bemühungen gegen Terrorgruppen in aller Welt.“

Nach eigener Aussage beschäftigt Facebook mittlerweile 30 000 Menschen für Sicherheitsaufgaben, die potenziell schädliches Material und alles andere sichten, was nicht auf eine Seite gehört. Zudem baut das Unternehmen dabei stark auf Künstliche Intelligenz (KI). Die aktuelle Forschung sieht das jedoch skeptisch.

„Gesamte Infrastruktur ist fundamental fehlerhaft“

Hany Farid, Experte für digitale Forensik an der Berkeley-Universität in Kalifornien, sagt, Facebooks-KI-Systeme würden versagen. Das Unternehmen sei nicht motiviert, das System ernsthaft anzugehen, weil das zu teuer sei. „Die gesamte Infrastruktur ist fundamental fehlerhaft“, urteilt er.

Und es gibt noch eine weitere automatisierte Funktion, die Facebook Ärger macht. Damit werden die Informationen von Beschäftigten über deren Arbeit gesammelt. So soll Geschäftskunden geholfen werden, Seiten zu entwickeln und sich zu vernetzen. Doch in zahlreichen Fällen führt das auch dazu, dass auf diese Weise eine Anlaufstelle für extremistische Sympathisanten entsteht. Die Funktion erlaubt es Nutzern, Seiten zu liken, die für Al-Kaida, die IS-Terrormiliz oder andere Organisationen geschaffen wurden, und bietet so auch Anwerbern eine Liste mit Sympathisanten.

Auch extremistische Gruppen aus den USA

Ganz oben auf der automatisch erstellten Seite für Al-Kaida auf der Arabischen Halbinsel war zuletzt ein Foto des im Jahr 2000 von Terroristen schwer beschädigten US-Zerstörers „Cole“ zu sehen. Bis vergangene Woche hatte das Foto 277 Likes.

Aber Facebook hat in den USA auch Probleme mit extremistischen Organisationen aus dem Inland. In der SEC-Beschwerde wurden mehr als 30 automatisch generierte Seiten von rechtsradikalen und rassistischen Gruppen gelistet, deren Inhalte Facebook verbietet – darunter die Seite der „Aryan Brotherhood Headquarters“ (Hauptquartier der arischen Bruderschaft). Darauf ist dessen Büro auf einer Karte markiert, mit der Aufforderung, das zu empfehlen. Einer der Nutzer, der der Aufforderung gefolgt ist, fragt: „Wie kann ein Bruder in das Haus kommen.“

Von RND/AP

Es ist lästig, aber auch nötig: Wer im Frühjahr die Wohnung auf Vordermann bringt, tut das am Besten auch gleich mit Smartphone, Tablet und Co. Denn auch im digitalen Bereich sammelt sich schnell der Müll. Neun Tipps für mehr Speicherplatz und größere Sicherheit.

13.05.2019

Die Forderung nach einer Zerschlagung von Facebook wird verstärkt zu einem Thema für den Vorlauf zur US-Präsidentenwahl 2020. Mit der Senatorin Kamala Harris sprach sich eine weitere Politikerin der Demokraten dafür aus, dass die amerikanische Regierung eine Aufspaltung des Online-Netzwerks prüfen sollten.

13.05.2019

Im Jahr 2018 sind nach Inkrafttreten der neuen EU-Datenschutzgrundverordnung 75 Verstöße mit einem Bußgeld sanktioniert worden. Das ergab eine Umfrage unter den Datenschutzbeauftragten der Bundesländer.

13.05.2019