Facebook macht gegen Deepfakes mobil

Deepfakes sind aktuell ein Trendthema, bergen aber neben Unterhaltungs- auch enormes Manipulationspotenzial. Dabei handelt es sich um bearbeitete Videos, die die Realität mindestens verfälschen und dank fortschrittlicher Technologie sehr echt wirken können. Ein in Deutschland recht bekanntes Beispiel ist der vermeintliche Mittelfinger des ehemaligen griechischen Finanzministers Yanis Varoufakis. Der „Mittelfinger-Fake-Fake“ narrte ganz Europa, mit Deepfakes kann aber auch viel Schindluder getrieben werden. Erotikfilme sind zum Beispiel ein beliebtes Ziel solcher Manipulationen, aber gerade Politiker können dadurch Probleme bekommen.

Faz.net erinnert etwa an ein Video von Nancy Pelosi, der demokratischen Sprecherin des US-Repräsentantenhauses, die in einem Video, das in sozialen Medien die Runde machte vermeintlich stottert und nicht bei Sinnen ist. Das Video war ein Fake, Facebook weigerte sich dennoch, es zu löschen. Nun aber will das Netzwerk seine Bemühungen gegen manipulierte Videos, vor allem gegen Deepfakes, intensivieren, wohl auch als Reaktion auf den bevorstehenden US-Wahlkampf.

Deepfakes werden nur teilweise gelöscht

Auf seinem Firmenblog hat der Konzern angekündigt, Videos künftig von der Plattform zu entfernen, wenn sie zwei Kriterien erfüllen: Die Videos wurden derart bearbeitet, dass der durchschnittliche Nutzer die Manipulation nicht erkennen kann und Personen im Video Dinge sagen, die sie in Wahrheit nicht geäußert haben. Außerdem werden die Inhalte gelöscht, wenn sie mit Hilfe künstlicher Intelligenz so bearbeitet oder verändert wurden, dass sie authentisch erscheinen.

Facebook betont, dass Satire oder Parodien davon ausdrücklich nicht betroffen sein sollen. Wie genau der Konzern das erkennen will, lässt er offen. Bei der Identifikation von Deepfakes will Facebook sich nicht ausschließlich auf die eigenen Mitarbeiter und Algorithmen verlassen. Unabhängige Partner sollen entsprechende Inhalte markieren können. Von diesen „Fakten-Checkern“ hat Facebook weltweit etwa 50, in Deutschland nehmen zum Beispiel Correctiv und die Deutsche Presse-Agentur an der Initiative teil.

Wird ein Video oder ein Bild von den Partnern als falsch oder teilweise falsch markiert, reduziert Facebook eigenen Angaben zufolge dessen Reichweite „signifikant“. Wird es als Anzeige markiert, dann werde es komplett abgelehnt. Nutzer, die das Video sehen oder es teilen wollen, erhalten eine Warnung, dass es sich um ein manipuliertes Video handelt. Man entscheide sich an dieser Stelle ganz bewusst dafür, dass Video nicht zu löschen, sondern als falsch zu markieren. Denn, so die Facebook-Logik: Werde ein Video einfach nur gelöscht, dann bleibe es woanders im Internet trotzdem verfügbar, aber ohne entsprechende Markierung.