Suchtgefahr? EU prüft Algorithmen von TikTok, YouTube und Snapchat

Video-Plattformen wie TikTok, YouTube und Snapchat haben für die Nutzer:innen stets schon den nächsten Clip parat, der innerhalb der App zum Anschauen vorgeschlagen wird. Die EU-Kommission will nun im Rahmen des Digital Services Act (DSA) aber genauer wissen, wie diese Empfehlungssysteme konkret funktionieren. Aus diesem Grund hat das Gremium die Plattformen aufgefordert, Auskunft über die Gestaltung der entsprechenden Algorithmen zu geben.

„Gemäß dem DSA müssen Plattformen die von ihren Empfehlungssystemen ausgehenden Risiken bewerten und angemessen mindern“, begründet die Kommission zu ihrer Forderung. „Dazu gehören Risiken für die psychische Gesundheit der Nutzer und die Verbreitung schädlicher Inhalte, die sich aus der engagementbasierten Gestaltung dieser Algorithmen ergeben.“

Gefahr von Suchtverhalten, illegalen Inhalten oder Manipulation

YouTube und Snapchat müssen neben Informationen zu ihren Inhaltsempfehlungen ihre Rolle „bei der Verstärkung bestimmter systemischer Risiken darlegen“, heißt es. Das gilt etwa für Inhalte mit Bezug zum Wahlprozess und dem bürgerlichen Diskurs. Aber auch das psychische Wohlbefinden der Nutzer:innen – im Speziellen das Suchtverhalten und „Kaninchenlöcher“ für Inhalte sowie der Schutz von Minderjährigen – soll in den Blick genommen werden. Gefragt wird außerdem, inwieweit die Algorithmen Einfluss auf die Verbreitung illegaler Inhalte – wie Werbung für illegale Drogen oder Hassrede – nehmen.

Gegen TikTok läuft bereits seit Anfang des Jahres ein Vertragsverletzungsverfahren. Jetzt will die Kommission zudem noch genauer erfahren, inwieweit die Plattform die Manipulation durch böswillige Akteure verhindert. Dabei gehe es vor allem darum, Risiken zu reduzieren, die im Zusammenhang mit Wahlen, Medienpluralismus und zivilgesellschaftlichen Diskursen stehen und durch bestimmte Empfehlungssysteme verstärkt werden können.

Empfehlungssysteme im Visier der EU

TikTok, YouTube und Snapchat haben nun bis zum 15. November Zeit, die entsprechenden Informationen bereitzustellen. Anschließend wolle die EU-Kommission weitere Schritte prüfen, etwa, ob sie entsprechende Verfahren eröffnet. Geben die Plattformen die Informationen fehlerhaft, unvollständig, irreführend bzw. gar nicht ab, so können auch Geldbußen verhängt werden.

Die EU-Kommission hat die Empfehlungsalgorithmen der großen Plattformen schon länger im Visier. So wurden Mitte dieses Jahres beispielsweise auch Informationen zu entsprechenden Empfehlungen von Amazon eingefordert. Weitere Verfahren wurden bereits gegen AliExpress, Facebook und Instagram eingeleitet.

Artikelbild: http://www.depositphotos.com