KI sucht nach Rechtsverstößen im Netz – Medienanstalten kommen nicht hinterher

Die 14 Landesmedienanstalten in Deutschland haben unter anderem die Aufgabe, Medien nach Rechtsverstößen zu durchsuchen. Vor allem in den sozialen Netzwerken haben sie dabei inzwischen ziemlich viel zu tun. Mittlerweile vertrauen sie hierfür aber nicht mehr nur auf den Menschen, sondern auch auf Technologie. Bei der Arbeit hilft nun die künstliche Intelligenz KIVI. Verschiedene Systeme analysieren Bilder, Videos und Texte und untersuchen diese auf Gewaltdarstellungen, Volksverhetzung und andere illegale Inhalte. Die KI wird sowohl mit Positiv- als auch mit Negativ-Beispielen gefüttert, um daraus zu lernen.

KIVI arbeite jedoch nicht autonom, sondern soll in erster Linie als Arbeitserleichterung dienen, wie die federführende Landesmedienanstalt NRW betont. Ob ein potenzieller Rechtsverstoß an die Behörden gemeldet werde, entscheide immer der Mensch. KIVI soll auch dafür sorgen, die Mitarbeiter vor verstörenden Inhalten zu schütze. Inhalte, die von Mitarbeitern geprüft werden sollen, werden zunächst nur verschwommen dargestellt.

Flächendeckende Suche unmöglich

Bislang sind die Inhalte, die KIVI durchsucht und die letztlich von menschlichen Mitarbeitern bearbeitet werden, höchstens Stichproben und doch sind die Zahlen enorm hoch. KIVI habe innerhalb eines Jahres knapp 21.000 Fälle gemeldet, von denen knapp 15.000 geprüft wurden, so Heise. In 6.766 Fällen wurde Verstöße gegen deutsche Gesetze festgestellt, pro Monat resultiere dies in etwa 30 Strafanzeigen – eine Verdopplung im Vergleich zu der Zeit vor KIVI.

KIVI ist allerdings nur wenige Stunden täglich aktiv – ansonsten könnten die Landesmedienanstalten die hohe Zahl der Verstöße gar nicht bearbeiten. Zudem fehlen noch einige relevante Plattformen. Während Twitter, YouTube oder Telegram bereits von der KI analysiert werden, fehlen zum Beispiel noch Reddit, Facebook und Instagram. Der Umfang der Durchsuchungen und die Zahl der Plattformen soll künftig erhöht werden. Mittlerweile seien alle Medienanstalten Deutschlands an das System angeschlossen, außerdem soll KIVI über die deutschen Grenzen hinaus verbreitet werden. Mehrere Länder – darunter Frankreich, Spanien und Österreich – hätten bereits Interesse bekundet.