Dem Terror den Weg in die Realität abschneiden
Für die Umsetzung der neuen TCO-Verordnung ist auch die BNetzA zuständig.
Das Internet ist unendlich in seinen Möglichkeiten. Es bietet Raum für Information, Wissen, Unterhaltung und Austausch. Doch auch Menschen mit kriminellen Absichten nutzen diesen Raum. Eine der größten Gefahren im 21. Jahrhundert ist der Terrorismus. Terroristen agieren versteckt, sie organisieren sich im Untergrund bis sie ihre oft gewaltvollen Taten begehen. Dann erst bemerken die zuständigen Behörden und die Öffentlichkeit, dass die Täter im Verborgenen Netzwerke geschmiedet, Waffen verteilt und Ziele ausgekundschaftet haben. Das Internet spielt dabei eine große Rolle. In Chaträumen findet eine Radikalisierung statt, man findet Gleichgesinnte, tauscht Videos aus und verabredet sich.
Ermittlungsbehörden wissen das längst. In Deutschland ist neben den Länderpolizeien das Bundeskriminalamt (BKA) für die Verfolgung solcher Straftaten zuständig, sie zu verhindern oberstes Ziel. In den Abteilungen für Staatsschutzdelikte recherchieren die Beamten im Internet nach entsprechenden Inhalten und führen ein Monitoring einschlägiger Internetseiten und -foren durch. Stoßen sie auf kritischen Content (engl. für Inhalt, wird oft im Onlinebereich verwendet), regen sie bei den Hostingprovidern der betreffenden Seiten an, diesen zu entfernen. "Hostingprovider" wird in diesem Text noch oft vorkommen. Der englische Begriff ist kompakter als seine deutsche Bedeutung: Es handelt sich um einen Dienst, der dem Kunden ermöglicht, eine Website im Internet zugänglich zu machen. Diese unverbindliche Anregung war bislang das einzige Mittel, über das die Polizei verfügte.
Seit dem 7. Juni 2022 gilt die Verordnung zur Bekämpfung der Verbreitung terroristischer Online-Inhalte oder kurz "TCO-Verordnung". TCO steht für Terrorist Content Online. Die Verordnung legt auf europäischer Ebene fest, dass das Internet nicht zur Radikalisierung, Rekrutierung und Aufstachelung zu Gewalt missbraucht werden darf. Das BKA kann nun gegenüber einem in der EU ansässigen Hostingprovider anordnen, terroristische Inhalte umgehend zu entfernen. Dieser muss der Anordnung dann innerhalb einer Stunde nachkommen. Dies ist ein schärferes Schwert als die bisherige Anregung zur Entfernung.
Das nationale Gesetz zur Bekämpfung terroristischer Online-Inhalte stellt sicher, dass diese europäische TCO-Verordnung in Deutschland vollständig und bundeseinheitlich umgesetzt wird. Insbesondere legt es die Zuständigkeiten fest. Hier kommt neben dem BKA die Bundesnetzagentur ins Spiel.
Was macht die Bundesnetzagentur?
Zwei unterschiedliche Aufgaben kommen der Bundesnetzagentur zu. Zum einen führt sie Bußgeldverfahren bei Verstößen gegen die TCO-Verordnung. Dies tut sie insbesondere dann, wenn ein Hostingprovider terroristischen Content nicht innerhalb einer Stunde nach einer Entfernungsanordnung des BKA von der Seite nimmt. In diesen Fällen informiert das BKA die BNetzA. So kann sie ein entsprechendes Verfahren einleiten.
Die Bußgelder können die Unternehmen empfindlich treffen: Bis zu fünf Millionen Euro oder, bei juristischen Personen mit einem Gesamtumsatz von über 125 Millionen Euro, vier Prozent des weltweiten Jahresumsatzes. Auch bei anderen Verstößen gegen die EU-Verordnung kann ein Bußgeld fällig werden. Etwa wenn Hostingprovider keinen Transparenzbericht veröffentlichen. In diesen jährlichen Berichten informieren sie unter anderem darüber, wie oft sie terroristische Inhalte von ihrer Plattform entfernt haben. Außerdem steht darin, welche Maßnahmen sie eingesetzt haben, um terroristischen Content auf der eigenen Plattform aufzuspüren und zu entfernen. Darüber hinaus kann die Bundesnetzagentur auch Bußgelder verhängen, wenn ein Hostingprovider mit Sitz im EU-Ausland keinen rechtlichen Vertreter in der EU bestimmt. Dieser rechtliche Vertreter dient als Ansprechpartner für das BKA und die Bundesnetzagentur.
Die andere Aufgabe der Regulierungsbehörde macht Bußgelder im Idealfall unnötig: Sie sorgt dafür, dass Hostingprovider gezielte Maßnahmen ergreifen, um schon präventiv die Verbreitung terroristischer Inhalte zu verhindern. Insbesondere solche Hostingprovider müssen diese Maßnahmen ergreifen, auf deren Plattformen wiederholt terroristische Inhalte zu finden waren. Dies ist nach der TCO-Verordnung schon dann der Fall, wenn das BKA zwei Entfernungsanordnungen gegenüber einem Hostingprovider innerhalb eines Jahres verhängt hat. Die Maßnahmen müssen verhältnismäßig und diskriminierungsfrei sein. Insbesondere sollen sie die Grundrechte der Nutzer*innen, vor allem die Meinungs- und Informationsfreiheit, berücksichtigen. Das verhindert, dass auch legale Inhalte den Schutzmaßnahmen zum Opfer fallen und gelöscht werden. Welche spezifischen Maßnahmen zur Anwendung kommen, entscheidet der Hostingprovider zwar grundsätzlich selbst, unterliegt hierbei aber einer Kontrolle durch die Bundesnetzagentur. Denn die Hostingprovider haben der Behörde zum einen darzulegen, welche Maßnahmen sie ergriffen haben. Zum anderen kann die Behörde gegebenenfalls zu Nachbesserungen auffordern.
"Task Force" zur Durchsetzung der TCO-Verordnung
Wenn die Bundesnetzagentur für etwas neu zuständig ist, beginnen Menschen, an einer Aufgabe zu arbeiten. Das Präsidium hat für die Durchsetzung der TCO-Verordnung eine "Task Force" zusammengestellt. Zu ihr gehören Mitarbeiter*innen aus verschiedenen Abteilungen, die über unterschiedliche Kompetenzen und Erfahrungen verfügen. Einige Mitglieder der Task Force haben umfassende Kenntnisse über Bußgeldverfahren aus ihren bisherigen Einsatzgebieten bei anderen Stellen im Haus. Andere Kolleg*innen bringen Erfahrung aus dem Bereich Digitales ein. Wieder andere kennen sich bestens mit den TKG-Vorschriften zur öffentlichen Sicherheit aus. Eine Informatikerin beschäftigt sich insbesondere mit dem Thema „Einsatz von KI bei der Content Moderation“ durch Hostingprovider.
Ausschreibung einer Studie zu Content Moderation
Die TCO-Verordnung ist nun seit drei Monaten in Kraft. Dennoch erfordert deren effiziente Umsetzung mehr Kenntnisse um die Hintergründe. Eine entscheidende Frage ist zum Beispiel, welche effektiven Abwehrstrategien die Hostingprovider haben. Hier soll die wissenschaftliche Begleitung durch eine Studie helfen. Es gibt Institute im In- und Ausland, die auf das Thema Content Moderation spezialisiert sind. Welches von ihnen die Studie durchführen wird, wird eine Ausschreibung zeigen. Wenn die Studie abgeschlossen ist, kann auf ihrer Grundlage (noch) besser beurteilt werden, ob die Maßnahmen, die Hostingprovider bisher ergreifen, ausreichend für die Bekämpfung terroristischer Online-Inhalte sind.
Die TCO-Verordnung ist ein großer Schritt. Sie gibt dem BKA und der Bundesnetzagentur starke Instrumente an die Hand, um gegen terroristische Online-Inhalte vorzugehen. Denn das Ziel der europäischen Verordnung – und das muss man sich bei all dem bürokratischen Aufwand immer wieder vor Augen halten – ist bedeutsam. Sie soll verhindern, dass sich Menschen im Internet radikalisieren, kriminell werden und möglicherweise Anschläge verüben.
Mehr Infos gibt's unter: www.bundesnetzagentur.de/tco