Während der Medientage München 2022 hatte ich das Vergnügen, das erste „UK-Bavarian Online Harms Symposium“ zu moderieren. An meiner Seite waren britische und bayerische Expert:innen, die mit mir Technologieansätze zur wirksamen Bekämpfung von Netzkriminalität diskutierten. Dieses Thema ist für Regierungen, Unternehmen, Institutionen und Familien von enormer Bedeutung, und ich war sehr beeindruckt von der Breite des Wissens und der Leidenschaft, die in der Podiumsdiskussion gezeigt wurde.

Wir alle – jung oder alt, unabhängig von Nationalität, Glauben oder Geschlecht – sind zunehmend unterschiedlichen Formen schädlicher Inhalte im Internet ausgesetzt. Dazu zählen unter anderem Hate Speech, Desinformation und sexueller Missbrauch. Die zunehmende Vernetzung über das Internet verschärft die Herausforderungen und Auswirkungen dieser schädlichen Inhalte auf Gesellschaften und Volkswirtschaften, da User immer mehr Zeit online oder in neuen virtuellen Welten verbringen.

Wir sind davon überzeugt, dass Innovation und Technologie eine positive Rolle bei der Minderung von Netzkriminalität spielen. In diesem Bereich ist die britische Regierung sehr daran interessiert, dass der private und der öffentliche Sektor in einer vertrauensvollen Beziehung zusammenarbeitet. Diese Arbeit hat bereits begonnen und wir sehen eine wachsende Zahl von Organisationen, die innovative Technologien wie Künstliche Intelligenz einsetzen, die Strafverfolgungsbehörden, Industrie und Schulen bei der Bewältigung der Bedrohungen unterstützen.

„Safety tech“

In einem ersten Impulsvortrag gab Ian Stevenson (Foto oben, links), Direktor des britischen Industrieverbands für Online-Sicherheit Ostia und Gründer des Sicherheitsunternehmens Cyacomb, einen Überblick über den „Safety Tech“-Sektor, einen aufstrebenden und dynamischen Teilbereich innerhalb der britischen Technologiebranche. Er zählt – mit einem Umsatzanstieg von 21 Prozent allein im Jahr 2021 – zu den am schnellsten wachsenden in Großbritannien.

Das Vereinigte Königreich zählt inzwischen mehr als 115 Safety-Tech-Unternehmen. Sie sind unter anderem führend in den Bereichen Inhaltsmoderation, Online-Altersüberprüfung, digitale Forensik, Inhaltsfilterung sowie Betrugserkennung und -bekämpfung. Dies sind wesentliche Technologien im Kampf gegen schädliche Netzinhalte.

Einsatz von KI zur Erkennung von Hass im Netz

Großbritannien hat eine lange und erfolgreiche Geschichte im Bereich KI und zählt ein Drittel aller KI-Unternehmen in Europa. Rewire unter der Leitung von Dr. Bertie Vidgen (Foto oben, Mitte) ist eines dieser Unternehmen. In einem zweiten Impulsvortrag teilte Vidgen bei den #MTM22 wertvolle Erkenntnisse über die Nutzung künstlicher Intelligenz zur Bekämpfung von Hate Speech. KI wird bereits häufig von Plattformen eingesetzt, um den Bedarf an menschlichen Moderatoren zu reduzieren.

Die drängendere Frage ist daher nicht, „ob“ KI eingesetzt werden sollte, sondern was ein gut konzipierter Algorithmus leisten kann. Komplexere Fragen, sind etwa Filterfunktionen des Algorithmus‘ (z.B. wie Ironie zu entschlüsseln ist), Wahrung der Datenschutzrechte und Erkennen der Grenze zwischen Beleidigung und freier Meinungsäußerung. Vidgens Unternehmen Rewire unterstützt derzeit die Deutsche Bahn im Kampf gegen toxische Reaktionen im Netz.

Bayerische Initiativen

Neben Ian Stevenson und Dr. Bertie Vidgen  waren auch Dr. Thorsten Schmiege, Präsident der Bayerischen Landeszentrale für neue Medien (BLM), und Jana Heigl vom Bayerischen Rundfunk Teil des Medientage-Symposiums. Heigl arbeitet für den BR24 Faktenfuchs, die Faktenchecker-Einheit des öffentlich-rechtlichen Senders, die Behauptungen und Nachrichten überprüft, die sich in Bayerns Social-Media-Landschaft schnell verbreiten.

Heigl greift in ihrer Arbeit auf eine Reihe von (oftmals Open-Source-)Tools zurück, die die Relevanz von Behauptungen sowie die Authentizität von Bildern und Videos überprüft. Während die wichtigsten Desinformations-Narrative im Freistaat lange Zeit Covid-bezogen waren (Masken, Impfrisiken), hat sich ein Großteil der Aufmerksamkeit nun auf den Ukraine-Krieg und seine Folgen für Deutschland (Flüchtlinge, Energiekosten) verlagert.

BLM-Präsident Schmiege betonte, dass das Internet kein rechtsfreier Raum sei und seine Behörde verpflichtet sei, schädliche Inhalte zu entfernen. Bis vor Kurzem erwies sich dies jedoch als Herkulesaufgabe, da Täter:innen bisher keine Konsequenzen zu tragen hatten und Hasskommentare einfach reposten konnten. Nach Einführung einer neuen Initiative können die BLM und das Bayerische Justizministerium nun aber Hasskommentare schnell an die Strafverfolgungsbehörden melden, die daraufhin ein Verfahren einleiten.

Dr. Thorsten Schmiege hob auch ein kürzlich eingeführtes KI-Tool hervor, das die BLM bei der Erkennung und Entfernung von Hate Speech unterstützt. Er betonte, dass „der Einsatz von KI Tools für eine moderne Medienaufsicht unverzichtbar ist; es wird daher bei der BLM und in anderen Medienaufsichtsbehörden Schritt für Schritt ausgebaut und gestärkt“. Der BLM-Präsident zeigte bei der Diskussion großes Interesse an einem gegenseitigen Best-Practice-Austausch im Kampf gegen Netzkriminalität, insbesondere rund um den Einsatz innovativer Tools.

Ich freue mich zu sehen, dass die BLM und das Vereinigte Königreich diese Diskussionen bereits planen, gemeinsam zu vertiefen.

Ich hoffe, dass dieses Symposium nur der Beginn eines fruchtbaren Austauschs zur Bekämpfung schädlicher Inhalte im Netz ist. Da Netzkriminalität auf nationaler Ebene kaum bekämpft werden kann, ist Großbritannien bestrebt, innovative Technologien und die aufstrebende Safety-Tech-Industrie zu unterstützen. Deutschland und Bayern werden hier starke Partner sein.

Sie können die vollständige Sitzung hier ansehen:

Zur Person:
Simon Kendall (Foto oben, rechts), Britischer Generalkonsul, begann seine Laufbahn bei der britischen Regierung im Jahr 1996 und verfügt über umfangreiche Erfahrungen in der Politikgestaltung sowohl im Bereich des internationalen Handels als auch der inneren Sicherheit. Auf seine erste Position bei UK Export Finance folgten mehrere Auslandseinsätze, u. a. als Assistant Trade Commissioner am britischen Generalkonsulat in Hongkong, als Erster Sekretär an der britischen Botschaft in Berlin und als Generalkonsul Ihrer Majestät in München für zwei Jahre (2008-2010). Er spielte eine Schlüsselrolle bei der Entwicklung der Strategie der britischen Regierung zur Terrorismusbekämpfung CONTEST und der nationalen Cyber-Sicherheitsstrategie des Vereinigten Königreichs. Er arbeitete als Direktor für Handel und Investitionen an der britischen Botschaft in Doha, Katar, bevor er 2018 als britischer Generalkonsul nach München zurückkehrte.
Fotonachweis: Medien.Bayern GmbH, David-Pierce Brill, Janine Riekher, Alexander von Spreti

Die Zusammenfassungen wichtiger Panel-Diskussionen sowie Bildmaterial der 36. MEDIENTAGE MÜNCHEN stehen in der Mediathek der Medientage-Homepage und auch im Blog der Medientage bereit.

Die Medienthemen können auch gehört werden: im Podcast der Medientage München.