Internetnutzende sind im Netz zunehmend Hass, diskriminierenden oder rassistischen Inhalten, sexuellem Missbrauch und Ausbeutung ausgesetzt. Diese Herausforderungen dürften sich noch weiter verschärfen, da User immer mehr Zeit online in neuen technologischen Umfeldern wie dem Metaverse oder Ende-zu-Ende-verschlüsselten Umgebungen verbringen. Ein Gastbeitrag von Frank Ambos vom Britischen Generalkonsulat in München.

Die Britische Regierung hat mit dem ins Parlament eingebrachte „online harms bill“ ein deutliches Zeichen gesetzt, gegen illegale und schädliche Inhalte im Internet vorzugehen. Zudem unterstützt sie zahlreiche Projekte, die innovative Technologien zum Schutz der User entwickeln. Wir freuen uns daher, dass sich im gesamten Königreich ein Ökosystem unter dem Label „safety tech“ entwickelt hat, das rasant an Bedeutung gewinnt: eine neue Studie zählt mittlerweile über 115 Unternehmen, die illegale Inhalte entdecken, Inhalte moderieren, Desinformation und Hate Speech bekämpfen, Missbrauch aufdecken sowie datenschutzfreundliche Altersverifikation ermöglichen.

Erst kürzlich wurde im Vereinigten Königreich die Online Safety Tech Industry Association (OSTIA) gegründet. Es ist der erste Verband seiner Art, in dem sich junge, innovative Unternehmen zusammenschließen, die Menschen vor den Gefahren des Internets schützen.

Deutschland und das Vereinigte Königreich teilen ein gemeinsames Verständnis für die Dringlichkeit, Netzkriminalität und die negativen Folgen für User zu bekämpfen. Auch der Freistaat Bayern und die Bayerische Landeszentrale für neue Medien (BLM) haben massive Schritte unternommen, um gegen Hate Speech und Co. vorzugehen, wie die Initiative "Justiz und Medien - konsequent gegen Hass" und ein kürzlich eingeführtes KI-Tool zur Überwachung des Internets zeigen.

Der Freistaat Bayern und das Vereinigte Königreich werden Ihre zukünftige Zusammenarbeit im Rahmen einer Technolologie-Kollaboration weiter vertiefen. Das Bekämpfen von Netzkriminalität ist hier ein wichtiger Baustein.  

Kann KI das Problem lösen?

Immer mehr britische und deutsche Organisationen setzen mittlerweile auf Künstliche Intelligenz (KI), um Regierungen, Strafverfolgungsbehörden, Industrie, Schulen und Einzelpersonen zu schützen. Laut Bertie Vidgen (Foto), dem Gründer des KI-Spezialisten Rewire besteht eine der größten Herausforderungen darin, die schiere Größe und Komplexität der Netzwelt zu bewältigen.

Auf den größten Plattformen finden täglich hunderte Millionen von Interaktionen statt, was dazu führt, dass eine riesige Menge an Inhalten erstellt wird. Die Bewertung dieses Contents und die Feststellung, ob ein Verstoß gegen die Richtlinien vorliegt, ist unglaublich schwierig: verletzende Inhalte sind oft völlig akzeptablen Inhalten sehr ähnlich. Kurz gesagt: es ist nicht nur die Suche nach der Nadel im Heuhaufen, sondern nach einem bestimmten getrockneten Grashalm!

Genau hier kann eine gut konzipierte, ordnungsgemäß gesteuerte und leistungsstarke KI ansetzen. Dies ist nicht nur für Strafverfolger interessant: Rewire wurde kürzlich eingeladen, die Deutsche Bahn bei der Bekämpfung „toxischen Customer Feedbacks“ zu unterstützen. 

Die beiden britischen Experten Bertie Vidgen und Ian Stevenson von Ostia werden im Rahmen der MEDIENTAGE MÜNCHEN mit BLM-Präsident Dr. Thorsten Schmiege und Jana Heigl vom Bayerischen Rundfunk über bestehende und künftige Technologie-Ansätze diskutieren, um Netzkriminalität effektiv zu bekämpfen.

Die MEDIENTAGE MÜNCHEN 2022 finden vom 18. bis 20. Oktober vor Ort in München statt. Dabei blicken wir auf die Herausforderungen in Krisenzeiten und zeigen neue Perspektiven sowie Geschäftsmodelle der Anbieter auf. Im Rahmen des Politik & Gesellschafts-Tracks diskutieren Expert:innen aus Großbritannien und dem Freistaat im UK-Bayern-Symposium „Technologies to tackle online harms“, wie gemeinsam gegen Vergehen im Netz und die negativen Folgen für User vorgegangen werden kann. Hier geht es zum Ticketshop!

Interessiert an Themen rund um die Medienbranche? Dann ist hier im Blog der Medientage München noch mehr Lesenswertes zu finden.
Zudem können Medienthemen auch gehört werden: im Podcast der Medientage München.