Wer kennt das nicht: Man scrollt durch den Feed, sieht ein Video von sprechendem Gemüse, das Diätpillen empfiehlt – und fragt sich kurz: Ist das echt? Natürlich nicht. Aber genau das ist das Problem. Die Fragen nach Echtheit und Herkunft stellt man sich heute viel seltener, als man sollte. Was sich gerade im Kampf gegen Deepfakes und Desinformation tut.

Desinformation und KI-generierte Inhalte fluten das Netz mit einer Geschwindigkeit und Qualität, die vor wenigen Jahren noch undenkbar schien. Die Antwort der Medienwelt auf diese Entwicklung nimmt gerade Fahrt auf – auf zwei sehr unterschiedlichen Wegen.

Der journalistische Weg: Transparenz als Werkzeug

Die ARD-Nachrichtenmarke Tagesschau und der NDR haben dieser Tage mit "Rabbit Hole" ein neues YouTube-Format gestartet, das Fakten nicht nur prüft, sondern die Vorgänge erklärbar macht. In rund fünfminütigen Beiträgen nehmen die Hosts Johannes Runge, Ciara Cesaro-Tadic und Chiara Battaglia ihr Publikum mit in den Verifikationsprozess: Wie prüft man ein Bild? Woher kommt ein Video wirklich? Welche Tools nutzen Journalist:innen, um Falsches zu entlarven?

Es geht dabei nicht nur ums Ergebnis, sondern um den Weg. Das Handwerkszeug soll raus aus den Redaktionen und rein in die Köpfe der Nutzer:innen. Zielgruppe von "Rabbit Hole" sind 18- bis 35-Jährige, also genau die Menschen, für die Social Media laut ARD-aktuell einer der wichtigsten Informationsorte ist. Das Format erscheint drei Mal im Monat in der ARD Mediathek und auf dem Tagesschau-YouTube-Kanal.

Das erste Video? Handelt von jenem sprechenden Gemüse. Was niedlich aussieht, entpuppt sich als System: viral gegangene KI-Videos, die unwissenschaftliche Gesundheitstipps oder Abnehmprodukte vermarkten. Weltweit millionenfach gesehen.

Der technologische Weg: Forensik statt Hoffnung

An einer anderen Stelle setzt ein bayerisches Startup an. Neuramancer AI Solutions – früher unter dem Namen Neuraforge bekannt – hat gerade eine Pre-Seed-Finanzierung von 1,7 Millionen Euro abgeschlossen. Lead Investor ist Vanagon Ventures, daneben investieren Bayern Kapital sowie ein Konsortium aus weiteren Kapitalgebern und Business Angels.

Und das leistet Neuramancer: Statt zu fragen, was auf einem Bild oder Video zu sehen ist, analysiert die Software, wie es technisch entstanden ist. Statistische Artefakte im Bild- und Videorauschen verraten, ob Content manipuliert wurde – unabhängig vom Inhalt selbst. Das macht den Ansatz widerstandsfähiger gegen immer bessere KI-Generatoren.

Genau da liegt das eigentliche Problem: Laut dem Gesamtverband der Deutschen Versicherungswirtschaft verursacht Versicherungsbetrug jährlich Milliardenschäden; generative KI treibt diese Zahl weiter nach oben. Gefälschte Schadensfotos, manipulierte Video-Calls, synthetische Dokumente. Neuramancer liefert dafür nicht nur eine Erkennungsrate, sondern einen forensischen Bericht: Wo genau wurde manipuliert und wie.

Co-Founderin Anika Gruner (Foto: Cindy Ngo) bringt es auf den Punkt: Der Markt für "Deepfake-Detection“" stehe erst am Anfang einer massiven Wachstumsphase. Analysten erwarten ihr zufolge in den kommenden Jahren "ein Milliardenvolumen". Europäische, erklärbare KI – also Systeme, die nicht im Black-Box-Modus operieren – werde zum strategischen Vorteil.

Was beide Ansätze verbindet

Ob journalistisches Format oder forensische KI-Plattform: Beide reagieren auf dasselbe Grundproblem. Vertrauen ist knappes Gut geworden. Es lässt sich nicht mehr allein durch guten Inhalt zurückgewinnen. Es braucht Transparenz darüber, wie Wahrheit geprüft wird. Zudem ist Technologie nötig, die Fälschungen sichtbar macht, bevor der Schaden entsteht. Dabei kann KI wiederum helfen.

Das Ziel sind Medien, denen alle vertrauen können. Dafür braucht es beides: die Aufklärung im Feed und die Forensik im Hintergrund.

 Das neue MTM SPECIAL AI & MEDIA zu Künstlicher Intelligenz in der Bewegtbild-Branche findet am 21. und 22. April 2026 in der HFF München statt. In Keynotes, Panels und Masterclasses geht es um aktuelle Anwendungen, rechtliche Fragen und neue Perspektiven für den Einsatz von KI in der Medien- und Filmproduktion. Tickets? Gibt es hier.

Interessiert an Themen rund um die Medienbranche? Dann ist hier im Blog der MEDIENTAGE MÜNCHEN noch mehr Lesenswertes zu finden. Zudem können zahlreiche Medienthemen auch gehört werden: im Podcast "This is Media NOW".