Hallo  ,

wie kennzeichnest du KI-generierten Content? Die Uhr tickt nämlich: Ab dem 2. August gelten in der Europäischen Union neue Kennzeichnungspflichten für Bild-, Ton- und Video-Inhalte.

Auch deshalb und nicht zuletzt unter dem Druck der jüngsten Deepfake-Kontroversen arbeiten Anbieter an gemeinsamen Standards. So haben zum Beispiel OpenAI, Nvidia und ElevenLabs angekündigt, Googles SynthID-Technologie zur Markierung von Bild- und Audio-Inhalten in die eigenen Ökosysteme zu integrieren.

Wer im Unternehmen mit KI-generiertem Material arbeitet, steht möglicherweise gleich vor zwei Problemen: Wie stelle ich sicher, dass ich die Pflichten aus der KI-Verordnung erfülle? Und was bedeutet es für meine Reputation als Medienschaffender, wenn ich meinen KI-Einsatz offenlegen muss?

Denn die Forschungslage deutet daraufhin, dass schon das KI-Label allein die Wahrnehmung beeinflusst. KI-generierte Inhalte werden als weniger bedeutsam wahrgenommen, als minderwertig und überhaupt als Beweis dafür, dass menschliche Kreativität überlegen ist. Eine Duke-Studie zeigt: Werden identische Bilder einmal als Menschen- und einmal als KI-Werk präsentiert, bewerten Proband:innen das vermeintliche Menschenwerk durchweg besser.

Was KI-Früchte damit zu tun haben

Trotzdem erzielt ausgemachter KI-Slop in den sozialen Medien regelmäßig Millionen von Klicks. Wer in den letzten Wochen auf den gängigen Kurzvideo-Plattformen unterwegs war, kam um KI-generierte Clips von Früchten nicht herum. Diese Vertical-Drama-Formate werfen ihre Protagonist:innen in zunehmend absurde Szenarien. Dass nach einem Techtelmechtel zwischen einem Apfel und einer Orange eine Banane geboren wird, ist im Verhältnis zu anderen Geschichten noch normal.

Die typische Slop-Ästhetik aus inkonsistenter Figurendarstellung und fragwürdigem Storytelling ist hier ein Feature. User beklagen in den Kommentarspalten regelmäßig, dass sie den Clip aller Abscheu zum Trotz bis zum Schluss angesehen haben. Anders lässt sich auch schwer erklären, warum Formate wie Fruit Love Island während ihrer kurzen Lebenszeit über 300 Millionen Mal geklickt wurden. TikTok hat mehrere der Videos gelöscht, offiziell ohne Angabe von Gründen.

Generell tun sich KI-Clips schwer. OpenAIs Sora-Plattform soll im September 2026 abgeschaltet werden. Auch hier nannte man keine Gründe, aber: Forbes schätzt, dass das Unternehmen pro Tag 15 Millionen US-Dollar für Sora ausgegeben hat. In Kombination mit einem massiven Einbruch in den Nutzerzahlen war das nicht lange tragbar.

Der kometenhafte Absturz von Sora war also absehbar. Video-KI ist keine Blockbuster-Content-Farm. Zumindest aktuell ist der Output schwer kontrollierbar, und die Ergebnisse der Tech-Demos lassen sich ohne Verständnis vom Filmhandwerk ohnehin schlecht reproduzieren. Wer optimistisch sein will, legt das Ende von Sora so aus: Es ist weniger das Ende von Bewegtbild-KI und mehr das Ende von KI als technischer Spielerei.

Was KI-Unternehmen wirklich suchen, sind tragfähige Geschäftsmodelle. Codex, OpenAIs Coding-Tool, kostet das Unternehmen bedeutend weniger als Video-KI und richtet sich explizit an Firmen und Entwickler:innen. Der B2B-Markt ist oft lukrativer als die Vermarktung an Konsument:innen, und Programmierarbeiten sind leicht reproduzierbare Showcases für die Potenziale von KI.

Wie viel KI-Content braucht ein Medienhaus?

Der nüchterne Blick auf die Zahlen legt nahe, dass Medienhäuser auf KI-generierte Inhalte setzen sollten, um schnell und ohne viel Aufwand große Reichweiten zu produzieren. Selbstverständlich nur dann, wenn ihnen ihre Reputation egal ist. Viralität bedeutet nicht zwingend Wirtschaftlichkeit. Denn ja, auch einzelne Sora-Clips haben es zu zweifelhaftem Ruhm (und in deutsche Nachrichtensendungen) geschafft.

Die bessere Erkenntnis ist genau das Gegenteil: Wer KI verwendet, um Content zur Massenware zu machen, verliert. Und zwar deshalb, weil Inhalte ohne Bedeutung oder Qualität keine redaktionelle Stimme haben. Zu wenig Content war noch nie das Problem.

Das bedeutet allerdings nicht, dass KI in der Medienproduktion keine sinnvolle Rolle einnehmen kann. Der Hebel liegt in der Vereinfachung von Arbeitsprozessen, nicht in der Massenproduktion. Übernimmt KI etwa Rotoskopie, entlastet sie Filmschaffende bei einem der mühsamsten Handgriffe der Postproduktion. Diese Tools sind nicht perfekt, liefern bei klar konturierten Subjekten und ruhigem Bildmaterial aber bereits brauchbare Ergebnisse und finden zunehmend Anwendung in Vorbereitungs- und Standardarbeiten. Ähnlich funktioniert KI im journalistischen Alltag bei automatisierter Interview-Transkription oder Übersetzung: Den Großteil der Routinearbeit übernimmt die Maschine, die finale redaktionelle Verantwortung bleibt beim Menschen.

Beispiele für einen wirklich sinnvollen Einsatz von KI gibt es genügend. Die menschliche Handschrift bleibt bei ihnen immer das entscheidende Gütesiegel. Die Gefahr, als “Slop”-Haus zu gelten, ist also eine, der Medienschaffende bewusst aus dem Weg gehen können.

Recht ist retrospektiv

Nichtsdestotrotz werden KI-generierte Inhalte zunehmend zum Standard. Die verschärften Kennzeichnungs- und Transparenzpflichten ab dem 2. August existieren nicht ohne Grund. Die genauen Details, wie diese Kennzeichnung ablaufen soll, sind derzeit noch unklar. Insbesondere bei visuellen Inhalten sind Wasserzeichen praktikabel, aber eben nicht immer. Für Audio-Content wird deshalb ein hörbarer Hinweis diskutiert.

Es ist nicht abwegig, dass sich die EU bei der kommenden Konkretisierung dieser Pflichten auch auf technische Realitäten beziehen wird. Der Rechtsrahmen wird oft durch gelebte Praxis mitgestaltet. Ein Beispiel sind die Entscheidungen des Bundesgerichtshofs zu Thumbnails in Bildersuchmaschinen: Urheber:innen erteilen demnach eine stillschweigende Einwilligung, wenn sie ihre Bilder ohne technische Schutzvorkehrungen ins Netz stellen. Die gewachsene Funktionsweise des Internets wird damit zur Grundlage für juristische Anpassungen.

Für die Zeit bis zum 2. August gilt: Medienschaffende sollten vorbereitet sein. Am 9. Juni bietet das KI-Kompetenzzentrum Medien (KI.M) deshalb ein kostenloses Webinar mit Dr. Kerstin Bäcker von der Kanzlei LAUSEN an. Wir schauen uns gemeinsam die juristischen Fakten an und zeigen, welche Schritte Medienschaffende ergreifen sollten, um auf der sicheren Seite zu sein.

Und wer weiß: Vielleicht werden dann auch hier aus Best Cases juristische Fakten.

Bis bald in der Grauzone KI

Felix Rieger

KI-Kompetenzzentrum Medien (KI.M) 

KI & Transparenz: Kennzeichnungs- und Dokumentationspflichten nach der KI-VO

(9. Juni, 11 bis 12 Uhr, online via Zoom)

Welche Maßnahmen müssen Medienschaffende ergreifen, um die Kennzeichnungspflichten für KI-generierte Inhalte ab dem 2. August zu erfüllen? Das kostenlose Webinar mit Dr. Kerstin Bäcker hilft weiter.

Studie: The State of KI in den Medien

Wie steht es wirklich um KI-Nutzung in deutschen Medienhäusern? Zusammen mit dem Media Lab Bayern suchen wir nach Medienschaffenden, die über ihre Erfahrungen mit KI sprechen wollen. u machen3.

Die Grauzone KI bereitet einmal pro Monat ein entscheidendes Thema an der Schnittstelle von KI, Medien und Recht auf. Falls dir dieser Newsletter gefallen hat und er dir weitergeleitet wurde, kannst du dich hier für künftige Ausgaben anmelden.