Ein altes Ehepaar mit Existenzängsten, junge Menschen mit Problemen, einer alten Frau mangelt es an Essen - das sind die Themen einiger mithilfe von Künstlicher Intelligenz (KI) generierter Videos, die sich momentan in den sozialen Medien verbreiten (1,2,3,). Oft sind sie nicht als KI-Inhalte gekennzeichnet und erwecken den Eindruck, echte Menschen und Gefühle darzustellen.

Einschätzung: Bei den Facebook-Videos handelt es sich um KI-generierte Deepfakes

Überprüfung: Bei den Videos handelt es sich um sogenannte "Deepfakes", einen "durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde" (4). Darauf weisen mehrere Auffälligkeiten hin, etwa inkonsistente Abfolgen in den Videosequenzen oder verschwommene Bildbereiche. Merkwürdig ist auch, dass in einem Video ständig Passanten von außerhalb des Hörfelds der Sprecher dazukommen und sich am Gespräch beteiligen. In einem Video steht ein Auto mitten auf der durch das Fenster zu sehenden Fahrbahn.

Das bestätigen auch angefragte Experten wie Dr. Nikolaus Forgó, Professor für Technologie- und Immaterialgüterrecht an der Uni Wien, und der Leiter der Akademie für Künstliche Intelligenz und Digitalisierung, Lukas Görög. Sie halten die Videos für eindeutig KI-generiert.

Solche Deepfakes müssen ab dem 2. August 2026 entsprechend der KI-Verordnung der EU gekennzeichnet werden, indem offengelegt wird, "dass die Inhalte künstlich erzeugt oder manipuliert wurden" (Art. 50 Abs. 4) (5). Die betroffenen Facebook-Videos sind KI-generiert, allerdings noch nicht gekennzeichnet. Das kann irreführend sein. Es "ließe sich [allerdings ] diskutieren, ob wirklich nicht erkennbar ist, dass es sich nicht um reale Personen handelt", argumentiert Professor Forgó.

Anstieg bei KI-generierten Videos

Die Kommunikationsbehörde Austria (KommAustria) (6) beobachtet 2025 einen starken Anstieg solcher KI-generierter Videos. Diese würden unterschiedliche Ziele verfolgen, in erster Linie etwa kommerzielle und betrügerische Motivationen, antwortete man auf APA-Anfrage. Die Videos würden aber auch der Geldwäsche und Verbreitung von Desinformation dienen. In diesem Kontext spielten KI-generierte Videos bei Foreign Information Manipulation and Interference (FIMI) - also der Informationsmanipulation durch ausländische Akteure (7) - eine Rolle.

Um derartige Ziele zu erreichen, wird besonders auf den Effekt der Emotionalisierung gebaut. Traurigkeitsgefühle wie Melancholie sollen Menschen manipulieren und radikalisieren, erklärt der KI-Stratege Görög. Userinnen und User würden sich laut Professor Forgó mit den realistischen Figuren und Inhalten der KI-Videos identifizieren. Somit sei auch eine politische Motivation denkbar. Zusätzlich seien Produktionen mit Künstlicher Intelligenz erheblich einfacher und billiger als mit realen Personen.

Fortgeschrittene KI-Tools

Mittlerweile gibt es verschiedene Tools, die es erlauben, mit Künstlicher Intelligenz Videos zu erstellen. Lukas Görög vermutet, dass bei den erwähnten Facebook-Videos mehrere Tools zum Einsatz gekommen sind. Mit KI-gestützten Plattformen für Video- und Bildbearbeitung wie Runway, Midjourney oder VEO3 können durch "Prompts" ("ein Input des Benutzers, zu dem das System einen Output erzeugt"(8)) sehr realistische Inhalte zuerst erstellt und dann als Videos animiert werden. Einige dieser Programme stehen im Internet mit bestimmten Einschränkungen gratis zur Verfügung.

Für die Deepfakes können auch echte Menschen als Vorlage dienen. Später würden diese angepasst und verändert. Um eventuelle Ungereimtheiten in den Videos zu kaschieren, seien zum Beispiel dunkle Lichtverhältnisse von Vorteil. Mit einigen Tools können sekundenlange Videos in sehr guter Qualität sogar gänzlich ohne echte Daten und nur mit "Prompts" entwickelt werden, wie Görög untermauert.

Quellen:

Facebook-Video 1: https://go.apa.at/eW3IHv21 (archiviert: https://go.apa.at/LSEMl1Ys , Video archiviert: https://go.apa.at/RAlV6d0o)

Facebook-Video 2: https://go.apa.at/AwJsTU09 (archiviert: https://go.apa.at/BrEphO7r , Video archiviert: https://go.apa.at/qJKsFsmB)

Facebook-Video: https://go.apa.at/SndKBqrd (archiviert: https://go.apa.at/BIijP9lg, Video archiviert: https://go.apa.at/y0NcvM2f)

Art. 3 Abs. 60 KI-Verordnung der EU: https://go.apa.at/hDJSnwdk (archiviert: https://go.apa.at/V5vFWQ0Q)

Art. 50 Abs. 4 KI-Verordnung der EU: https://go.apa.at/kbn3jxaA (archiviert: https://go.apa.at/TC9T3Orm)

KommAustria Website: https://go.apa.at/WkvVbBWm (archiviert: https://go.apa.at/um53tAhW)

Deutsche Bundesregierung "Was ist FIMI?": https://go.apa.at/6nJmoLnY (archiviert: https://go.apa.at/eh3aRmzW)

Gablers Wirtschaftslexikon "Was ist ein Prompt?": https://go.apa.at/5tBq1dFJ (archiviert: https://go.apa.at/tF9Dvpgb)

Wenn Sie zum Faktencheck-Team Kontakt aufnehmen oder Faktenchecks zu relevanten Themen anregen möchten, schreiben Sie bitte an faktencheck@apa.at. Die Texte vieler deutschsprachiger Faktencheck-Teams finden Sie auf der Seite des German-Austrian Digital Media Observatory (GADMO) unter: www.gadmo.eu