Bild ©: mohamed-nohassi-unsplash
Lediglich „kosmetische“ Korrekturen an Firmenvideos, -bildern und -produkten fallen nicht unter die neue Kennzeichnungspflicht, wenn kein falscher Eindruck über die wirklichen Gegenstände, Personen oder Orte entsteht.
Die KI-VO (Verordnung (EU) 2024/1689 vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz) ist bereits am 1. August 2024 in Kraft getreten. Seit dem 2. August 2026 gilt aber die Pflicht zur Kennzeichnung von bestimmten KI-Inhalten.
Art. 50 IV der KI-VO bestimmt, dass Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, offenlegen müssen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Unter den Begriff KI-Systeme fallen beispielsweise auch Chatbots oder generative KI-Systeme wie ChatGPT sowie Programme zur Erzeugung von synthetischen Audio-, Bild-, Video- oder Textinhalten. Ein „Deepfake“ ist dabei immer dann gegeben, wenn der durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Eine Täuschungsabsicht ist nicht erforderlich. Das Unternehmen ist regelmäßig Betreiber, wenn es das KI-System in eigener Verantwortung verwendet.
Kann bei KI-manipulierten Videos oder Bildern bspw. auf der Website oder im Onlineshop von Produkten der Firma bei Kunden ein falscher Eindruck über Aussehen, Zustand oder Ausstattung entstehen, wäre auf ihren künstlichen Ursprung hinzuweisen. Entscheidend ist, ob die Darstellung realistisch wirkt und für echt gehalten werden kann. Deshalb können auch realistisch wirkende KI-generierte Unternehmensvideos, fotorealistische Darstellungen erfundener Personen oder KI-generierte Avatare und synthetische Stimmen unter die Deepfake-Regeln fallen. Dabei muss die Information zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden. Die EU hat insoweit die freiwillig nutzbaren Symbole „AI GENERATED“, „AI MODIFIED“ und ein allgemeines „AI“-Symbol entworfen, mit denen Bilder und Videos versehen werden können.
Geringfügige technische oder kosmetische Bearbeitung von Bildern und Videos z.B. im Wege der Farb-, Kontrast- oder Beleuchtungsanpassung wird dabei regelmäßig keine Kennzeichnungspflicht auslösen, soweit die Authentizität nicht relevant verändert wird und damit kein deepfake vorliegt. Gleiches gilt für Rechtschreibkorrekturen, automatische Übersetzungen, Untertitel oder Vorlesefunktionen zur Barrierefreiheit.