Hinweis: Dieser Beitrag wurde aus dem Archiv unserer alten Website übernommen und technisch für diese neue Website bereinigt. Bilder, Downloads, Einbettungen, Formatierungen oder einzelne Links können daher fehlen oder vom Original abweichen. Auch die Kategoriezuordnung wurde auf die neue Website-Struktur übertragen und teilweise automatisiert ergänzt; dabei können Fehler entstanden sein. Inhalt und ursprüngliches Veröffentlichungsdatum wurden soweit nachvollziehbar übernommen. Der Beitrag gibt den Stand zum ursprünglichen Veröffentlichungsdatum wieder.
Im Arbeitskreis Digitaler Wandel ging es am 6. Mai 2025 um das Thema Deepfakes, also um mit Hilfe von Künstlicher Intelligenz manipulierte Bild-, Ton- oder Videoinhalte. Allerdings wurde das Thema nicht in allen seinen Aspekten diskutiert. Konkret ging es um die Frage, wie satirische Videos einzuordnen sind, in denen Personen des öffentlichen Lebens Worte in den Mund gelegt werden, die zwar mit ihrer Stimme vorgebracht werden, die aber inhaltlich verfremdete Botschaften senden und dadurch lustig wirken.
Nachdem in einem Chat Fragen dazu aufgekommen waren, haben wir den rechtlichen Rahmen umrissen und dem Kreisverband Raum zur Diskussion geboten – und diesen genutzt.
Unser Fazit: Viele Gesetze, die heute im Kontext von Deepfakes Anwendung finden, sind nicht für die technischen Möglichkeiten unserer Zeit gemacht worden und geben keine klaren Antworten, was erlaubt ist und was nicht. Die Frage, wie wir gesellschaftlich und dann auch rechtspolitisch mit diesen neuen Technologien umgehen wollen, muss noch weiter diskutiert werden. Auch für den Umgang von Personen in politischen Parteien mit Deepfakes gibt es noch keinen fest etablierten übergeordneten Konsens, wenngleich Ansätze dazu bestehen.
Worüber wir informiert und diskutiert haben
Für alle Interessierten, die nicht dabei sein konnten, folgt hier der ausführliche Bericht über unsere Veranstaltung. Judith Faust nahm darin eine rechtliche Einordnung von Deepfakes vor. Als Juristin konnte sie uns eine Reihe von Gesetzen erläutern, die in Beziehung zu Deepfakes stehen. Dabei bezog sie sich auf Fälle der Erstellung und Verbreitung von Deepfakes in Bezug auf Personen, die offensichtlich dem öffentlichen Leben angehören (also z.B. Politiker*innen). Nicht betrachtet wurden die Erstellung und Verbreitung von Deepfakes über Privatpersonen sowie die Nutzung von Deepfakes zur vorsätzlichen Desinformation.
Dies ist eine wichtige Unterscheidung: Deepfakes zur vorsätzlichen Verbreitung von Desinformation stellen eine Gefahr für Demokratien und das staatliche Gemeinwesen dar. Es erschien allen Diskussionsteilnehmern offensichtlich, dass bewusste Falschinformation abzulehnen ist.
In der EU-KI-Verordnung ist der Begriff „Deepfake“ erstmals rechtlich definiert. Ein Deepfake ist demgemäß „ein durch Künstliche Intelligenz erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“. Ein Deepfake ist damit objektiv wirklichkeitsähnlich und subjektiv täuschungsgeeignet.
Regelungen mit Relevanz für die Erstellung oder Verbreitung von Deepfakes sind z.B. (und nicht abschließend) die EU-KI-Verordnung, das Datenschutzrecht (insbesondere die EU-Datenschutzgrundverordnung – DSGVO), das Allgemeine Persönlichkeitsrecht (in Form des Rechts am eigenen Bild und Wort, Ehrschutz) und das Strafgesetzbuch. In der Rechtswissenschaft gibt es bisher wenig Forschung zu diesem Thema.
Erstellung von Deepfakes
Für die Erstellung von Deepfakes gilt nach der EU-KI-Verordnung eine Kennzeichnungspflicht. Bei künstlerischen oder satirischen Werken kann die Kennzeichnung dabei in einer Weise erfolgen, „dass Darstellung und Genuss des Werkes nicht beeinträchtigt werden“; das bedeutet, dass bei solchen Werken mehr Freiheit besteht, wo, wie und in welchem Format die Kennzeichnung angebracht wird. Zudem muss es Sicherheitsvorkehrungen geben, um die Rechte Dritter (z.B. auf Schutz ihrer Persönlichkeits- oder Urheberrechte) zu wahren.
Die Erstellung von Deepfakes geht mit dem Verarbeiten von Personendaten (z.B. Bild, Stimme) einher. Das Datenschutzrecht erlaubt dies, wenn eine Einwilligung der betroffenen Person vorliegt oder ein berechtigtes Interesse an der Verarbeitung besteht. Eine Einwilligung der im Deepfake dargestellten Person dürfte eher selten vorliegen. Für ein berechtigtes Interesse ist abzuwägen zwischen den Schutzinteressen der betroffenen Person und dem eigenen Verarbeitungsinteresse. Kriterien können z.B. sein, ob die Daten öffentlich sind, ob eine verletzende oder herabwürdigende Darstellung erfolgt und ob die Darstellung eindeutig als „Fake“ zu erkennen ist. Die Abwägung gestaltet sich oft sehr schwierig und es gibt in aller Regel kein juristisch eindeutiges Ergebnis.
Besonders schwierig gestalten sich Fälle, in denen Daten verarbeitet werden, aus denen z.B. eine politische Meinung hervorgeht. Das Datenschutzrecht behandelt diese Daten als „besondere Kategorien personenbezogener Daten“, die besonders streng zu schützen sind. Diese zu verarbeiten ist gemäß DSGVO untersagt, es sei denn bei Einwilligung der Person oder wenn sie die Daten offensichtlich selbst öffentlich gemacht hat. Wann etwas „offensichtlich öffentlich“, unterliegt wiederum hohen Anforderungen. Hierzu reicht ein Posten auf sozialen Medien durch die betroffene Person im Allgemeinen nicht aus.
Zu dieser Komplexität kommt erschwerend hinzu, dass bei der Erstellung von Deepfakes zu journalistischen oder künstlerischen Zwecken teilweise auch noch Datenschutzregelungen der Bundesländer greifen. Hier hängt es also auch noch davon ab, in welchem Bundesland man sich befindet.
Im Ergebnis lässt sich sagen, dass das Erstellen von Deepfakes datenschutzrechtlich jedenfalls riskant ist. Rechtssicherheit gibt es nur bei Deepfakes, die mit Einwilligung der dargestellten Person entstanden sind.
Verbreitung von Deepfakes
Für die Verbreitung von Deepfakes (also auch für das Weiterteilen auf Social Media oder das Weiterleiten in Messengern) gibt es in der EU-KI-Verordnung keine spezifischen Regelungen. Der Umgang mit Deepfakes, die bei der Erstellung nicht als solches gekennzeichnet wurden, stellt ein Problem dar. Sofern eine Weiterverbreitung überhaupt erfolgt, sollte die verbreitende Person jedenfalls nachträglich darauf hinweisen, dass es sich um ein Deepfake handelt.
Gemäß DSGVO erfordert auch die Verbreitung personenbezogener Daten eine Rechtsgrundlage, also insbesondere die Einwilligung der betroffenen Person, ein berechtigtes Interesse an der Verbreitung, oder es sollte sich um ein Deepfake handeln, das die darin dargestellte Person selbst offensichtlich öffentlich gemacht hat.
In Deutschland gibt es darüber hinaus das allgemeine Persönlichkeitsrecht. Dieses sehr umfassende Recht umfasst mehrere Schutz-Elemente. Der Datenschutz – also das Recht darauf, selbst darüber zu bestimmen, ob und welche Informationen zu einem selbst verarbeitet werden – ist ein Teil davon. Das allgemeine Persönlichkeitsrecht beinhaltet aber auch das Recht auf Selbstbestimmung und – in diesem Zusammenhang vor allem relevant – Selbstdarstellung. Hierzu gehört der Schutz vor entstellender oder verfälschender Darstellung, das Recht am eigenen Bild, Wort und Namen sowie der Ehrschutz. Wenn man dagegen verstößt, können die Folgen zivilrechtliche Ansprüche auf Schadenersatz und/oder Unterlassen sein.
Eine Sonderregelung erlaubt grundsätzlich die Verbreitung von Bildnissen bei sogenannten Personen der Zeitgeschichte. Jedoch ist eine Abwägung erforderlich zwischen dem Informationswert für die öffentliche Meinungsbildung mit den Umständen der Ablichtung.
Die Verbreitung von Deepfakes kann in bestimmten Fällen auch strafbar sein. Strafrechtlich relevant sind grundsätzlich Beleidigungen, üble Nachrede, und Verleumdung. Generell muss bei den genannten Straftaten nach dem objektiven Sinngehalt der Darstellung geurteilt werden. Bei Satire, bei der Übertreibung und Provokation als Stilmittel eingesetzt werden, müssen werkgerechte Maßstäbe angelegt werden – Übertreibung und Provokation werden hier als Stilmittel eingesetzt. Schmähkritik – also das bloße Herabwürdigen und Verächtlichmachen – und das Behaupten unwahrer und ehrverletzender Tatsachenbehauptungen ist jedoch verboten. Beleidigungen, üble Nachrede oder Verleumdung werden mit einem höheren Strafmaß geahndet, wenn sie sich gegen Personen des politischen Lebens richten.
Besonders geschützt ist der höchstpersönliche Lebensbereich – auch bei Personen der Zeitgeschichte. Zum Beispiel sind Bildaufnahmen in einer Wohnung oder Bildaufnahmen, die die Hilflosigkeit einer Person zur Schau stellen, verboten. Auch wenn eine Bildaufnahme dem Ansehen der abgebildeten Person erheblich schaden kann, darf sie keiner dritten Person zugänglich gemacht werden. Je nach Inhalt eines Deepfakes kann die Verbreitung also strafbar sein (auch bei Satire).
Fazit aus rechtlicher Sicht
Als Fazit lässt sich festhalten, dass eine eindeutig legale Erstellung oder Verbreitung von Deepfakes derzeit nur schwer möglich ist. In jedem Fall besteht eine Kennzeichnungspflicht und es dürfen nur Daten verwendet werden, in deren Verarbeitung die betroffene Person eingewilligt hat oder die aus einem öffentlichen Kontext stammen und eine Person des öffentlichen Lebens betreffen. Zudem sind insbesondere bei der Nutzung von Daten aus dem Internet Urheberrechte zu beachten. Schmähungen, Herabsetzungen und die Behauptung unwahrer Tatsachen sind verboten.
Aus juristischer Sicht ist es daher derzeit zu empfehlen, im Zweifel besser keine Deepfakes zu erstellen oder zu verbreiten, wenn man nicht genau weiß, was man tut, woher das Deefake stammt und wie es zustande gekommen ist. Das ist für das alltägliche Leben, in dem uns Deefakes inzwischen vielfach begegnen, natürlich unbefriedigend. In jedem Fall sollte man aber für sich abwägen, ob es einen Mehrwert bringt, ein Deepfake weiterzuverbreiten, und ob dieser das rechtliche Risiko (und die gesellschaftlichen und ökologischen Implikationen bzgl. des Ressourcenbedarfs von KI) wert ist. Klar ist, dass sich das Recht hierzu in den nächsten Jahren noch weiterentwickeln wird und wohl auch muss.
Politische Vereinbarungen zur Nichtnutzung von Deepfakes
Im Anschluss an den rechtlichen Input zu Deepfakes wurde das Fairness-Abkommen aus dem Bundestagswahlkampf 2025 vorgestellt. Dieses wurde von SPD, CDU, CSU, FDP, Linken und Grünen unterzeichnet. Es enthält Regeln für einen demokratischen, respektvollen und transparenten Wahlkamp, und dabei konkret auch zu Deepfake-Technologie und KI.
Für den Wahlkampf einigten sich die Parteien darauf, keine Deepfakes zur Manipulation politischer Aussagen zu nutzen, KI-generierten Inhalt zu kennzeichnen, keine Fake-Accounts oder künstlich erzeugte Identitäten einzusetzen und bei der zielgruppenspezifischen Ansprache von Wählerinnen und Wählern keine sensiblen persönlichen Daten zu nutzen. Wichtigster Satz in Sachen Deepfakes: „Deepfake-Technologien nutzen wir nicht, um politischen Mitbewerbern Aussagen in den Mund zu legen, die sie nicht tatsächlich getätigt haben.“
Impuls zum Umgang mit veränderten technischen Möglichkeiten
Zum Einstieg in die Diskussion gab Peter König einen Impuls zum Umgang mit veränderten technischen Möglichkeiten. Während heutzutage bereits ein breites Bewusstsein über Fälschungsmöglichkeiten bei Texten und Bildern besteht, muss sich die Medienkompetenz nun derart erweitern, dass auch Audio- und Videoaufnahmen keine Authentizität mehr garantieren.
Letztlich müsse die Gesellschaft sich Kulturtechniken aneignen, mit denen entweder Authentizität hergestellt werden kann, oder es müsse akzeptiert werden, dass ein rein visuelles oder akustisches Signal keine Authentizität mehr gewährleistet. Man werde lernen müssen, dass im zukünftigen Leben, in dem Authentizität relevant ist, Werke digital signiert werden müssen.
Diskussion
Die sich anschließende Diskussion war weniger von Kontroverse geprägt als von einem gemeinsamen Verstehen der sich vollziehenden Veränderung und der daraus resultierenden Fragen an unser Rechtssystem, unsere Gesellschaft und uns als Partei.
Klar wurde: Es ändern sich die Medieninhalte, mit denen wir konfrontiert werden, und die Möglichkeiten, was wir und andere damit machen können. Zwar gab es gefälschte Videos letztlich auch schon vor der breiten Verfügbarkeit von KI und Deep-Learning-Technologien. Sie waren jedoch nicht für jederman so einfach herstellbar.
Auch wenn unsere Gesetze nahelegen, dass das Erstellen und Verbreiten von Deepfakes in den meisten Fällen unzulässig ist, stellt man bei genauerem Hinsehen fest, dass sie nicht für diesen Fall gemacht wurden. So wirkt es zum Beispiel widersprüchlich, dass die KI-Verordnung Deepfakes erwähnt und für diese eine Kennzeichnungspflicht enthält, die Erstellung und Verbreitung von Deepfakes aber datenschutzrechtlich nur in sehr speziellen und realitätsfernen Konstellationen überhaupt legal möglich ist. Ergänzend sind die Entscheidungen, ob eine Person dem öffentlichen Leben angehört, ob etwas noch Satire oder schon eine Verleumdung darstellt, oder ob Daten offensichtlich öffentlich sind, Abwägungs- oder Auslegungsentscheidungen, die für jeden Einzelfall neu zu treffen sind. Das ist für Jurist*innen und Nichtjurist*innen schwierig und macht die Gesetze schwer anwendbar. Hier sehen wir Bedarf zu rechtswissenschaftlicher Forschung und ggf. Rechtsanpassung.
Dazu kommt, dass das Teilen KI-generierter Deepfakes zu Unterhaltungszwecken in Social Media gelebte Praxis ist, gerade (aber nicht nur) bei jüngeren Menschen. Pauschale Verbote erschienen uns hier zu kurz gegriffen. Zwar waren wir uns einig, dass verletzende Inhalte nach wie vor unzulässig sein sollten. Aber auf der anderen Seite sehen wir Bedarf für eine Veränderung unserer Medienkompetenz. Auch wurde die Frage aufgeworfen, inwieweit wir uns den Gesetzen anpassen müssen (die unsere heutigen technischen Möglichkeiten noch nicht berücksichtigt haben) oder nicht eher die Gesetze an die gelebte Praxis angepasst werden müssen. Hier erscheint gerade noch vieles im Fluss. Auch bei Urheberrechten an KI-generierten Inhalten gibt es beispielsweise noch viele offene Fragen.
In Bezug auf die Nutzung von Deepfakes durch Parteien und ihre Gliederungen bestand Einigkeit, dass ein Verzicht darauf ein sinnvoller Rahmen für einen Wahlkampf ist, damit man sich darauf verlassen kann, dass die dargebotenen Informationen echt sind und auch wirklich vom genannten Absender kommen. Deepfakes sind als Mittel zum Wahlkampf nicht zu akzeptieren.
Hingewiesen wurde auch auf das EU-Gesetz über digitale Dienste (Digital Services Act) und bestehende EU-Leitlinien, die Regeln insbesondere für große Plattformen und Suchmaschinen aufstellen, um unter anderem künstlich generierte Inhalte zu kennzeichnen. Dies soll mit modernsten technischen Lösungen in maschinenlesbaren Formaten geschehen. Auch die Vermittlung von Medienkompetenz ist hier ein Thema.
Nicht nur im Kontext von Wahlen ist wichtig zu berücksichtigen, dass nicht jeder und jede ein Fake als solches erkennt. Je weniger Wissen man in einem Bereich hat, desto schwieriger wird es, Deepfakes zu erkennen. Dazu kommt der sogenannte „Confirmation Bias“, der besagt, dass Menschen eher Informationen glauben, die zu ihren eigenen Überzeugungen passen. Die Aussage „Das ist doch total offensichtlich, dass das ein Fake ist“ ist also sehr viel häufiger falsch, als man zu glauben geneigt ist.
Einladung zur Buchvorstellung:…