Der AI Act schafft einen gemeinsamen europäischen Rechtsrahmen für den Einsatz künstlicher Intelligenz. Einige Vorgaben gelten bereits seit 2025. Seit dem 2. August 2026 sind nun auch die Transparenzpflichten aus Artikel 50 anwendbar.
Wo Chatbot drin sind, muss auch Chatbot draufstehen
Setzt ihr einen Chatbot auf eurer Website oder in einem anderen digitalen Angebot ein, müssen Nutzer grundsätzlich erkennen können, dass sie mit einem KI-System kommunizieren – und nicht mit einem Menschen.
Der AI Act verlangt, dass betroffene Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Eine Ausnahme besteht nur dann, wenn dies aus Sicht einer angemessen informierten und aufmerksamen Person ohnehin offensichtlich ist.
Für die Praxis empfehlen wir trotzdem einen eindeutigen Hinweis. So vermeidet ihr Missverständnisse und schafft Vertrauen.
Zum Beispiel:
„Dieser Chat wird von einem KI-System unterstützt.“
Mehr Transparenz bei Fotos, Video und Texten
Diese neue Anforderung wird die meisten Nonprofit-Organsationen relevant sein: In bestimmten Fällen müssen Bilder, Videos oder Texte, die von einer KI erstellt wurden, aber den Eindruck erwecken, ein Mensch habe sie produziert, gekennzeichnet werden.
Wichtig: Artikel 50 enthält keine allgemeine Kennzeichnungspflicht für alle Inhalte, bei denen KI zum Einsatz gekommen ist.
Für Non-Profits sind vor allem drei Anwendungsfälle relevant:
- Ihr setzt einen Chatbot oder ein vergleichbares dialogorientiertes KI-System ein.
- Ihr veröffentlicht KI-generierte oder manipulierte Bilder, Audioaufnahmen oder Videos, die echt wirken können.
- Ihr veröffentlicht KI-generierte oder manipulierte Texte über Themen von öffentlichem Interesse.
Für diese Fälle gelten unterschiedliche Regeln. Hier lohnt ein genauerer Blick!
Kennzeichnungspflicht bei Texten: Auf den Kontext kommt es an
Vorab ist wichtig zu wissen, dass von der Regelung nur Texte betroffen sind, die die Öffentlichkeit über ein Thema von öffentlichem Interesse informiert. Die Einladung zu einem Event oder der Recap eines Workshops sind davon gar nicht betroffen.
Entscheidend sind dann die Fragen:
- Hat die Prüfung durch einen Menschen stattgefunden?
- Übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung?
Wenn ihr beide Fragen mit Ja beantwortet, müsst ihr auch diese Inhalte nicht kennzeichnen. Dazu gehören zum Beispiel diese redaktionellen Routinen:
- KI-Recherche als Zuarbeit
Ihr habt den Text selbst verfasst, aber zur inhaltlichen Recherche ein KI-Modell verwendet. Denkt aber dran, dass hier unabhängig von den gesetzlichen Anforderungen ein Faktencheck stattfinden sollte. Schaut euch die Quellen, die das KI-Modell bei eurer Recherche angibt, genau an. - Reiner Korrekturdurchlauf (Grammatik/Rechtschreibung)
Auch in diesem Fall braucht ihr den Text nicht kennzeichnen! Ihr nutzt KI hier lediglich unterstützend. Solange die Kerninhalte von euch stammen, seid ihr auf der sicheren Seite. - KI schreibt den ersten Textaufschlag oder überarbeitet den Inhalt substanziell
Auch wenn ihr generative KI als Schreibassistenz für Entwürfe nutzt, unterliegt ihr nicht der neuen Kennzeichnungspflicht, wenn ihr ihn geprüft habt und jemand die rechtliche Verantwortung übernimmt.
Wichtig ist dabei: Die Kontrolle sollte mehr sein als ein kurzes Überfliegen. Der AI Act legt zwar nicht im Detail fest, wie umfangreich die Prüfung sein muss. Ein rein formales Abnicken dürfte dem Sinn einer redaktionellen Kontrolle aber kaum gerecht werden.
Prüft deshalb insbesondere:
- Stimmen die Fakten und Quellen?
- Sind Schlussfolgerungen nachvollziehbar?
- Passt die Sprache zu eurer Organisation?
- Werden Personen oder Gruppen fair dargestellt?
- Sind sensible oder personenbezogene Informationen enthalten?
- Könnt ihr die Aussagen inhaltlich verantworten?
Die praktische Grenze verläuft also weniger entlang der Frage, wie viel KI eingesetzt wurde. Entscheidend ist vielmehr:
Hat ein Mensch den Inhalt nachvollziehbar geprüft – und übernimmt die Organisation die redaktionelle Verantwortung?
Wie kennzeichne ich einen KI-generierten Text?
Ein kurzer Hinweis kann zum Beispiel so aussehen:
„Dieser Text wurde mithilfe eines KI-Systems erstellt.“
oder:
„Bei der Erstellung dieses Beitrags kam generative KI zum Einsatz.“
Ihr könnt aber auch genauer erklären, wie der Text entstanden ist: Welche fachlichen Grundlagen sind eingeflossen? Wofür wurde KI genutzt? Und wer hat den fertigen Beitrag geprüft und verantwortet?
Auch wir bei D3 nutzen bei einzelnen Blogartikeln einen solchen Hinweis. In einer kleinen Text-Box unter dem Beitrag (auch unter diesem hier) machen wir transparent, auf welcher Grundlage der Text entstanden ist und welche Rolle KI dabei gespielt hat.
Das kann zum Beispiel so aussehen:
„Die Grundlage für diesen Text ist ein Vortrag von Person X am Datum Y. Unter Rücksprache und mithilfe unserer Notizen, generativer KI und unserem D3-Masterprompts (hier nachzulesen) ist dieser Artikel entstanden.“
Ein solcher Hinweis ist nicht bei jedem unterstützenden KI-Einsatz gesetzlich vorgeschrieben. Er kann aber sinnvoll sein, wenn KI stärker an Vorbereitung, Struktur, Formulierung oder Ausarbeitung eines Textes beteiligt war – oder weil ihr einfach transparent sein wollt.
Die Kennzeichnung sollte klar erkennbar und dem konkreten Inhalt zugeordnet sein. Eine allgemeine Sammelerklärung im Impressum dürfte dafür in der Regel nicht ausreichen.
Denkt außerdem an die Barrierefreiheit: Der Hinweis sollte auch für Menschen wahrnehmbar sein, die Screenreader oder andere assistive Technologien verwenden.
Kennzeichnungspflicht bei Bildern, Audio und Video
Bei Bildern, Audioaufnahmen und Videos steht vor allem die Frage im Mittelpunkt, ob ein sogenannter Deepfake vorliegt.
Der AI Act versteht darunter KI-generierte oder manipulierte Inhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen können.
Typische Beispiele sind:
- Eine reale Person wird in eine Situation montiert, in der sie nie war.
- In einer echten Aufnahme werden Personen oder Gegenstände hinzugefügt oder entfernt.
- Eine reale Veranstaltung wird durch KI so verändert, dass ein falscher Eindruck entsteht.
- Eine Stimme wird synthetisch nachgebildet und einer realen Person zugeschrieben.
- Ein fingiertes Pressefoto wirkt wie eine authentische Aufnahme eines realen Ereignisses.
Solche Inhalte solltet ihr klar als KI-generiert oder KI-manipuliert kennzeichnen.
Zum Beispiel:
„Dieses Bild wurde mit einem KI-System erstellt.“
oder:
„Diese Aufnahme wurde mithilfe von KI verändert.“
Ist jedes fotorealistische KI-Bild ein Deepfake?
Nein. Nicht jedes realistisch aussehende KI-Bild ist automatisch ein Deepfake im Sinne des AI Acts.
Entscheidend ist unter anderem, ob der Inhalt bestehenden Personen, Gegenständen, Orten oder Ereignissen ähnelt und dadurch fälschlich als authentisch wahrgenommen werden kann.
Ein vollständig erfundenes Bild ohne Bezug zu einer realen Person oder einem realen Ereignis fällt deshalb nicht zwangsläufig unter die Deepfake-Definition.
Trotzdem kann eine freiwillige Kennzeichnung sinnvoll sein – gerade dann, wenn Nutzer das Bild leicht für eine echte Fotografie halten könnten. Transparenz kann hier nicht nur eine gesetzliche Pflicht erfüllen, sondern auch das Vertrauen in eure Kommunikation stärken.
Welche Bildbearbeitungen sind normalerweise unproblematisch?
Nicht jede technische oder gestalterische Bildbearbeitung löst eine Kennzeichnungspflicht aus.
Geringfügige Anpassungen, die den Inhalt nicht wesentlich verändern, sind in der Regel unproblematisch. Dazu gehören beispielsweise:
- Korrekturen von Helligkeit, Kontrast oder Farbe
- Rauschreduzierung
- Hochskalieren der Auflösung
- kleinere Retuschen
- Zuschneiden eines Bildes
- leichtes Abdunkeln oder Weichzeichnen des Hintergrunds
Vorsicht ist geboten, wenn durch die Bearbeitung der tatsächliche Bildinhalt verändert wird – zum Beispiel, wenn Personen, Gegenstände oder wesentliche Bestandteile hinzugefügt, entfernt oder ausgetauscht werden.
Eine einfache Faustregel:
Verändert die Bearbeitung nur die Darstellung – oder verändert sie die Aussage des Bildes?
Wird die Aussage verändert und kann das Ergebnis für authentisch gehalten werden, solltet ihr eine Kennzeichnung sorgfältig prüfen.
Nicht vergessen: Team mit ins Boot holen
Bereits seit dem 2. Februar 2025 gilt die Pflicht zur sogenannten KI-Kompetenz beziehungsweise „AI Literacy“.
Organisationen, die KI-Systeme einsetzen oder betreiben, sollen nach bestem Wissen und Gewissen dafür sorgen, dass ihre Mitarbeitenden und andere beteiligte Personen über ausreichende KI-Kompetenz verfügen.
Wie umfangreich diese Kenntnisse sein müssen, hängt unter anderem davon ab,
- welche KI-Systeme ihr einsetzt,
- wie komplex oder riskant die Anwendung ist,
- welches Vorwissen die Mitarbeitenden haben und
- in welchem Kontext das System genutzt wird.
Ein Team, das KI lediglich für Rechtschreibkorrekturen nutzt, benötigt eine andere Schulung als Mitarbeitende, die mit KI Bewerbungen bewerten, sensible Daten verarbeiten oder öffentliche Stellungnahmen erstellen.
Informiert euer Team deshalb nicht nur über die neuen Kennzeichnungspflichten. Vereinbart auch gemeinsame Regeln für den Einsatz von KI und dokumentiert eure Schulungen und Prozesse.
Unsere Checkliste für eure Organisation
Diese Fragen helfen euch beim ersten Check:
Chatbots
– Ist für Nutzer:innen sofort erkennbar, dass sie mit einer KI kommunizieren?
– Erscheint der Hinweis spätestens bei der ersten Interaktion?
– Ist die Information verständlich und barrierefrei?
Texte
– Wurde der veröffentlichte Text von einer KI erzeugt oder inhaltlich verändert?
– Informiert er die Öffentlichkeit über ein Thema von öffentlichem Interesse?
– Hat eine nachvollziehbare menschliche Prüfung stattgefunden?
– Übernimmt eure Organisation die redaktionelle Verantwortung?
Bilder, Audio und Video
– Bezieht sich der Inhalt auf reale Personen, Orte, Gegenstände oder Ereignisse?
– Könnte er fälschlich für authentisch gehalten werden?
– Wurde der Inhalt durch KI wesentlich verändert?
– Ist eine Kennzeichnung direkt am Beitrag oder Inhalt angebrach
Interne Organisation
– Weiß euer Team, wann eine Kennzeichnung notwendig ist?
– Gibt es klare Zuständigkeiten für die Prüfung?
– Habt ihr den Einsatz von KI in internen Leitlinien geregelt?
– Dokumentiert ihr Schulungen und redaktionell
Unser Fazit
Der AI Act verlangt nicht, dass ihr jeden KI-Einsatz öffentlich macht. Reine Recherche, Rechtschreibkorrekturen oder redaktionell geprüfte Textentwürfe können weiterhin ohne pauschalen KI-Hinweis genutzt werden.
Kennzeichnen müsst ihr vor allem dort, wo Menschen über die Interaktion mit einem KI-System oder über die mögliche Künstlichkeit eines Inhalts aufgeklärt werden müssen.
Für die Praxis bedeutet das:
Schafft klare Prozesse, prüft KI-Inhalte redaktionell und kennzeichnet dort, wo Nutzer:innen sonst über die Herkunft oder Authentizität getäuscht werden könnten. Macht euren Umgang mit KI nachvollziehbar.
So erfüllt ihr nicht nur gesetzliche Anforderungen. Ihr stärkt auch eine transparente und verantwortungsvolle digitale Kommunikation.
| Dieser Text wurde vom D3-Team in mehreren Recherche-, Prüf- und Korrekturrunden erstellt. Dabei kamen auch generative KI und unser D3-Masterprompt (hier nachzulesen) zum Einsatz. Die Inhalte dienen der allgemeinen Information und stellen keine Rechtsberatung dar. |
