KI-Kennzeichnungspflicht: Was Firmen kennzeichnen müssen.

Vier Fälle aus dem Betrieb

Nicht alles, was mit KI entsteht, muss gekennzeichnet werden. Im Alltag einer Firma zählen vor allem diese vier Fälle:

Ob die KI auf Ihrer Website schon richtig gekennzeichnet ist, zeigt der Website-Check; er ist kostenlos.

Wer was kennzeichnen muss

Die Verordnung unterscheidet zwei Rollen. Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen oder eigener Marke auf den Markt oder in Betrieb. Betreiber setzen ein KI-System in ihrem Betrieb ein, etwa als Chatbot auf der eigenen Website.

Nach Art. 50 Abs. 5 KI-Verordnung muss der Hinweis spätestens bei der ersten Interaktion oder dem ersten Kontakt mit dem Inhalt kommen, klar erkennbar und barrierefrei.

Ab wann was gilt

Die Übergangsfrist kam mit der Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI). Nach den Fragen und Antworten der EU-Kommission gilt sie nur für die Markierung durch Anbieter und nur für ältere Systeme.

Chatbots und KI-Agenten auf der Website

Ein Chatbot oder KI-Agent spricht direkt mit Menschen. Dafür gilt Art. 50 Abs. 1 KI-Verordnung. In der Praxis heißt das:

• Hinweis im ersten Satz: Die erste Nachricht sagt, dass eine KI schreibt, etwa „Sie schreiben mit einer KI“.
• Ehrlich auf Nachfrage: Fragt jemand „Sind Sie ein Mensch?“, lautet die Antwort Nein.
• Kein menschlicher Anschein: Ein Name ist erlaubt, ein erfundenes Foto mit Lebenslauf eines Mitarbeiters führt in die Irre.
• Auch am Telefon und per Mail: Die Pflicht hängt nicht am Kanal, sondern daran, dass ein Mensch mit der KI interagiert.

So kann die erste Nachricht aussehen:

Bilder, Videos und Stimmen

Ein Deepfake ist nach Art. 3 Nr. 60 KI-Verordnung ein von KI erzeugter oder veränderter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich als echt erscheinen würde. Nur dafür gilt die Offenlegung nach Art. 50 Abs. 4 KI-Verordnung.

• Deepfake: Ein KI-Video, in dem Ihr Geschäftsführer etwas sagt, das er nie gesagt hat, muss offengelegt werden.
• Kunst, Satire, Fiktion: Bei erkennbar künstlerischen oder satirischen Werken reicht ein Hinweis, der den Genuss des Werks nicht stört.
• Illustration ohne Täuschung: Eine erkennbar gezeichnete oder gestaltete KI-Illustration ähnelt keiner echten Szene, die sie vortäuscht. Sie ist in der Regel kein Deepfake. Ein freiwilliger Hinweis schafft trotzdem Vertrauen.
• Fotorealistische Menschen: Ein KI-Bild einer erfundenen Person, das wie ein echtes Kundenfoto wirkt, sollten Sie kennzeichnen.

Texte: nur in einem engen Fall

Für KI-Texte gilt Art. 50 Abs. 4 KI-Verordnung nur, wenn drei Bedingungen zusammenkommen:

1. Veröffentlicht: Der Text ist öffentlich, nicht nur intern.
2. Zur Information der Öffentlichkeit: Er soll informieren, etwa wie ein Nachrichtenbeitrag.
3. Öffentliches Interesse: Es geht um eine Angelegenheit von öffentlichem Interesse.

Auch dann entfällt die Pflicht, wenn ein Mensch den Text inhaltlich geprüft hat und jemand die redaktionelle Verantwortung trägt. Rechtschreibung zu korrigieren reicht dafür nach der Kommission nicht.

Social Media

Verhaltenskodex und Bußgelder

Prüfliste für Ihre Website

1. Chat und Telefon: Sagt Ihr Chatbot oder Telefonassistent im ersten Satz, dass er eine KI ist?
2. Bilder: Gibt es fotorealistische KI-Bilder echter oder erfundener Menschen, die echt wirken? Dann kennzeichnen.
3. Videos und Stimmen: Gibt es KI-Videos oder KI-Stimmen, die eine echte Person nachahmen? Dann offenlegen.
4. Texte: Veröffentlichen Sie KI-Texte zu Themen von öffentlichem Interesse ohne menschliche Prüfung? Dann kennzeichnen oder inhaltlich von Menschen prüfen lassen, mit redaktioneller Verantwortung für die Veröffentlichung.
5. Nachweis: Halten Sie fest, wer welche Inhalte prüft und wie Sie kennzeichnen.
6. Für Agenturen und Kundenprojekte: Legen Sie je Projekt fest, wer den Hinweis umsetzt, wer ihn nach Änderungen prüft und wer das festhält.

Ihr nächster Schritt