KI-Inhalte müssen gekennzeichnet werden. Manchmal.

Künstliche Intelligenz: Die Vorgaben rund um KI ändern sich immer wieder. Nun gilt die neue Kennzeichnungspflicht der EU. Diese soll alles transparenter machen. Hierfür soll sich eine KI-Behörde um die Durchsetzung von Transparenzpflichten kümmern. Was sich ändert und wer betroffen ist.

Was muss gekennzeichnet werden?

Die neuen Vorgaben rund um die Nutzung von KI gelten seit dem 2. August 2026. Nun müssen beispielsweise Chatbots und andere interaktive KI-Systeme klar aufzeigen, dass am anderen Ende kein Mensch, sondern eben die KI „sitzt“. Auch Audio- und Videodateien müssen, wenn sie mit KI bearbeitet oder generiert wurden, gekennzeichnet werden. Und klar: Auch Deepfakes sind betroffen.

Die Neuerungen dürften für die meisten nicht überraschend kommen. Schon Mitte Juni wurde ein Kodex veröffentlicht, in dem Interessierte bereits damals lesen konnten, was genau auf sie zukommt.

Ausnahmen rund um die oft zitierte „menschliche Kontrolle“

Entwickler und Anbieter sind dazu verpflichtet, mit KI erzeugte (oder veränderte) Inhalte zu markieren. Wer im Internet Inhalte postet, die von öffentlichem Interesse sind, muss ebenfalls kennzeichnen. Zumindest dann, wenn der Content nicht durch einen Menschen kontrolliert wurde. „Kontrolliert“ bedeutet, dass im Ernstfall eine Person für die Inhalte geradestehen muss.

Wer sich beschweren möchte, kann sich an die Bundesnetzagentur wenden

Sowohl das europäische KI-Amt als auch die nationalen Behörden werden überwachen, ob die Vorgaben zur KI Nutzung auch beachtet werden. Sollte jemandem auffallen, dass sich ein Anbieter von Inhalten nicht an die Kennzeichnungspflicht hält, kann er sich bei der Bundesnetzagentur beschweren. Weiterhin sollen in Zukunft auch Hochrisikosysteme (außerhalb von Reallaboren) getestet werden.

Wer sich, zum Beispiel als Unternehmen oder als Behörde, unsicher darüber ist, was er kennzeichnen muss und was nicht, kann sich, laut Bundesnetzagentur, auch an einen KI Service Desk wenden. Auf der entsprechenden Seite finden Interessierte unter anderem zahlreiche Infos zu Transparenzpflichten, zur Marktüberwachung und Hochrisiko KI-Systemen.

Quellenangabe: Golem