Instagram: Adam Mosseri fordert Maßnahmen gegen KI-Inhalte

Instagram: Online-Dienste wie Facebook, YouTube und TikTok werden von KI-Inhalten geflutet, was sich Adam Mosseri nicht mehr gefallen lassen will. Der Instagram-Chef hält eine technische Identifizierung von mit Künstlicher Intelligenz erstellten Inhalten für kaum noch machbar und will daher echte Medien signieren lassen.

In einer Stellungnahme erklärte Mosseri unverblümt, dass die Verbreitung von künstlich erstellen Medien inzwischen derart fortgeschritten und perfektioniert sei, dass eine zuverlässige Unterscheidung durch technische Werkzeuge kaum noch erfolgreich sein kann. Als Ausweg aus der Misere regt er daher als fundamentale Neuausrichtung der Prioritäten das Fingerprinting echter Medien an.

Mosseri argumentiert, dass KI-Modelle in ihrer Fähigkeit, die Realität zu imitieren, die Erkennungssysteme der Plattformen zwangsläufig überholen werden. „Es wird praktischer sein, echte Medien mit einem Fingerabdruck zu versehen, als Fälschungen hinterherzujagen“, erklärt der Top-Manager.

Meta gesteht damit mehr oder weniger ein, dass die bisherigen Bemühungen zur automatisierten Kennzeichnung von KI-Inhalten an ihre Grenzen stoßen. Mehr noch, die Flut aus künstlich erstelltem Content sei bereits jetzt so groß, dass Online-Dienste die Integrität ihrer Inhalte auf andere Art und Weise sichern müssen.

Der Instagram-Chef appelliert daher an die Hersteller von Smartphones und Kameras, Bilder und Videos bereits im Moment der Aufnahme kryptografisch zu signieren. Ein solcher „Chain of Custody“-Ansatz, wie er etwa im C2PA-Standard vorgesehen ist, würde eine lückenlose Kette vom Sensor bis zur Veröffentlichung ermöglichen.

Instagram könnte dann verifizierte Originale explizit als solche ausweisen, anstatt jedes KI-Bild mühsam identifizieren zu müssen. Der Online-Dienst wäre damit aus dem Schneider, können doch die Ersteller durch technische Zertifikate belegen, dass es sich um reale Inhalte handelt.

Adam Mosseri sieht aber auch einen ästhetischen Wandel als Reaktion auf die KI-Schwemme, eventuell sogar eine Art von Selbstreinigungssystem. Instagram würde feststellen, dass perfekte und hochgradig nachbearbeitete Bilder zunehmend mit KI assoziiert werden.

Wirklich erfolgreiche Creator würden daher verstärkt auf Rawness und somit auf zumeist ungeschönte, oft qualitativ imperfekte Aufnahmen mit schlechterer Beleuchtung oder ungewöhnlichen Winkeln setzen. Das habe einen guten Grund, würden doch Nutzer nicht absolut perfekte Bilder mittlerweile als Signal für Authentizität werten, da sie schwerer durch KI-Modelle simuliert werden können.

Quellenangabe: Golem