Apple: KI-Nackt-Apps überschwemmen den App Store

Apple: Ein neuer Bericht des Tech Transparency Project (TTP) zeigt Schwächen der angeblich perfekt kuratierten und sicheren App Stores. Die Auswertung macht deutlich, dass in den beiden großen Software Shops zahlreiche Apps vorhanden sind, mit denen Nutzer mithilfe von Künstlicher Intelligenz fremde Personen auf Fotos digital entkleiden können.

Diese sogenannten Nudify-Apps werden demnach sowohl im App Store von Apple als auch im Play Store von Google angeboten und ermöglichen die Erstellung von nicht einvernehmlicher Deepfake-Pornografie auf Knopfdruck. Das problematische Thema erreichte Ende 2025 die breite Öffentlichkeit, nachdem bekannt wurde, dass der KI-Chatbot Grok auf X zum Ausziehen von Menschen zweckentfremdet wurde.

KI-Nackt-Apps überschwemmen den App Store

Der aktuelle TTP-Bericht führt nun aber die deutlich umfangreichere Verbreitung der Technologie vor Augen. Suchbegriffe wie „undress“ oder „nudify“ führen demnach in den offiziellen App Stores zu mobilen Apps, die einzig und allein für diesen Zweck entwickelt wurden. Die Reichweite scheint enorm: Laut TTP wurden die identifizierten Apps insgesamt über 700 Millionen Mal heruntergeladen.

Der geschätzte Umsatz beläuft sich auf rund 117 Millionen US-Dollar. Da Apple und Google bei In-App-Käufen und Abonnements üblicherweise Provisionen einbehalten, profitieren die Plattformbetreiber faktisch direkt von der Verbreitung dieser Werkzeuge. Opferverbände warnen seit Jahren davor, dass KI-basierte Entkleidung eine Form sexualisierter Gewalt darstellt, von der Frauen und Minderjährige überproportional betroffen sind.

Prüfprozesse von Apple und Google überfordert

Die von TTP geteilten Informationen kollidieren mit den Angaben von Apple und Google, untersagen die US-Konzerne in ihren Richtlinien doch explizit pornografische oder ausbeuterische Inhalte. Der Bericht zeigt allerdings wohl auf, dass die Durchsetzung dieser Regeln lückenhaft ist.

Oftmals gleicht das Vorgehen einem Katz-und-Maus-Spiel: Werden Apps nach Beschwerden entfernt, laden Entwickler den nahezu identischen Code unter leicht verändertem Namen oder Logo erneut hoch. Die automatisierten Prüfsysteme der Store-Betreiber scheinen mit der schnellen Evolution generativer KI-Modelle überfordert zu sein. Solange keine strikteren Regulierungen greifen oder die Unternehmen ihre Prüfprozesse grundlegend verschärfen, wird das Treiben vermutlich weitergehen.

Quellenangabe: Golem