X: EU-Kommission untersucht KI-Chatbot Grok

X: Die EU-Kommission startet eine Untersuchung gegen den Online-Dienst X aufgrund der sogenannten Bikini-Bilder vom KI-Chatbot Grok. Grundlage der Maßnahme sind die Digitalgesetze der Europäischen Union. Die zu Elon Musks Firma xAI gehörende Plattform hat in letzter Zeit für eine Vielzahl negativer Schlagzeilen gesorgt, da der Chatbot Grok es Nutzern ermöglichte, Fotos von Personen derart zu verändern, dass sie sexualisiert dargestellt werden.

Die Spannbreite reichte dabei von spärlich bekleidet bis komplett ausgezogen. Das sorgte für Kritik und auch die EU-Kommission kommt zu der Einschätzung, dass damit EU-Bürger ernsten Gefahren ausgesetzt sind.

EU-Kommission untersucht KI-Chatbot Grok

Die EU will daher nun in einem offiziellen Verfahren klären, ob xAI bei dem Einfügen von Grok in den Online-Dienst X derartige Risiken ausreichend untersucht, eingeschätzt und entsprechende Vorkehrungen gegen einen Missbrauch der Künstlichen Intelligenz getroffen hat.

Als rechtliche Grundlage dient dabei der Digital Services Act (DSA), der Unternehmen in der Europäischen Union verpflichtet, ihre Online-Plattformen mit Sicherheitssystemen auszustatten, die Minderjährige vor Risiken bewahren und gegen illegale Inhalte vorgehen. Die Anbieter müssen zudem Maßnahmen gegen die Verbreitung solcher Inhalte treffen.

Online-Dienst X wegen KI massiv in der Kritik

Die EU-Kommissionen sammelt nun weitere Beweise für das angenommene Fehlverhalten der Plattform und bewertet deren Rückmeldungen. Am Ende des Verfahrens könnte ein weitere Millionen-Strafe gegen X stehen. Die US-amerikanische-britische Nichtregierungsorganisation Zentrum gegen Hass im Internet (CCDH) meldete am vergangenen Donnerstag, dass der Chatbot Grok zuletzt innerhalb von elf Tagen rund drei Millionen KI-Bilder von Frauen und Mädchen in sexualisierten Posen generiert und veröffentlicht habe.

Dazu sollen mindestens 23.000 Fotos von Kindern zählen. Unter den betroffenen Frauen seien Prominente wie die US-Sängerin Taylor Swift, die Schauspielerin Selena Gomez und die frühere Vizepräsidentin Kamala Harris.

Quellenangabe: Tagesschau