EU inleder utredning om Elon Musks Grok EU-kommissionen har inlett en formell utredning mot AI-chattboten Grok, utvecklad av Elon Musks bolag xAI. Syftet är att pröva om tjänsten bryter mot EU:s förordning om digitala tjänster (DSA) – och ytterst att tvinga bort Grok från den europeiska marknaden.
Enligt uppgifter till tyska Handelsblatt grundas utredningen på att Grok ska ha kunnat generera sexualiserade bilder och videor av verkliga personer utan samtycke, inklusive minderåriga. Tjänsten är tillgänglig via plattformen X, som också ägs av Musk.
Fokus på riskhantering och samtycke I ett pressmeddelande uppger EU-kommissionen att granskningen gäller hur xAI bedömt och hanterat risker inför lanseringen av Grok i EU. Frågan om samtycke och skydd av barn lyfts särskilt fram.
– Vi kommer inte att överlåta skyddet av barn till techbolag som kan kränka människor och profitera på det. Skadan från illegala bilder är mycket verklig, säger EU-kommissionens ordförande Ursula von der Leyen i ett uttalande.
Utredningen sker med stöd av DSA, som ger EU långtgående befogenheter att kräva förändringar, utfärda böter – och i sista hand tvinga bort digitala tjänster från EU-marknaden.
Uppmärksammade exempel i Sverige I den svenska debatten har ärendet fått extra uppmärksamhet efter att AI-genererade bilder på energi- och näringsminister Ebba Busch spridits på X. Busch har själv kritiserat Grok offentligt och pekat på riskerna för både vuxna och barn.
Även socialminister Jakob Forssmed (KD) har tidigare kallat de AI-genererade bilderna för ett exempel på hur techbolag utvecklar tjänster som exploaterar människor.
Barnrättsorganisationer har samtidigt varnat för att Grok ska ha kunnat användas för att skapa sexualiserat material även av minderåriga.
Kritik mot selektivt ingripande Samtidigt har kritiker ifrågasatt varför just Grok hamnar i fokus. Liknande funktioner för AI-baserad bildgenerering finns hos ett stort antal andra aktörer, både som onlinetjänster och som program användare kan köra lokalt på egna datorer.
xAI har uppgett att man redan vidtagit tekniska åtgärder för att stoppa manipulation av bilder och videor som föreställer verkliga personer i sexuella sammanhang. Enligt kritiker räcker dock inte detta för EU-kommissionen.
En återkommande invändning är att Grok behandlas hårdare än andra AI-modeller – inte minst eftersom dess ägare, Elon Musk, är politiskt kontroversiell i EU-sammanhang.
Kan Grok förbjudas? Formellt sett kan EU inte direkt ”stänga av” en AI-tjänst. Däremot kan kommissionen genom rättsprocesser, böter och krav göra det juridiskt och ekonomiskt svårt för ett bolag att verka i EU. I praktiken kan detta leda till att företag själva väljer att dra sig tillbaka.
I nästa steg kan medlemsstaterna – om de vill – använda nationell lagstiftning för att kräva app-nedtagningar, blockeringar via app-butiker eller andra tekniska begränsningar.
Utredningen mot Grok väntas nu bli ett testfall för hur långt EU är berett att gå i sin ambition att reglera generativ AI – och var gränsen går mellan skydd av individer och tillgång till nya informations- och kunskapsverktyg.
