Skandál kolem Elona Muska: EU vyšetřuje X kvůli šokujícím fotkám z AI

Evropská komise zahájila nové oficiální řízení proti sociální síti X, kterou ovládá podnikatel Elon Musk. Důvodem je nasazení umělé inteligence Grok, jež podle dostupných informací umožnila generovat sexualizované snímky žen a dětí. Brusel má podezření, že platforma nedokázala včas vyhodnotit a ošetřit rizika spojená s touto technologií, a mohla tak porušit pravidla přísného unijního nařízení o digitálních službách (DSA).

Komise zdůrazňuje, že jde o závažný případ, který se dotýká základních evropských hodnot a práv, včetně ochrany dětí v online prostředí. Zároveň však připomíná, že samotné zahájení řízení ještě neznamená, že X bude nakonec shledána vinnou. Vyšetřování se nyní přesouvá do fáze shromažďování důkazů a posuzování konkrétních kroků společnosti.

Jak se z experimentu s AI stal evropský problém

Jádrem případu je chatbot Grok, vyvíjený Muskovým start-upem xAI. Ten v roce 2026 převzal kontrolu nad sítí X prostřednictvím akvizice společnosti X Corp, která platformu provozuje. Grok byl postupně integrován přímo do prostředí X a uživatelům začal nabízet nejen textové odpovědi, ale také generování a úpravu obrázků.

Právě tato obrazová funkce se stala zdrojem současného skandálu. Uživatelé podle zjištění Bruselu dokázali prostřednictvím Groku vytvářet sexualizované fotografie žen a dětí, včetně manipulovaných či upravených snímků. Evropská komise hovoří o obsahu, který může spadat do kategorie materiálů zobrazujících sexuální zneužívání dětí, což je v EU považováno za jedno z nejzávažnějších online rizik.

Mluvčí Evropské komise Thomas Regnier na pravidelném briefingu nešetřil ostrými slovy. Výstupy Groku v podobě sexualizovaných fotografií dětí označil za „nelegální, nepřijatelné a nechutné“. Podle něj takový obsah v Evropě nemá místo a je v přímém rozporu s unijními hodnotami a základními právy, která mají digitální služby respektovat.

Internet a Technologie

Jak vybrat stabilní hosting v ČR v roce 2026?

Jak vybrat hosting, který váš web v roce 2026 nenechá spadnout v nejhorší možný moment? Podíváme se na klíčové parametry stability, rychlosti, bezpečnosti i podpory a ukážeme si, jak v ČR vybrat řešení, na které se můžete dlouhodobě spolehnout.

Co přesně Evropská komise X vytýká

Formálně se vyšetřování opírá o nařízení o digitálních službách (DSA), které ukládá velkým online platformám rozsáhlé povinnosti v oblasti moderace obsahu, transparentnosti a řízení rizik. X patří mezi tzv. velmi velké online platformy, pro něž platí nejpřísnější režim.

Evropská komise se zaměřuje zejména na to, zda X:

• řádně posoudila rizika spojená se zavedením funkcí chatbota Grok v Evropské unii,
• přijala dostatečná opatření ke zmírnění rizik šíření nelegálního obsahu,
• zabránila generování manipulovaných sexuálně explicitních obrázků, včetně takových, které mohou představovat materiál zobrazující sexuální zneužívání dětí,
• dodržela své povinnosti včasně reagovat a upravit fungování služby po prvních varovných signálech.

Podle prohlášení Komise se zdá, že identifikovaná rizika se v praxi naplnila a uživatelé v EU mohli být vystaveni vážné újmě. Právě tato skutečnost je hlavním důvodem, proč se Brusel rozhodl přejít od předběžných dotazů k formálnímu řízení podle DSA.

První reakce X: omezení pro neplatící uživatele

Krátce poté, co se problém s generováním nevhodných obrázků dostal na veřejnost a do hledáčku unijních orgánů, síť X přistoupila k prvnímu viditelnému omezení. Na začátku ledna platforma zablokovala možnost využívat Grok k tvorbě či úpravě obrázků všem neplatícím uživatelům.

Funkce však zůstala dostupná pro předplatitele prémiové verze X, tedy pro ty, kteří mají u svého účtu modrý ověřovací symbol a platí měsíční poplatek. V České republice vychází prémiové předplatné na 67 korun měsíčně. Z pohledu firmy jde o kompromis mezi omezením rizik a zachováním atraktivní funkce pro platící klientelu.

Podle řady kritiků i expertů na digitální bezpečnost ale tento krok problém neřeší. Omezení se totiž vztahuje pouze na neplatící část uživatelské základny, zatímco prémioví uživatelé mají k nástrojům generativní AI nadále přístup. Zůstává tak otevřená otázka, zda X skutečně dokázala rizika spojená s Grokem účinně zmírnit, jak po ní DSA vyžaduje.

Internet a Technologie

Nehoda Filipa Turka inspirovala hru i parodii na GTA 6 a vznikla KŘIŽOVATKA 63

Dopravní nehoda poslance Filipa Turka se během hodin změnila v internetový fenomén. Vznikla satirická hra Křižovatka 63 i AI parodie ve stylu GTA.

Jak bude vyšetřování probíhat a co Bruselu umožňuje DSA

Evropská komise zdůrazňuje, že oficiální zahájení řízení samo o sobě neznamená, že X bude automaticky potrestána. Jde o start formálního procesu, během něhož budou regulátoři shromažďovat a vyhodnocovat důkazy.

Komise má v rámci DSA k dispozici širokou paletu nástrojů. V tomto konkrétním případě avizuje, že může:

• zasílat další žádosti o informace společnosti X a její mateřské firmě,
• organizovat pohovory s představiteli platformy i s odborníky na bezpečnost a ochranu dětí,
• provádět inspekce a technické audity, které se zaměří na fungování Groku a jeho integraci do X,
• uložit předběžná opatření, pokud vyhodnotí, že rizika pro uživatele v EU jsou nadále vysoká a reakce X nedostatečná.

Právě možnost předběžných opatření je jednou z novinek, které DSA přináší. Komise může například nařídit dočasné omezení některých funkcí, změnu nastavení algoritmů nebo posílení moderace v konkrétních oblastech, a to ještě před tím, než dospěje k závěrečnému rozhodnutí ve věci.

Politický rozměr: evropské hodnoty versus byznys s AI

Případ Groku zapadá do širšího trendu, kdy Evropská unie zintenzivňuje dohled nad velkými technologickými firmami a jejich využíváním umělé inteligence. DSA je jedním ze stěžejních nástrojů, jimiž Brusel usiluje o to, aby digitální služby byly bezpečné, transparentní a v souladu se základními právy.

Mluvčí Komise Thomas Regnier v této souvislosti připomněl, že dodržování evropské legislativy není volba, ale povinnost. V případě materiálů zobrazujících sexuální zneužívání dětí je navíc politická i společenská tolerance k selháním prakticky nulová. Jakékoli zaváhání při ochraně nezletilých v online prostředí je vnímáno jako zásadní selhání platformy.

Pro X a Elona Muska tak nejde jen o právní spor, ale i o reputační riziko. Integrace pokročilé AI do velké sociální sítě má být jedním z klíčových pilířů budoucího rozvoje platformy. Pokud se ale ukáže, že firma nedokáže nové technologie zkrotit a nasadit je bezpečně, může to ovlivnit jak její vztah s regulátory, tak důvěru uživatelů a inzerentů.

Role xAI a budoucnost Groku na evropském trhu

Muskův start-up xAI, který Grok vyvíjí, převzal v roce 2026 kontrolu nad X prostřednictvím akvizice X Corp. Tím se vývoj umělé inteligence a provoz sociální sítě ještě těsněji propojily. Grok je prezentován jako konkurenční projekt k dalším velkým jazykovým a multimodálním modelům, s důrazem na integraci přímo do uživatelské zkušenosti na X.

Právě tato hluboká integrace ale v kontextu DSA znamená, že jakékoli selhání Groku je automaticky selháním celé platformy. X nemůže argumentovat, že jde o „externí nástroj“ nebo experimentální funkci – z právního hlediska je Grok součástí služby, za niž nese X plnou odpovědnost.

Budoucnost Groku v EU tak bude do značné míry záviset na tom, jak X a xAI dokážou přesvědčit Komisi, že umí rizika zvládnout. Může to znamenat hlubší úpravy modelu, přísnější omezení některých typů požadavků, robustnější detekci a blokování problematických výstupů či rozšíření lidského dohledu nad generovaným obsahem.

Co může následovat: možné dopady pro X i další platformy

Výsledek řízení zatím nelze předjímat, Komise to ostatně sama výslovně zdůrazňuje. Přesto lze načrtnout několik možných scénářů a jejich dopadů:

• Bez sankcí, ale s nápravnými opatřeními – pokud X prokáže, že rizika již účinně zmírnila a spolupracuje s regulátory, může Komise upřednostnit dohodu o konkrétních krocích před vysokými pokutami.
• Finanční sankce – v případě prokázaného porušení DSA může EU uložit pokuty, které se u velmi velkých platforem mohou vyšplhat až na významné procento globálního obratu.
• Povinné technické změny – Komise může rozhodnout o povinných úpravách algoritmů, omezení některých funkcí Groku nebo o posílení moderace a lidské kontroly.
• Precedens pro další AI nástroje – rozhodnutí v této věci se může stát vzorem pro to, jak budou v EU posuzovány i jiné generativní AI služby integrované do velkých platforem.

Bez ohledu na konečný verdikt je už nyní zřejmé, že evropské orgány budou využívat DSA k důsledné kontrole toho, jak velké technologické firmy zavádějí umělou inteligenci do svých služeb. Případ Groku tak může být pro další hráče v oboru varováním, že inovace bez důkladného řízení rizik může vést k tvrdému zásahu regulátora.

Klíčové poučení pro budoucnost regulace umělé inteligence

Příběh vyšetřování X kvůli chatbotu Grok ukazuje, jak rychle se může technologická novinka proměnit v politicky citlivý problém. V době, kdy se generativní AI masově rozšiřuje do sociálních sítí, vyhledávačů i komunikačních aplikací, se otázka bezpečnosti a ochrany uživatelů stává jedním z hlavních témat evropské digitální politiky.

Evropská komise dává vzkaz nejen Muskově platformě, ale celému odvětví: inovace jsou vítané, ale nesmí být na úkor základních práv, zejména ochrany dětí před sexuálním zneužíváním a vykořisťováním. Pro provozovatele platforem z toho plyne, že zavádění AI nástrojů musí být od počátku doprovázeno důkladným posouzením rizik, technickými i organizačními opatřeními a ochotou transparentně spolupracovat s regulátory.

Jak se případ X a Groku vyvine, ukážou následující měsíce. Už nyní je ale jasné, že půjde o jeden z testovacích momentů, na němž se bude lámat budoucí podoba soužití velkých platforem, umělé inteligence a evropského práva.