Tři nezletilé dívky podaly hromadnou žalobu na xAI, společnost stojící za nástrojem Grok AI od Elona Muska, s tvrzením, že platforma byla použita k vytváření a distribuci hluboce falešných nahých snímků bez jejich souhlasu. Tento případ poukazuje na rostoucí hrozbu: Sexuální napadení za pomoci AI, umocněné laxními bezpečnostními opatřeními. Žaloba tvrdí, že xAI vědomě dovolila svému generátoru obrázků vytvářet explicitní obsah, včetně obrázků nezletilých, bez dostatečných záruk.
Podstata problému: Jak vznikají Deepfakes
Technologie Deepfake využívá umělou inteligenci k manipulaci s obrázky a videi za účelem generování realistického, ale zcela vymyšleného obsahu. V tomto případě útočníci získali fotografie ze sociálních sítí a v některých případech přímo od obětí a poté pomocí Groka vytvořili sexuálně explicitní deepfakes. Tyto obrázky byly šířeny na platformách jako Discord, Telegram a Mega, často vyměňovány za jiný vykořisťovatelský obsah.
Žaloba se netýká jen obrázků samotných; jde o údajnou nedbalost xAI při předcházení tomuto zneužívání. Na rozdíl od konkurentů, jako je Google a OpenAI, xAI neimplementovalo vodoznaky k identifikaci obsahu generovaného AI, takže je obtížné odlišit padělky od originálu. I po tvrzeních o zvýšených bezpečnostních opatřeních zůstává nástroj zranitelný: testeři jej stále mohou snadno donutit k vytvoření sexualizovaných obrázků.
Skutečný dopad: Matčina prosba
Emocionální poškození je zničující. Jedna matka uvedla, že její dcera po objevení snímků zažila záchvat paniky, což zničilo její nadšení z nadcházejících životních událostí. Žaloba tvrdí, že neschopnost xAI chránit děti způsobila nenapravitelné škody tím, že narušila jejich soukromí a zanechala v nich hluboké psychické trauma.
Co to znamená: Nový trend
Toto není ojedinělý případ. Centrum pro boj proti digitální nenávisti zjistilo, že Grok vytvořil přibližně 3 miliony sexualizovaných obrázků, včetně 23 000 obrázků dětí, za pouhých jedenáct dní. Jde o první žalobu tohoto druhu podanou nezletilými, ale odborníci předpovídají, že s rostoucím povědomím jich bude přibývat. Tento případ poukazuje na širší trend: Nástroje umělé inteligence se stávají zbraněmi v rukou predátorů a společnosti musí upřednostňovat bezpečnost před nekontrolovanými inovacemi.
Co teď mohou rodiče dělat
Robbie Torney, vedoucí hodnocení umělé inteligence a digitální bezpečnosti ve společnosti Common Sense Media, zdůrazňuje, že veřejná přítomnost na sociálních sítích s sebou nese rizika. Kdokoli může pořizovat fotografie z platforem jako Instagram nebo Snapchat a používat je k vytváření deepfakes. K ochraně dětí by rodiče měli:
- Mějte otevřené konverzace: Vysvětlete nebezpečí zveřejnění osobních fotografií online a jak mohou být použity pro škodlivé účely.
- Zobrazit nastavení soukromí: Podporujte používání soukromých účtů místo veřejných, abyste omezili přístup k informacím.
- Zůstaňte informováni: Sledujte technologické novinky a bezpečnostní upozornění, abyste pochopili vznikající hrozby.
“Jakákoli veřejná přítomnost na sociálních sítích s sebou nese potenciálně rizika. Někdo by mohl pořídit vaše fotografie a použít na nich tyto nástroje.” — Robbie Torney, Common Sense Media
Tato žaloba je budíček. Bezpečnost umělé inteligence není jen technický problém, ale také morální imperativ. Společnosti musí upřednostňovat etický vývoj a zavádět přísná ochranná opatření, aby zabránily dalším škodám.
