W poniedziałek Unia Europejska (UE) zwróciła się do platformy społecznościowej Elona Muska X z dochodzeniem w sprawie generowania przez sztuczną inteligencję chatbota Groka fałszywych obrazów kobiet i nieletnich o charakterze seksualnym, co stanowi najnowszy etap międzynarodowego sprzeciwu wobec tego narzędzia.
Grok spotkała się z oburzeniem, gdy wyszło na jaw, że użytkownicy mogą seksualizować zdjęcia kobiet i dzieci za pomocą prostych poleceń tekstowych, takich jak „załóż ją w bikini” lub „zdejmij ubranie”.
„W Europie nie będziemy tolerować zachowań nie do pomyślenia, takich jak cyfrowe rozbieranie kobiet i dzieci” – powiedziała szefowa Komisji Europejskiej Ursula von der Leyen.
„To proste – nie oddamy zgody i ochrony dzieci firmom technologicznym, aby naruszały prawa i zarabiały na nich.
Szkody wyrządzone przez nielegalne obrazy są bardzo realne” – stwierdziła w oświadczeniu dla AFP.
Unijna komisarz ds. technologii Henna Virkkunen powiedziała, że dochodzenie „ustali, czy X wywiązał się ze swoich obowiązków prawnych” wynikających z unijnej ustawy o usługach cyfrowych (DSA), która ma na celu nadzorowanie gigantów internetowych.
Powiedziała, że prawa kobiet i dzieci w UE nie powinny być „szkodą uboczną” usług X.
Bruksela oświadczyła, że bada, czy X odpowiednio złagodził „ryzyko związane z rozpowszechnianiem nielegalnych treści w UE, takich jak zmanipulowane obrazy o charakterze jednoznacznie seksualnym, w tym treści, które mogą stanowić materiały przedstawiające wykorzystywanie seksualne dzieci”.
Trzy miliony obrazów
Według badań opublikowanych w czwartek przez Center for Countering Digital Hate (CCDH), organizację non-profit, Grok w ciągu kilku dni wygenerował około trzech milionów zdjęć kobiet i dzieci o charakterze seksualnym.
W ramach nowego dochodzenia UE stwierdziła, że rozszerza istniejące dochodzenie w sprawie X, którego celem jest rozwiązanie problemu rozpowszechniania nielegalnych treści i manipulacji informacjami.
Platforma mediów społecznościowych Muska, wcześniej znana jako Twitter, jest od grudnia 2023 r. przedmiotem dochodzenia na podstawie unijnych przepisów dotyczących treści cyfrowych.
W grudniu Bruksela nałożyła na X grzywnę w wysokości 120 milionów euro (140 milionów dolarów) za naruszenie obowiązków DSA w zakresie przejrzystości, co wywołało gniewną reakcję administracji prezydenta USA Donalda Trumpa.
Naruszenia obejmowały zwodnicze zaprojektowanie „niebieskiego znacznika wyboru” dla rzekomo zweryfikowanych kont oraz niezapewnienie badaczom dostępu do publicznych danych.
UE upierała się, że będzie egzekwować swoje zasady pomimo nacisków ze strony Waszyngtonu.
Spór dotyczący regulacji technologicznych pojawia się, gdy blok zmaga się z administracją Trumpa na wielu innych frontach – od wojny na Ukrainie po handel z Grenlandią.
