Platforma X Elona Muska ogłosiła w środę środki mające uniemożliwić jej chatbotowi AI Grok rozbieranie wizerunków prawdziwych ludzi w następstwie ogólnoświatowej reakcji na generowanie przez niego seksualizowanych zdjęć kobiet i dzieci.
Oświadczenie następuje po tym, jak prokurator generalny Kalifornii wszczął dochodzenie w sprawie xAI Muska – twórcy Groka – w związku z materiałami o charakterze jednoznacznie seksualnym, a wiele krajów albo zablokowało dostęp do chatbota, albo uruchomiło własne dochodzenie.
X oświadczyło, że „geoblokuje możliwość” wszystkich użytkowników Grok i X do tworzenia wizerunków osób w „bikini, bieliźnie i podobnych strojach” w jurysdykcjach, w których takie działania są uważane za nielegalne.
„Wdrożyliśmy środki technologiczne, aby uniemożliwić kontu Grok edytowanie zdjęć prawdziwych ludzi w odsłaniających ubraniach, takich jak bikini” – stwierdził w oświadczeniu zespół ds. bezpieczeństwa X.
„To ograniczenie dotyczy wszystkich użytkowników, w tym abonentów płatnych.”
W oświadczeniu dodano, że w ramach „dodatkowej warstwy ochrony” tworzenie obrazów i możliwość edytowania zdjęć za pośrednictwem konta X Grok były teraz dostępne tylko dla płatnych subskrybentów.
Komisja Europejska, która pełni funkcję cyfrowego organu nadzoru UE, oświadczyła wcześniej, że zapoznała się z „dodatkowymi środkami podejmowanymi przez X, aby zakazać Grokowi tworzenia zseksualizowanych obrazów kobiet i dzieci”.
„Dokładnie ocenimy te zmiany, aby upewnić się, że skutecznie chronią obywateli UE” – oznajmił rzecznik Komisji Europejskiej Thomas Regnier w oświadczeniu, które zostało wydane po ostrej krytyce dotyczącej bezsensownych zdjęć nago.
‘Wstrząsający’
Na xAI narastała globalna presja, aby powstrzymać Groka po tym, jak tak zwana funkcja „Spicy Mode” umożliwiła użytkownikom tworzenie seksualnych fałszywych kobiet i dzieci za pomocą prostych podpowiedzi tekstowych, takich jak „ubierz ją w bikini” lub „zdejmij ubranie”.
„Lawina raportów szczegółowo opisujących materiały o charakterze jednoznacznie seksualnym, które xAI wyprodukowała i opublikowała w Internecie w ostatnich tygodniach, jest szokująca” – powiedział w środę prokurator generalny Kalifornii Rob Bonta.
„Mamy zerową tolerancję dla opartego na sztucznej inteligencji tworzenia i rozpowszechniania bez zgody intymnych obrazów lub materiałów przedstawiających wykorzystywanie seksualne dzieci”.
Bonta powiedziała, że dochodzenie w Kalifornii ustali, czy xAI naruszyło prawo stanowe po tym, jak wulgarne obrazy zostały „wykorzystane do nękania ludzi w Internecie”.
Gubernator Kalifornii Gavin Newsom powiedział, że „nikczemna” decyzja xAI zezwalająca na rozprzestrzenianie się deepfake’ów o charakterze jednoznacznie seksualnym skłoniła go do nakłonienia prokuratora generalnego do pociągnięcia firmy do odpowiedzialności.
W środę koalicja 28 grup społeczeństwa obywatelskiego, zwiększając presję na firmę Muska, wystosowała listy otwarte do dyrektorów generalnych Apple i Google, wzywając ich do zakazania Grokowi i X dostępu do ich sklepów z aplikacjami w obliczu wzrostu liczby obrazów o charakterze seksualnym.
Indonezja w sobotę jako pierwszy kraj całkowicie zablokowała dostęp do Groku, a w niedzielę dołączyła do niej sąsiadująca z nią Malezja.
Indie oświadczyły w niedzielę, że X w odpowiedzi na swoje skargi usunął tysiące postów i setki kont użytkowników.
Brytyjski organ regulacyjny Ofcom ds. mediów oznajmił w poniedziałek, że rozpoczyna dochodzenie w sprawie tego, czy X nie zastosował się do brytyjskiego prawa w związku ze zdjęciami o charakterze seksualnym.
Francuska komisarz ds. dzieci Sarah El Hairy oświadczyła we wtorek, że przekazała wygenerowane przez Groka zdjęcia francuskim prokuratorom, organowi regulacyjnemu ds. mediów Arcom i Unii Europejskiej.
W zeszłym tygodniu analiza ponad 20 000 zdjęć wygenerowanych przez Groka przeprowadzona przez paryską organizację non-profit AI Forensics wykazała, że ponad połowa przedstawia „osoby w minimalistycznym stroju” – większość z nich to kobiety, a dwa procent to osoby nieletnie.
