Chatbot AI Elona Muska, Grok, wyłączył w piątek funkcję tworzenia obrazów dla niepłacących użytkowników X w związku z ostrymi reakcjami na jego wykorzystanie do tworzenia fałszywych fałszywych zdjęć kobiet i dzieci o charakterze seksualnym.
Narzędzia Groka do generowania i edycji obrazów, należące do Elona Muska i opracowane przez xAI, spotkały się z ostrą reakcją na platformie mediów społecznościowych X po tym, jak internauci wyrazili obawy dotyczące chatbota generującego nagie zdjęcia kobiet i dzieci.
Piżmowi grożono także karami finansowymi, a kilka krajów ostatnio publicznie sprzeciwiło się temu narzędziu w związku z tworzeniem przez nie obrazów o charakterze jednoznacznie seksualnym.
Odpowiadając użytkownikom na platformie X w mediach społecznościowych Muska, Grok napisał: „Generowanie i edytowanie obrazów jest obecnie ograniczone do płacących subskrybentów. Aby odblokować te funkcje, możesz wykupić subskrypcję”.
Zmiana oznacza, że wielu użytkowników narzędzia nie będzie już mogło generować ani edytować obrazów za pomocą sztucznej inteligencji. Płacący klienci muszą podać platformie dane swojej karty kredytowej i dane osobowe.
Komisja Europejska w tym tygodniu stwierdziła, że zdjęcia rozebranych kobiet i dzieci są niezgodne z prawem i w czwartek nakazała X zachować wszystkie wewnętrzne dokumenty i dane dotyczące Groka do końca 2026 r.
Według doniesień mediów premier Wielkiej Brytanii Keir Starmer powiedział, że X „musi się tym zająć” i oświadczył, że zwrócił się do organu regulacyjnego ds. komunikacji Ofcom, aby „rozważyły wszystkie opcje” – wynika z doniesień mediów. Nazwał te zdjęcia „niezgodnymi z prawem” i powiedział, że Wielka Brytania „nie będzie tego tolerować”. Francja, Malezja i Indie również skrytykowały platformę Muska w tej kwestii.
„Każdy, kto użyje Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak gdyby przesyłał nielegalne treści” – napisał Musk w zeszłym tygodniu na X w odpowiedzi na post dotyczący wulgarnych obrazów.
Na oficjalnym koncie X „Safety” podano później, że zajmuje się nielegalnymi treściami na X „poprzez ich usunięcie, trwałe zawieszenie kont i, w razie potrzeby, współpracę z samorządami lokalnymi i organami ścigania”.
Użytkownicy muszą teraz wykupić subskrypcję, aby uzyskać dostęp do funkcji generowania obrazów w X, które początkowo były udostępniane bezpłatnie z dziennymi limitami.
Użytkownicy mogą jednak bezpłatnie korzystać z funkcji generowania i edytowania obrazów Groka w osobnej aplikacji.
W grudniu 2025 r. na platformie X wybuchła kontrowersja po tym, jak przyłapano użytkowników na wykorzystywaniu narzędzi Groka do edycji i manipulowania zdjęciami, w tym do cyfrowego rozbierania ludzi, w tym dzieci, lub przedstawiania ich w minimalistycznych ubraniach, takich jak bikini.
Reuters, BBC i inne serwisy informacyjne również udokumentowały liczne przypadki, w których Grok generował zseksualizowane obrazy kobiet i nieletnich.
