Brytyjski organ regulacyjny ds. mediów wszczął w poniedziałek dochodzenie w sprawie X Elona Muska, aby ustalić, czy deepfakes o charakterze seksualnym produkowane przez chatbota Grok AI naruszyły swój obowiązek ochrony obywateli Wielkiej Brytanii przed treściami, które mogą być nielegalne.
„Pojawiły się głęboko niepokojące doniesienia o tym, że konto chatbota Grok AI na platformie X jest wykorzystywane do tworzenia i udostępniania zdjęć nagich ludzi, co może oznaczać wykorzystywanie wizerunku intymnego lub pornografię, a także zdjęć dzieci o charakterze seksualnym, które mogą stanowić materiały przedstawiające wykorzystywanie seksualne dzieci” – stwierdził Ofcom w oświadczeniu.
Organ regulacyjny znajduje się pod presją, aby podjąć działania po tym, jak premier Wielkiej Brytanii Keir Starmer stwierdził, że zdjęcia wyprodukowane przez Groka są „obrzydliwe” i „niezgodne z prawem”.
Zapytany w poniedziałek o komentarz w sprawie wszczęcia formalnego śledztwa, X wskazał na wcześniejsze oświadczenie, w którym stwierdził, że podejmuje działania przeciwko nielegalnym treściom na platformie – w tym materiałom przedstawiającym wykorzystywanie seksualne dzieci – poprzez ich usunięcie, trwałe zawieszenie kont i, w razie potrzeby, współpracę z samorządami lokalnymi i organami ścigania.
„Każdy, kto używa Groka do tworzenia nielegalnych treści lub namawia go do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak w przypadku przesyłania nielegalnych treści” – stwierdzono.
Obrazy Groka są obrzydliwe: Starmer
Organ regulacyjny znajduje się pod presją, aby podjąć działania po tym, jak premier Wielkiej Brytanii Keir Starmer stwierdził w czwartek, że zdjęcia wyprodukowane przez Groka są „obrzydliwe” i „niezgodne z prawem”.
Starmer powiedział, że Musk X musiał „złapać kontrolę” nad Grokiem.
Zapytany w poniedziałek, czy X mógłby zostać zakazany, sekretarz ds. biznesu Peter Kyle odpowiedział: „Tak, oczywiście”, zauważył jednak, że uprawnienia w tym zakresie posiada Ofcom.
Tworzenie lub udostępnianie bez zgody zdjęć intymnych lub materiałów przedstawiających wykorzystywanie seksualne dzieci, w tym obrazów seksualnych generowanych przez sztuczną inteligencję, jest nielegalne w Wielkiej Brytanii.
Ponadto platformy technologiczne muszą zapobiegać kontaktom brytyjskich użytkowników z nielegalnymi treściami i usuwać je, gdy tylko się o nich dowiedzą.
X spotkał się z potępieniem w innych krajach za ten film, który może przedstawiać kobiety i nieletnich w skąpych ubraniach.
Francuscy urzędnicy zgłosili X prokuratorom i organom regulacyjnym, nazywając treści „jawnie nielegalnymi”, natomiast władze indyjskie również zażądały wyjaśnień.
Firma X oświadczyła, że ograniczyła prośby o rozbieranie osób na zdjęciach do użytkowników płacących.
Zapytany niedawno o ten temat, xAI powiedział agencji Reuters: „Legacy Media Lies”.
Ofcom zbada, czy X nie ocenił ryzyka, że ludzie w Wielkiej Brytanii zobaczą nielegalne treści i czy wziął pod uwagę ryzyko dla dzieci.
Ofcom stwierdził, że w najpoważniejszych przypadkach nieprzestrzegania przepisów może zwrócić się do sądu o nakazanie „dostawcom usług płatniczych lub reklamodawcom wycofania swoich usług z platformy” lub nakłonienie dostawców usług internetowych do zablokowania dostępu do witryny w Wielkiej Brytanii.
X nie odpowiedział natychmiast na prośbę o komentarz w sprawie dochodzenia Ofcom.
Brytyjska minister technologii Liz Kendall z zadowoleniem przyjęła dochodzenie Ofcom.
„Ważne jest, aby Ofcom szybko zakończyło dochodzenie, ponieważ opinia publiczna, a co najważniejsze, ofiary nie zaakceptują żadnych opóźnień” – stwierdziła Kendall w oświadczeniu.
„Treści tworzone i udostępniane za pomocą Groka w ostatnich dniach były głęboko niepokojące” – stwierdziła, dodając, że w poniedziałek poinformuje parlament.
