USA – Sztuczna inteligencja, w tym ChatGPT i podobne, jest już od dawna częścią codziennego życia. Platforma społecznościowa X wprowadziła kilka miesięcy temu chatbota KI o nazwie „Grok”. Niestety coraz więcej użytkowników nadużywa go, generując seksualizowane obrazy kobiet i dzieci.

Powodem jest nowa funkcja chatbota, która pozwala na modyfikowanie obrazów.

Na przykład, gdy zamieszczony zostanie zwykły zdjęcie kobiety, użytkownicy mogą polecić sztucznej inteligencji, aby zdjęta osoba się rozebrała lub została przedstawiona w skąpych ubraniach – „Grok” podąża za takimi poleceniami i tworzy tzw. deepfake’i.

Nawet dzieci padają ofiarą tego niepokojącego „trendu”, jak donosi Spiegel.

W centrum uwagi nie znajdują się tylko osoby prywatne, ale także znane osobistości . Do ofiar zmanipulowanych obrazów AI należą m.in. gwiazda „Stranger Things” Sadie Sink (23), jej nieletnia koleżanka z serialu Nell Fisher (14) oraz piosenkarka Sabrina Carpenter (26).

W badaniu przeprowadzonym przez organizację „AI Forensics” wykazano, że spośród około 50 000 publicznych zapytań do „Grok” około 53 % wygenerowanych obrazów przedstawiało ludzi w odsłoniętej odzieży.

Większość tych poleceń wydaje się pochodzić od mężczyzn. Według badania około 80 % profili zostało sklasyfikowanych jako męskie.

Naukowcy oszacowali także wiek osób przedstawionych na obrazach przy użyciu systemu rozpoznawania twarzy opartego na SI. Dwa procent obrazów ukazywało osoby szacowane na wyraźnie poniżej 18 lat. Na około 30 zdjęciach podobno widoczne były także małe dzieci.

Ofiarami tych przedstawień są najczęściej przeciętni konsumenci. Zaledwie sześć procent analizowanych obrazów przedstawiało osoby znane publicznie.

Od kilku tygodni te obrazy zalewały platformę Elona Muska (54), a firma przez długi czas nie podejmowała żadnych działań.

W końcu konto chatbota przyznało błąd. Winne są niedociągnięcia w zabezpieczeniach. Rozpowszechnianie nielegalnych treści jest przestępstwem. Pracują nad naprawą.

W przeciwieństwie do tego założyciel Tesli początkowo wyśmiewał krytykę. Według BR24 kilkukrotnie odpowiadał na skargi śmieszącymi emotikonami lub sam generował zdjęcia w bikini.

Obecnie Musk wypowiedział się przeciwko generowanym zdjęciom: kto używa Grok do nielegalnych celów, musi liczyć się z konsekwencjami, powiedział 54‑letni.

Minister kultury i państwa Wolfram Weimer (61) wezwał kilka dni temu Komisję Europejską do podjęcia kroków prawnych przeciwko platformie, jak podał Reuters.

„To, co obecnie obserwujemy na X, przypomina industrializację molestowania seksualnego” – powiedział 61‑laty. Również francuski rząd rozpoczął już dochodzenie przeciwko platformie.