W sieci pojawiły się tysiące sfabrykowanych nagich zdjęć kobiet. Część z nich zawiera treści pedofilskie

Ubrania były cyfrowo usuwane ze zdjęć kobiet przez sztuczną inteligencję (AI) i rozpowszechniane w aplikacji do przesyłania wiadomości Telegram. Według raportu agencji wywiadowczej Sensity, niektóre z tych kobiet, których dotyczyły fałszywe zdjęcia, „wydają się niepełnoletnie”. Tymczasem prowadzący serwis stwierdzili, że to po prostu „rozrywka”. Sensity twierdzi, że zastosowana technologia to „deepfake bot”.

Deepfakes to generowane komputerowo, często realistyczne obrazy i wideo, oparte na prawdziwym szablonie. Jednym z jego zastosowań było tworzenie sfałszowanych pornograficznych klipów wideo z celebrytami. Jednak dyrektor generalny Sensity, Giorgio Patrini, powiedział, że przejście na wykorzystywanie zdjęć osób prywatnych jest stosunkowo nowe. – Posiadanie konta w mediach społecznościowych ze zdjęciami publicznymi wystarczy, aby stać się celem – mówi.

Bot oparty na sztucznej inteligencji działa w prywatnym kanale komunikacyjnym Telegrama. Użytkownicy mogą wysłać botowi zdjęcie kobiety, który cyfrowo zdejmie jej ubranie w ciągu kilku minut, bez żadnych kosztów.

BBC przetestowało wiele obrazów, wszystkie za zgodą badanych i żaden nie był w pełni realistyczny, w wynikach pojawiły się np. zdjęcia kobiet z pępkami na przeponie. Podobna aplikacja została zamknięta w zeszłym roku, ale uważa się, że w obiegu znajdują się zhakowane wersje oprogramowania.

Administrator prowadzący serwis, znany tylko jako „P”, powiedział BBC: - Nie obchodzi mnie to. To rozrywka, która nie niesie ze sobą przemocy. Nikt nie będzie nikogo tym szantażować, ponieważ jakość jest nierealistyczna”. Powiedział też, że zespół sprawdzi, jakie zdjęcia są udostępniane oraz, że „kiedy widzimy nieletnich, blokujemy użytkownika na dobre.

Decyzja o tym, czy udostępnić zdjęcie innym, zależy przede wszystkim od tego, kto użył bota do stworzenia tego zdjęcia – powiedział „P”. Broniąc niskiego poziomu szkody, dodał: „Są wojny, choroby, wiele złych rzeczy, które są bardziej szkodliwe na świecie”. Twierdził również, że wkrótce usunie wszystkie obrazy. Firma Telegram nie odpowiedziała na prośbę o komentarz.

Tymczasem firma Sensity poinformowała, że w okresie od lipca 2019 do 2020 roku około 104 852 kobiet zostało zaatakowanych i udostępniono publicznie ich fałszywe nagie zdjęcia. Dochodzenie wykazało, że niektóre obrazy wydawały się przedstawiać osoby nieletnie, „co sugeruje, że niektórzy użytkownicy używali bota głównie do generowania i udostępniania treści pedofilskich”.

Sensity oświadczyło, że bot miał znaczące reklamy na rosyjskim portalu społecznościowym VK, a ankieta na platformie wykazała, że większość użytkowników pochodziła z Rosji i krajów byłego ZSRR. Z kolei VK (rosyjski portal – odpowiednik Facebooka) oświadczył: - - Nie tolerujemy takich treści ani linków na platformie i blokujemy społeczności, które je rozpowszechniają”. Telegram był oficjalnie zakazany w Rosji jeszcze na początku tego roku. – Wiele z tych witryn i aplikacji nie ukrywa się ani nie działa w podziemiu, ponieważ nie są one surowo zakazane – mówi Giorgio Patrini z Sensity. – Dopóki to się nie stanie, obawiam się, że będzie tylko gorzej. Autorzy raportu twierdzą, że udostępnili wszystkie swoje ustalenia Telegramowi, VK i odpowiednim organom ścigania, ale nie otrzymali odpowiedzi.