To już nie jest science fiction: AI oszukuje nas klonowaniem głosu i wyglądem znanych nam osób

Deepfake - materiały cyfrowe, przetworzone przy pomocy AI, przestały być zjawiskiem kojarzonym wyłącznie z internetową rozrywką czy aferami politycznymi. Z raportu ESET i DAGMA Bezpieczeństwo IT wynika, że 23 proc. Polaków spotkało się na służbowym sprzęcie z realną próbą oszustwa wykorzystującego cyfrowo sklonowany głos lub wizerunek osoby, którą znają.

Skalę rosnącego problemu ilustruje m. in. przykład Google Earth. "Firma zintegrowała ze swoją platformą generator obrazów Nano Banana 2, pozwalający tworzyć fikcyjne obrazy na bazie prawdziwych zdjęć satelitarnych, lotniczych i modeli 3D. Jak podaje BBC, dziennikarze z zespołu BBC Verify byli w stanie wygenerować m.in. zawaloną Wieżę Eiffla, a Google przyznał, że zauważył użytkowników udostępniających zrzuty ekranu z treściami, które wydają się naruszać zasady platformy. Niespełna 48 godzin po ogłoszeniu integracji Google wstrzymał funkcję, tłumacząc to pracami nad wdrożeniem "silniejszych zabezpieczeń". Pokazuje to, że problem odróżnienia prawdy od fałszu generowanego przez AI dotyczy już nie tylko pojedynczych ofiar phishingu, ale całych ekosystemów, w których użytkownicy ufają źródłom danych uznawanym za wiarygodne", opisuje portal INFOR, który jako pierwszy przedstawił raport "Cyberportret polskiego biznesu".

Obraz jaki rodzi się z raportu jest bardzo niepokojący. 70 proc. badanych nie jest w pełni przekonanych, że są w stanie odróżnić treść stworzoną przez AI od treści rzeczywistej. Nawet osoby, które wiedzą, co oznacza deepfake, nie czują się kompetentne, by go rozpoznać w praktyce - w edekcie: 57 proc. pracowników liczy się z możliwością kradzieży tożsamości za pomocą ataków wspieranych przez AI.

"Zbliżamy się do momentu, gdy głos rozmówcy po drugiej stronie telefonu może być cyfrowym klonem. Niezależnie od poziomu zaawansowania technologii zasada pozostaje ta sama: każde działanie mające wpływ na bezpieczeństwo danych należy potwierdzić u źródła", mówi Dawid Koziorowski z DAGMA Bezpieczeństwo IT (cytat za INFOR).

Czy wprowadzone 2 sierpnia tego roku regulacje unijne - tzw. AI Act - zapobiegną cyfrowemu niebezpieczeństwu? Wątpliwe. Nałożenie obowiązku oznaczania treści wygenerowanych przez algorytmy oraz podwyższone wymogi transparentności dla systemów tworzących deepfaki, raczej nie ograniczy działalności cyberprzestępców. "Realny wpływ regulacji może być raczej pośredni: częstszy kontakt z widocznym oznaczeniem "treść wygenerowana przez AI", a także towarzysząca przepisom publiczna dyskusja, mogą stopniowo budować czujność użytkowników – zwłaszcza tej ponad połowy, która dziś nie zna nawet pojęcia deepfake. To jednak proces długofalowy, a zdaniem ekspertów kluczem pozostaje edukacja i codzienne nawyki w organizacjach", podkreśla INFOR.

Portal zwraca uwagę, iż AI Act moę wymusić większą transparentność po stronie dostawców technologii, ale nie zastąpi ludzkiej czujności.

Źródło: INFOR, DAGMA

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X