Szczegóły z raportu Anthropic. Tak wrogowie USA używali Claude'a
Anthropic ostrzega, że państwowa inwigilacja wchodzi w codzienną fazę automatyzacji. W raporcie o zagrożeniach firma pisze, że osoby powiązane z władzami Chin, Mali i Iranu używały modeli Claude do analizy danych, tworzenia teczek i wskazywania celów nadzoru. Bariera wejścia dla rządów, które chcą śledzić dysydentów, dziennikarzy i aktywistów, maleje wraz z mocą modeli AI. Sztuczna inteligencja nie zmienia zasadniczo tego, kogo państwa biorą na cel. Zmienia natomiast tempo, koszt i skalę pracy.
Jacob Klein, szef wywiadu zagrożeń w Anthropic, powiedział Axios, że AI pozwala pojedynczym urzędnikom i kontraktorom automatyzować zadania, które wcześniej wymagały całych zespołów analityków.
W praktyce automatyzują części pracy aparatu wywiadowczego – dodał.
Najwyraźniejszy przykład pochodzi z Mali. Jeden konsultant, według firmy związany z państwową służbą wywiadu ANSE, użył Claude’a jako głównego narzędzia inżynierskiego do budowy platformy Lakana 360. System miał monitorować dane związane z około 25 milionami kart SIM u trzech krajowych operatorów komórkowych, omijać wymóg nakazu sądowego przy ujawnianiu części rekordów i składać teczki na wskazany numer telefonu. Anthropic zablokowało konto, ale platforma działała już lokalnie na innych modelach, więc zakaz nie wyłączył wdrożonego systemu.
W Chinach służba wywiadu ds. spraw religijnych miała – według raportu – zejść z „wielu zespołów analityków” do „jednego biura z asystentem AI”, które produkuje tysiące śledztw miesięcznie. Władze chińskie wykorzystywały Claude’a także do oceny, jak politycznie wrażliwe są wpisy w mediach społecznościowych, i do selekcji osób do „kontroli”: przesłuchań, bliższego śledzenia przemieszczeń i komunikacji. Inne przypadki dotyczyły m.in. monitorowania społeczności diaspory, w tym aktywistów z Hongkongu oraz społeczności tybetańskich i Falun Gong.
W Iranie Anthropic zidentyfikowało jednostki powiązane z paramilitarnymi i wewnętrznymi służbami bezpieczeństwa. Aktorzy używali Claude’a do budowy i wdrożenia złośliwego rozszerzenia Firefox, które zbierało tożsamości użytkowników z sieci społecznościowych, oraz do narzędzi profilujących opozycję i diasporę.
W czerwcu firma zablokowała też konto, które budowało komercyjną platformę nadzoru na Iran i Zatokę Perską – zanim system ruszył operacyjnie. Wszystkie opisane przypadki inwigilacji dotyczyły modeli Haiku, Sonnet i Opus, a nie nowszych klas Fable i Mythos. Anthropic twierdzi, że zablokowało powiązane konta i wzmocniło zabezpieczenia. Klein zaznacza jednak, że po utrudnieniu dostępu część aktorów przechodzi na modele open source.
Państwa autorytarne używają dziś AI do nadzoru, represji i operacji wpływu. To już nie jest hipoteza – podsumował.
Źródło: Republika
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
Najnowsze
Nieudane interwencje poselskie na policji. „Ten facet nie odpowiedział na żadne pytanie"
Papież Leon XIV wraca do zdrowia po operacji nowotworu. Lekarz ujawnia szczegóły
Macierewicz wzywa do wielkiej mobilizacji Polaków przed Marszem Niepodległości. „Niech nas będzie milion ludzi!”
