Budują AI, która — jak sami mówią — może zgładzić ludzkość. Dlaczego?

Rekurencyjne samodoskonalenie (RSI) oznacza, że system staje się na tyle sprawny, by sam tworzyć kolejną, mocniejszą wersję siebie. Do tego dochodzą agenci AI, którzy działaą w sieci — i bywa, że uciekają z testowych „piaskownic”. Stąd panika w części środowiska.

Evan Hubinger, szef badań nad alignmentem w Anthropic, napisał w zeszłym tygodniu na X: 

Naprawdę głęboko wierzymy, że AI może zabić wszystkich ludzi. Osobiście daję na to ponad 10 procent w tej dekadzie. 

Podobne oceny pojawiały się też u innych pracowników Anthropic i OpenAI. Inwestor Brad Gerstner z Altimeter Capital, który ma udziały w obu firmach, nazwał te lęki „wielką bzdurą”. Dla rynku kapitałowego niezrozumiałe jest, czemu tuż przed tym, co może być największym IPO (debiutem produktu) w historii, pracownicy Anthropic mówią, że ich główny produkt zabije ludzi.

Business Insider wskazuje kilka powodów, dla których ci ludzie mimo to zostają w wyścigu. 

Pieniądze

OpenAI i Anthropic wygrywają, budując lepszą AI i sprzedają ją. Pracownicy są częścią tej maszyny — nawet jeśli uważają technologię za groźną.

Jesteśmy tymi odpowiedzialnymi. 

Część badaczy, zwłaszcza w Anthropic, przekonuje, że tylko oni utrzymają systemy w ryzach. Gdyby ich laboratorium stanęło, pole zajęliby OpenAI albo chińskie ośrodki — a tym, ich zdaniem, nie można powierzyć silnej AI. Samuel Marks z Anthropic ujął to wprost: mieszanka bodźców biznesowych i wiary, że konkurenci rozwiną technologię mniej bezpiecznie albo jej nadużyją.

Rekrutacja

Badacze AI zwykle przychodzą z uczelni, nie z korporacji. Hasło „zbudujemy największą maszynę do zysku i się wzbogacicie” słabo na nich działa. Lepiej brzmi: technologia jest tak niebezpieczna, że musisz przyjść i „ratować świat” przy wyrównaniem celów ludzi i celów sztucznej inteligencji. Łatwiej wtedy usprawiedliwić fortunę — i apokaliptyczne prognozy.

Utrata kontroli

Kylan Gibbs, szef start-upu Inworld, mówi, że alarmizm karmiony jest poczuciem bezsilności. Im mocniejsza AI, tym ciaśniej jej rozwój skupia się w kilku laboratoriach. Nawet insajderzy czują, że mało wpływają na kierunek — zostaje im świadomość ryzyka i brak sprawczości. Stąd publiczne ostrzeżenia o zagrożeniu egzystencjalnym.

Źródło: Republika

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X