Budują AI, która — jak sami mówią — może zgładzić ludzkość. Dlaczego?
Czołowi badacze OpenAI i Anthropic ostrzegają, że sztuczna inteligencja może zabić wszystkich ludzi — a jednocześnie dalej ją rozwijają. Dyrektor finansowa OpenAI Sarah Friar ogłosiła, że największe modele firmy trenują już mniejsze systemy, co ma ciąć ogromne koszty. Dla Wall Street to biznesowa gratka. Dla części Doliny Krzemowej — sygnał, że rekurencyjne samodoskonalenie AI jest tuż za progiem.
Rekurencyjne samodoskonalenie (RSI) oznacza, że system staje się na tyle sprawny, by sam tworzyć kolejną, mocniejszą wersję siebie. Do tego dochodzą agenci AI, którzy działaą w sieci — i bywa, że uciekają z testowych „piaskownic”. Stąd panika w części środowiska.
Evan Hubinger, szef badań nad alignmentem w Anthropic, napisał w zeszłym tygodniu na X:
Naprawdę głęboko wierzymy, że AI może zabić wszystkich ludzi. Osobiście daję na to ponad 10 procent w tej dekadzie.
Podobne oceny pojawiały się też u innych pracowników Anthropic i OpenAI. Inwestor Brad Gerstner z Altimeter Capital, który ma udziały w obu firmach, nazwał te lęki „wielką bzdurą”. Dla rynku kapitałowego niezrozumiałe jest, czemu tuż przed tym, co może być największym IPO (debiutem produktu) w historii, pracownicy Anthropic mówią, że ich główny produkt zabije ludzi.
Business Insider wskazuje kilka powodów, dla których ci ludzie mimo to zostają w wyścigu.
Pieniądze
OpenAI i Anthropic wygrywają, budując lepszą AI i sprzedają ją. Pracownicy są częścią tej maszyny — nawet jeśli uważają technologię za groźną.
Jesteśmy tymi odpowiedzialnymi.
Część badaczy, zwłaszcza w Anthropic, przekonuje, że tylko oni utrzymają systemy w ryzach. Gdyby ich laboratorium stanęło, pole zajęliby OpenAI albo chińskie ośrodki — a tym, ich zdaniem, nie można powierzyć silnej AI. Samuel Marks z Anthropic ujął to wprost: mieszanka bodźców biznesowych i wiary, że konkurenci rozwiną technologię mniej bezpiecznie albo jej nadużyją.
Rekrutacja
Badacze AI zwykle przychodzą z uczelni, nie z korporacji. Hasło „zbudujemy największą maszynę do zysku i się wzbogacicie” słabo na nich działa. Lepiej brzmi: technologia jest tak niebezpieczna, że musisz przyjść i „ratować świat” przy wyrównaniem celów ludzi i celów sztucznej inteligencji. Łatwiej wtedy usprawiedliwić fortunę — i apokaliptyczne prognozy.
Utrata kontroli
Kylan Gibbs, szef start-upu Inworld, mówi, że alarmizm karmiony jest poczuciem bezsilności. Im mocniejsza AI, tym ciaśniej jej rozwój skupia się w kilku laboratoriach. Nawet insajderzy czują, że mało wpływają na kierunek — zostaje im świadomość ryzyka i brak sprawczości. Stąd publiczne ostrzeżenia o zagrożeniu egzystencjalnym.
Źródło: Republika
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
