Ekspert AI rezygnuje: Te systemy stają się nadludzkie i mogą wymknąć się spod kontroli

Jacob Coxon ogłosił swoją decyzję we wtorek w serii siedmiu wpisów na platformie X. W niecałe dwie godziny zebrane przez nie wyświetlenia przekroczyły dwa miliony. Główny zarzut sformułował krótko: ani OpenAI, ani Anthropic — jego dwaj byli pracodawcy — nie działają odpowiedzialnie. Obie firmy, jego zdaniem, pędzą ku superinteligencji, która będzie mogła sama się ulepszać i wpływać na ludzkie życie.

Coxon, z wykształcenia matematyk, pracował przy trenowaniu nowych modeli na ogromnych zbiorach danych. Był więc w samym centrum procesu. Jak opowiadał „The Wall Street Journal”, koledzy coraz częściej używają słów „crunchtime” i „endgame”. Sam badacz idzie dalej: 

Zmierzamy ku najbardziej ekstremalnym scenariuszom. Do końca przyszłego roku sytuacja może wymknąć się spod kontroli.

W jego ocenie wyścig laboratoriów amerykańskich z chińskimi nieuchronnie prowadzi do kompromisów w kwestii bezpieczeństwa. Na X napisał: 

Nie lekceważcie mocy tej technologii. Te systemy wkrótce staną się nadludzkie. Będą potrafiły włamywać się praktycznie wszędzie, z dnia na dzień rewolucjonizować całe dziedziny i zdobywać realną władzę oraz zasoby.

Jeszcze ostrzej brzmi kolejny fragment: 

Ludzie, którzy budują AI, naprawdę wierzą, że do końca dekady może nas wszystkich zabić. To nie jest chwyt marketingowy. 

Publicznie szefowie i doświadczeni badacze dobierają słowa tak, by brzmieć rozsądnie. Prywatnie — według Coxona — „wyrażają strach”. Pytanie, które zadaje, jest proste: jeśli naprawdę w to wierzą, po co dalej to budują?

Na początku roku Coxon odszedł z OpenAI właśnie do Anthropic, licząc na większą dbałość o bezpieczeństwo. Teraz ocenia, że wysiłki Anthropic są szczere, ale niewystarczające. Jego zdaniem żadna prywatna firma nie jest w stanie odpowiedzialnie stworzyć sztucznej inteligencji ogólnej (AGI) bez regulacji państwowych albo skoordynowanego spowolnienia prac.

Według „Wall Street Journal” to jeden z pierwszych przypadków, gdy pracownik Anthropic odchodzi właśnie z powodu obaw o bezpieczeństwo AI. Wcześniej inny badacz zrezygnował, by zająć się poezją.

Coxon kończy krótko: 

Świat jest w niebezpieczeństwie.

Źródło: Republika

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X