Ekspert AI rezygnuje: Te systemy stają się nadludzkie i mogą wymknąć się spod kontroli
Brytyjski matematyk Jacob Coxon, 27 lat, ogłosił odejście z Anthropic i z całej branży sztucznej inteligencji. Twierdzi, że żadna firma nie jest w stanie odpowiedzialnie rozwijać coraz potężniejszych modeli bez interwencji państw. Ostrzega, że systemy AI zmierzają w stronę superinteligencji zdolnej do samodzielnego doskonalenia się.
Jacob Coxon ogłosił swoją decyzję we wtorek w serii siedmiu wpisów na platformie X. W niecałe dwie godziny zebrane przez nie wyświetlenia przekroczyły dwa miliony. Główny zarzut sformułował krótko: ani OpenAI, ani Anthropic — jego dwaj byli pracodawcy — nie działają odpowiedzialnie. Obie firmy, jego zdaniem, pędzą ku superinteligencji, która będzie mogła sama się ulepszać i wpływać na ludzkie życie.
Coxon, z wykształcenia matematyk, pracował przy trenowaniu nowych modeli na ogromnych zbiorach danych. Był więc w samym centrum procesu. Jak opowiadał „The Wall Street Journal”, koledzy coraz częściej używają słów „crunchtime” i „endgame”. Sam badacz idzie dalej:
Zmierzamy ku najbardziej ekstremalnym scenariuszom. Do końca przyszłego roku sytuacja może wymknąć się spod kontroli.
W jego ocenie wyścig laboratoriów amerykańskich z chińskimi nieuchronnie prowadzi do kompromisów w kwestii bezpieczeństwa. Na X napisał:
Nie lekceważcie mocy tej technologii. Te systemy wkrótce staną się nadludzkie. Będą potrafiły włamywać się praktycznie wszędzie, z dnia na dzień rewolucjonizować całe dziedziny i zdobywać realną władzę oraz zasoby.
Jeszcze ostrzej brzmi kolejny fragment:
Ludzie, którzy budują AI, naprawdę wierzą, że do końca dekady może nas wszystkich zabić. To nie jest chwyt marketingowy.
Publicznie szefowie i doświadczeni badacze dobierają słowa tak, by brzmieć rozsądnie. Prywatnie — według Coxona — „wyrażają strach”. Pytanie, które zadaje, jest proste: jeśli naprawdę w to wierzą, po co dalej to budują?
Na początku roku Coxon odszedł z OpenAI właśnie do Anthropic, licząc na większą dbałość o bezpieczeństwo. Teraz ocenia, że wysiłki Anthropic są szczere, ale niewystarczające. Jego zdaniem żadna prywatna firma nie jest w stanie odpowiedzialnie stworzyć sztucznej inteligencji ogólnej (AGI) bez regulacji państwowych albo skoordynowanego spowolnienia prac.
Według „Wall Street Journal” to jeden z pierwszych przypadków, gdy pracownik Anthropic odchodzi właśnie z powodu obaw o bezpieczeństwo AI. Wcześniej inny badacz zrezygnował, by zająć się poezją.
Coxon kończy krótko:
Świat jest w niebezpieczeństwie.
Źródło: Republika
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
