Szef OpenAI ostrzega: ludzkość może stracić kontrolę nad AI
Szef OpenAI Sam Altman przedstawił najpełniejsze jak dotąd uzasadnienie, dlaczego branża sztucznej inteligencji powinna spowolnić rozwój najbardziej zaawansowanych modeli. Ostrzegł, że niekontrolowany postęp może doprowadzić do utraty kontroli nad przyszłością na rzecz AI albo do skupienia ogromnej władzy w rękach jednej osoby lub firmy. Wezwał do federalnych standardów bezpieczeństwa, ale zastrzegł, że „spowolnienie” nie oznacza zatrzymania prac.
Szef OpenAI Sam Altman ostrzegł, że rozwój sztucznej inteligencji może potoczyć się „bardzo źle” na dwa sposoby: ludzkość może stracić kontrolę nad przyszłością na rzecz systemów AI albo potężna technologia może trafić w ręce jednego człowieka, jednej firmy lub jednego państwa.
To niedopuszczalne. Jesteśmy bezwzględnie po stronie ludzkości, a AI zawsze musi służyć ludziom — napisał.
Jego wypowiedź wpisuje się w rzadkie zbliżenie stanowisk konkurentów. Wcześniej analogiczny apel o „wstrzymanie tempa” na froncie AI ogłosił szef Anthropic Dario Amodei. Poparli go Altman i Elon Musk.
Amodei argumentuje, że od tego lata modele rozwijają się wyraźnie szybciej, m.in. dlatego, że same systemy AI coraz mocniej pomagają budować kolejne, jeszcze sprawniejsze wersje. Bez kontroli proces ten może wyprzedzić zdolność ludzi do rozumienia i nadzorowania tych systemów. Altman podkreśla jednak granicę:
Kiedy mówimy o «pacingu», nie mamy na myśli zatrzymania. Postęp był szybki i nadal taki będzie. Ale powinien być wolniejszy, niż mógłby być.
OpenAI zapowiada, że przed kolejnymi dużymi skokami możliwości będzie przygotowywać formalne „sprawy bezpieczeństwa” (safety cases) i popiera niezależnych audytorów z dostępem porównywalnym do tego, jaki mają pracownicy laboratoriów. Firma deklaruje, że nie musi czekać na ustawę ani na zwolnienie antymonopolowe, by zacząć. Jednocześnie Altman „wita” federalne ramy, które ujednoliciłyby wymagania wobec wszystkich laboratoriów tworzących modele graniczne.
Jednym z kluczowych lęków jest rekurencyjne samodoskonalenie: AI pomaga budować następną generację AI, a ta kolejną. Altman uważa, że warto ponieść koszt wolniejszego tempa, by mechanizmy dostrojenia celów i monitoringu nie zostały w tyle za możliwościami modeli.
Żadna amerykańska presja konkurencyjna nie powinna usprawiedliwiać lekkomyślności ani pozwalać, by możliwości wyprzedziły wyrównanie celów i monitoring — napisał.
Największą przeszkodą pozostaje geopolityka. Amodei przyznaje, że globalny „limit prędkości” będzie bardzo trudny do narzucenia, bo korzyści gospodarcze i militarne z dominacji w AI są ogromne. Altman twierdzi, że branża powinna najpierw zrobić to, co może sama, a wsparcie rządu USA będzie potrzebne przede wszystkim do koordynacji międzynarodowej. Prezydent Donald Trump odrzucił ideę spowolnienia, argumentując, że mogłoby to zagrozić przewadze Stanów Zjednoczonych nad Chinami. Wezwania szefów laboratoriów wywołały też niepokój inwestorów — akcje spółek powiązanych z AI spadały.
Źródło: Republika
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
