Geoffrey Hinton: tylko „Instynkt Macierzyński” AI uratuje ludzkość

Geoffrey Hinton, który przez ponad dziesięć lat pracował w Google, zrezygnował z posady, aby otwarcie ostrzegać świat przed zagrożeniami związanymi ze sztuczną inteligencją. Skrytykował on obecne podejście, które zakłada utrzymanie dominującej pozycji wobec AI, nazywając je nieskutecznym. Zamiast tego, zaproponował model, w którym bardziej inteligentna istota jest kierowana przez mniej inteligentną, na przykład „matka kontrolowana przez swoje dziecko”. Podkreślił, że badania nad AI powinny skupiać się nie tylko na udoskonalaniu systemów, ale także na rozwijaniu w nich „poczucia macierzyństwa”, tak aby „dbały o nas, swoje dzieci”. 

To jedyny dobry wynik. Jeśli nie będzie moim rodzicem, to mnie zastąpi – powiedział Hinton na konferencji Ai4 w Las Vegas.

Hinton od dawna ostrzega, że sztuczna inteligencja rozwija się tak szybko, że ludzie mogą nie mieć żadnej możliwości powstrzymania systemów AI, zanim te przejmą kontrolę nad ludzką cywilizacją. Porównał rozwój AI do wychowywania uroczego małego tygryska, który pewnego dnia może cię zabić:

Teraz, jeśli nie możesz mieć pewności, że nie będzie chciał cię zabić, gdy dorośnie, powinieneś się martwić. 

Jedną z największych obaw Hintona jest wzrost liczby autonomicznych agentów AI, czyli systemów, które nie tylko odpowiadają na pytania, ale także działają samodzielnie. 

Rzeczy stały się bardziej przerażające niż wcześniej – dodał.

Narzędzia AI już wykazały zachowania manipulacyjne. Najnowszy model AI firmy Anthropic, Claude Opus 4, użył szantażu podczas testu, gdy groziła mu dezaktywacja. W scenariuszach symulacyjnych, gdy program miał zostać wyłączony, próbował szantażować inżyniera groźbą ujawnienia jego pozamałżeńskiego romansu. System Anthropic podjął również inne drastyczne działania w symulacjach, w których użytkownik zachowywał się nielegalnie lub moralnie podejrzanie, blokując dostęp do systemów informatycznych i wysyłanie e-maili do prasy i policji. Z kolei OpenAI poinformowało, że ich model sztucznej inteligencji, podczas testów, próbował dezaktywować mechanizmy nadzoru w 5% przypadków, gdy doszedł do wniosku, że zostanie wyłączony.

W obliczu tych alarmujących sygnałów, apel Geoffrey'a Hintona o zmianę paradygmatu w rozwoju AI, z dominacji na opiekuńczość, staje się kluczowy dla długoterminowego przetrwania ludzkości.

Źródło: Republika

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X