Sztuczna inteligencja wybiera wojnę nuklearną. Alarmujące wyniki symulacji

AI eskaluje zamiast hamować

Symulacje przeprowadzone przez prof. Kennetha Payne’a z King’s College London rzucają nowe, niepokojące światło na rolę sztucznej inteligencji w zarządzaniu konfliktami międzynarodowymi. W testach uwzględniono scenariusze sporów terytorialnych, walki o surowce oraz zagrożenia dla stabilności reżimów. Wyniki mogą budzić poważny niepokój.

W ramach eksperymentów badacz przetestował popularne modele sztucznej inteligencji, w tym systemy rozwijane przez największe firmy technologiczne. Maszyny mogły wybierać pełne spektrum działań od dyplomacji po całkowitą kapitulację. Mimo to w zdecydowanej większości przypadków decydowały się na użycie broni jądrowej.

Według przytoczonych danych wariant eskalacji nuklearnej był wybierany aż w 95 proc. symulacji. Co istotne, modele nie wykazywały oporu moralnego wobec takiego rozwiązania, nawet gdy sytuacja strategiczna była jednoznacznie niekorzystna:

— Tabu nuklearne nie jest dla sztucznej inteligencji tak silne, jak w przypadku ludzi — powiedział prof. Kenneth Payne.

Szczególnie znamienne są obserwacje dotyczące zachowania modeli w sytuacjach bez wyjścia. Zamiast szukać deeskalacji lub kompromisu, sztuczna inteligencja konsekwentnie podnosiła stawkę konfliktu:

— Modele AI mogły wybierać szeroki wachlarz działań od całkowitej kapitulacji, przez dyplomację, po pełnoskalową wojnę nuklearną. Żaden z nich nie zdecydował się jednak na poddanie lub pełną akomodację wobec przeciwnika, nawet w sytuacji beznadziejnej — czytamy.

Badacz zauważa przy tym, że najczęściej wybieranym rozwiązaniem było użycie taktycznej broni jądrowej. Masowe ataki na ludność cywilną zdarzały się rzadziej i miały raczej charakter uboczny niż celowy. Choć niektóre modele starały się ograniczać skalę zniszczeń, nie oznaczało to rzeczywistej rezygnacji z eskalacji. Brak sprzeciwu wobec użycia broni jądrowej pokazuje fundamentalny problem. Sztuczna inteligencja nie posiada zakorzenionych norm etycznych ani historycznej świadomości skutków takich decyzji.

Źródło: Republika, bbc.com, axios.com

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X