Przejdź do treści
16:52 Porażka Waldemara Żurka. Kolegium Sądu Okręgowego w Gdańsku sprzeciwiło się decyzji ministra sprawiedliwości Waldemara Żurka o odwołaniu prezesów sądów
15:53 PILNE: Koalicja 13-grudnia przegłosowała w Sejmie zgodę na pociagnięcie Antoniego Macierewicza do odpowiedzialności karnej
15:45 Policja nie ma już wątpliwości, że odnaleziony w poniedziałek wieczorem w Odrze we Wrocławiu martwy chłopak to poszukiwany 16-latek z Wałbrzycha
15:20 Pilne: Specjalnie dla widzów Republiki, dziś o godz. 18:20 na antenie Telewizji Republika zaprezentujemy ostatni wywiad Prezydenta Andrzeja Dudy
14:25 Donald Trump: jeśli ceny energii spadną, Putin przestanie zabijać ludzi w Ukrainie
14:00 Niemieckie media: we wpisie o wybuchu powstania warszawskiego minister posłużył się zdjęciem SS
13:14 Pomorskie: Czerwone flagi na kąpieliskach w północnej Polsce z powodu m.in. wysokich fal
12:30 Warszawa: 25 lat więzienia za zabójstwo właściciela warzywniaka w Ząbkach
Wydarzenie 6 sierpnia przed Sejmem, przed oraz podczas zaprzysiężenia Karola Nawrockiego, odbędzie się wielkie zgromadzenie Polaków. Później - odbędzie się biało-czerwony Marsz na Plac Zamkowy
Zaproszenie Klub „Gazety Polskiej” w Perth Australia zaprasza na obchody 81. rocznicy Powstania Warszawskiego, 10 sierpnia 2025 r. (niedziela), g. 9.30 Msza św. - g. 10.45projekcja filmu „Sierpniowe Niebo. 63 Dni Chwały”, 35 Eighth Ave, Maylands
Wydarzenie Klub „Gazety Polskiej” Pabianice zaprasza na XI Festyn Patriotyczno-Rodzinny, 15 sierpnia 2025 r. godz. 10:00 Msza Św. Godz. 16:00 - rozpoczęcie, Parafia Św. Maksymiliana Marii Kolbego, ul. Jana Pawła II 46, Pabianice
Portal tvrepublika.pl informacje z kraju i świata 24 godziny na dobę przez 7 dni w tygodniu. Nie zasypiamy nigdy. Bądź z nami!

Sztuczna inteligencja coraz bardziej niebezpieczna

Źródło: facebook.com

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.

Wyniki badania zostały opublikowane na platformie arXiv (https://arxiv.org/abs/2401.03408), która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji - również rozpoczęła współpracę z Departamentem Obrony USA.

Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług - aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek” – powiedziała w rozmowie z „New Scientist” Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. „Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji” – cytuje „New Scientist”.

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak „rozpoczęcie formalnych negocjacji pokojowych” i agresywne „nałożenie ograniczeń handlowych” lub „eskalację pełnego ataku nuklearnego”. „W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji” – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa. Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka, ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.

 

PAP

Polecamy Sejm

Wiadomości

Andrzej Duda wywiad

Ostatni wywiad prezydenta Andrzeja Dudy tylko w Republice o godz. 18:20!

Koalicja 13 grudnia przegłosowała zgodę na pociągnięcie do odpowiedzialności karnej posła Macierewicza

Posłowie Konfederacji: działania Ruchniewicza są antypolskie. Człowiek ten hańbi wielką postać rotmistrza Pileckiego [WIDEO]

PILNE: Sejm opowiedział się za uchyleniem immunitetu Antoniemu Macierewiczowi

Lewandowski gasi rzecznika Siemoniaka: „Proszę nie dezinformować opinii publicznej”

Policjanci wykryli nielegalny arsenał

Posłowie PiS domagają się zwolnienia Ruchniewicza: dopuścił się przestępstwa zdrady dyplomatycznej, zawiadomimy prokuraturę

Roxie Węgiel wyjeżdża z Polski! Dostała się na prestiżowe studia w Londynie

Jest wyrok: 25 lat więzienia za zabójstwo w Ząbkach!

Płaczek: Hołownia widzi, że koalicjanci nie realizują programu

Podatek Belki jak był, tak będzie. Domański ma "nową propozycję"

Monika Richardson uderza w Korwin-Piotrowską i Izbę Weterynaryjną! „Pastwią się nad moją żałobą”

Jagodzianki – smak lata prosto z Lubelszczyzny [wideo]

Prezydent krytykuje działania Żurka: sam powinien mieć postępowanie dyscyplinarne

Historyczny wyczyn w rzucie oszczepem! Brazylijczyk bije rekord

Najnowsze

Andrzej Duda wywiad

Ostatni wywiad prezydenta Andrzeja Dudy tylko w Republice o godz. 18:20!

Cenckiewicz Lewandowski

Lewandowski gasi rzecznika Siemoniaka: „Proszę nie dezinformować opinii publicznej”

Policjanci wykryli nielegalny arsenał

Posłowie PiS domagają się zwolnienia Ruchniewicza: dopuścił się przestępstwa zdrady dyplomatycznej, zawiadomimy prokuraturę

Roxie Węgiel wyjeżdża z Polski! Dostała się na prestiżowe studia w Londynie

Koalicja 13 grudnia przegłosowała zgodę na pociągnięcie do odpowiedzialności karnej posła Macierewicza

Posłowie Konfederacji: działania Ruchniewicza są antypolskie. Człowiek ten hańbi wielką postać rotmistrza Pileckiego [WIDEO]

PILNE: Sejm opowiedział się za uchyleniem immunitetu Antoniemu Macierewiczowi