Przejdź do treści
16:53 Zanotowany w maju br. spadek liczb etatów był największy od pandemii – ocenili ekonomiści PKO BP w komentarzu do poniedziałkowych danych GUS. Względem kwietnia liczba etatów została zredukowana o 13,5 tys.
14:30 Polska: Prezydent Andrzej Duda przybył do Czarnogóry. Spotkał się z prezydentem Milatoviciem
14:26 Polska: RPO i Służba Więzienna badają sprawę matki doprowadzonej na pogrzeb dziecka w kajdankach
13:58 SN: dotychczas zarejestrowano 10,5 tys. protestów przeciw wyborowi prezydenta z około 50 tys., które wpłynęły
13:41 Reuters: trzy tankowce płynące do cieśniny Ormuz zmieniły kurs w związku z eskalacją w regionie
13:03 Łódź: Radni chcą wprowadzić nocny zakaz sprzedaży alkoholu. Siedem osiedli na początek
12:28 MAEA: obiekt nuklearny w Fordo prawdopodobnie bardzo uszkodzony po amerykańskich nalotach
11:41 Toruń: 15 zastępów straży pożarnej gasi pożar opon w jednym z zakładów przy ul. Curie-Skłodowskiej
Wydarzenie Dziś od godz. 15.00 w Piotrkowie Trybunalskim przed Galerią Handlową przy ul. Słowackiego zbiórka podpisów poparcia referendum w sprawie odwołania Prezydenta i Rady Miasta
Wydarzenie Zapraszamy w piątek na spotkanie do Krosna, godzina 18:00, Hotel Nafta. W wydarzeniu weźmie udział europoseł Daniel Obajtek oraz poseł Piotr Babinetz
Wydarzenie W czwartek w Ostrołęce odbędzie się spotkanie z europosłem Danielem Obajtkiem oraz posłem Marcinem Grabowskim. Początek o 18:00 w Wyższej Szkole Administracji Publicznej
NBP NBP informuje: Było 509 ton, a jest już ponad 515 ton złota! Mamy więcej złota niż Europejski Bank Centralny, a Narodowy Bank Polski pod kierownictwem prof. Adama Glapińskiego, nadal zwiększa zasoby złota Polaków!
Portal tvrepublika.pl informacje z kraju i świata 24 godziny na dobę przez 7 dni w tygodniu. Nie zasypiamy nigdy. Bądź z nami!

Sztuczna inteligencja coraz bardziej niebezpieczna

Źródło: facebook.com

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.

Wyniki badania zostały opublikowane na platformie arXiv (https://arxiv.org/abs/2401.03408), która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji - również rozpoczęła współpracę z Departamentem Obrony USA.

Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług - aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek” – powiedziała w rozmowie z „New Scientist” Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. „Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji” – cytuje „New Scientist”.

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak „rozpoczęcie formalnych negocjacji pokojowych” i agresywne „nałożenie ograniczeń handlowych” lub „eskalację pełnego ataku nuklearnego”. „W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji” – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa. Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka, ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.

 

PAP

Wiadomości

Biegnie z Łodzi do Santiago de Compostela dla nieuleczalnie chorych dzieci

Sakiewicz: Tusk zorientował się, że akcja Giertycha to próba obalenia jego samego

Izraelskie wojsko: zaatakowaliśmy drogi wokół irańskiego ośrodka nuklearnego w Fordo

Czarnek o kulisach pracy w kancelarii prezydenta i swojej walce o urząd premiera

Pilne: Zamachu na Zełeńskiego miał dokonać emerytowany polski żołnierz

Warszawa: Kierowca wjechał w portiernię Instytutu Lotnictwa Sieci Badawczej Łukasiewicz

RPO zajął się sprawą kobiety doprowadzonej w kajdankach zespolonych na pogrzeb własnego dziecka

Ranking WTA: Iga Świątek nadal w TOP 10, Magda Linette z awansem po Nottingham

Koalicja Tuska chce totalnej wojny o pałac prezydencki

PILNE: Udaremniono zamach na Zełenskiego

Najgorsi ministrowie wg Polaków. Sprawdź kto „wygrał”

"Gatunek staje się coraz głupszy". Lipińska komentuje temat rodzicielstwa

TRZEBA ZOBACZYĆ!

Chcą podważyć wynik wyborów. Kosiniak-Kamysz się nie zgadza!

Europejski futbol wraca na Śląsk. Mecz Ligi Konferencji w Katowicach

Gosek: Dziękuję Klubom GP za chęć zorganizowania wiecu w dniu zaprzysiężenia Nawrockiego

Najnowsze

Biegnie z Łodzi do Santiago de Compostela dla nieuleczalnie chorych dzieci

Pilne: Zamachu na Zełeńskiego miał dokonać emerytowany polski żołnierz

Warszawa: Kierowca wjechał w portiernię Instytutu Lotnictwa Sieci Badawczej Łukasiewicz

RPO zajął się sprawą kobiety doprowadzonej w kajdankach zespolonych na pogrzeb własnego dziecka

Ranking WTA: Iga Świątek nadal w TOP 10, Magda Linette z awansem po Nottingham

Sakiewicz: Tusk zorientował się, że akcja Giertycha to próba obalenia jego samego

Izraelskie wojsko: zaatakowaliśmy drogi wokół irańskiego ośrodka nuklearnego w Fordo

Czarnek o kulisach pracy w kancelarii prezydenta i swojej walce o urząd premiera