Przejdź do treści
21:39 Prezydent Ukrainy: ustaliliśmy z Rosją kolejną wymianę jeńców 1000 na 1000
20:11 Premier Donald Tusk: w najbliższym czasie zwrócę się do Sejmu z wnioskiem o wotum zaufania dla rządu
19:59 Prezes PiS Jarosław Kaczyński: to jest klęska demokracji walczącej, ten rząd powinien odejść, proponujemy rząd techniczny
18:23 Stambuł: doradca Putina poinformował, że Rosja proponuje krótkie zawieszenie broni na niektórych odcinkach frontu
17:16 Policja: w ciągu dwóch dni ciszy wyborczej zanotowano 49 przestępstw i 340 wykroczeń
Wybory 2025 Gościem Poranka Radia Republika o godzinie 6.00 będzie Jacek Ozdoba z PiS
Wybory 2025 Prezydent Andrzej Duda pogratulował Karolowi Nawrockiemu zwycięstwa w wyborach prezydenckich
Wybory 2025 PKW ogłosiła oficjalnie, że wybory prezydenckie wygrał Karol Nawrocki, uzyskując 50,89 proc. głosów. Rafał Trzaskowski uzyskał 49,11 proc. głosów
Wybory 2025 Szef PKW: frekwencja w drugiej turze wyborów prezydenckich wyniosła 71,63 proc.
Protest We wtorek (3 czerwca) o godz. 12:00, pod ambasadą Niemiec przy ul. Jazdów 12 w Warszawie, odbędzie się protest pod hasłem: "Zabierzcie namiestnika!". Organizuje: Ruch Obrony Granic
NBP NBP informuje: Prof. Adam Glapiński, Prezes NBP: „Polska ma już 509 ton złota – więcej niż Europejski Bank Centralny! To dowód na skuteczną strategię, która wzmacnia wiarygodność Polski i buduje bezpieczeństwo finansowe obywateli"

Sztuczna inteligencja coraz bardziej niebezpieczna

Źródło: facebook.com

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.

Wyniki badania zostały opublikowane na platformie arXiv (https://arxiv.org/abs/2401.03408), która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji - również rozpoczęła współpracę z Departamentem Obrony USA.

Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług - aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek” – powiedziała w rozmowie z „New Scientist” Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. „Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji” – cytuje „New Scientist”.

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak „rozpoczęcie formalnych negocjacji pokojowych” i agresywne „nałożenie ograniczeń handlowych” lub „eskalację pełnego ataku nuklearnego”. „W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji” – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa. Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka, ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.

 

PAP

Wiadomości

W samochodzie terrorysty z Boulder znaleziono dokumenty USAID

Biznesmen biwakował nad rzeką. Spotkał lwicę. Nie żyje

Putin kładzie na stół warunki dotyczące pokoju na Ukrainie

Hejt na córkę nowego prezydenta. Na szczęście dobrych ludzi jest więcej [KOMENTARZE]

Tusk jak zwykle się wściekł, a potem wygłosił orędzie. Pełne gróźb i typowych dla niego niedomówień [KOMENTARZE]

Kanthak o koalicji Tuska: jest bankrutem, syndykiem masy upadłościowej

Nawrocki podziękował Trzaskowskiemu. "Może być Pan pewien, że zawsze po pierwsze Polska, po pierwsze Polacy!"

Ile gwiazdy biorą za wesele? Nawet 50 tysięcy za jeden wieczór! Wiśniewski, Zenek i Narożna w cenniku ślubnych marzeń

Fogiel: Tusk udaje, że „nic się nie stało” – ale Hołownia wierzga!

Instagram był za Trzaskowskim, Polska za Nawrockim

Przemysław Wipler apeluje do ludowców o zmianę: poprzemy mniejszościowy rząd z PSL

Będzie wymiana jeńców 1000 na 1000. Ukraina dogadała się z Rosją - "wszystkich naszych trzeba zabrać"

Powyborcze wpisy w serwisie X, które łudząco przypominają memy

Będą zmiany w rządzie? "On jest jak kret, który nie wie, że kopie tunel pod własnym domem"

Tusk: zwrócę się z wnioskiem do Sejmu o wotum zaufania

Najnowsze

W samochodzie terrorysty z Boulder znaleziono dokumenty USAID

Tusk jak zwykle się wściekł, a potem wygłosił orędzie. Pełne gróźb i typowych dla niego niedomówień [KOMENTARZE]

Kanthak o koalicji Tuska: jest bankrutem, syndykiem masy upadłościowej

Nawrocki podziękował Trzaskowskiemu. "Może być Pan pewien, że zawsze po pierwsze Polska, po pierwsze Polacy!"

Ile gwiazdy biorą za wesele? Nawet 50 tysięcy za jeden wieczór! Wiśniewski, Zenek i Narożna w cenniku ślubnych marzeń

Biznesmen biwakował nad rzeką. Spotkał lwicę. Nie żyje

Putin kładzie na stół warunki dotyczące pokoju na Ukrainie

Hejt na córkę nowego prezydenta. Na szczęście dobrych ludzi jest więcej [KOMENTARZE]