Przejdź do treści
14:42 Warszawa: uroczystością pod pomnikiem Bohaterów Getta Warszawskiego uczczono w sobotę 82. rocznicę wybuchu powstania w getcie warszawskim
14:38 Nuncjusz apostolski abp Filipazzi złożył Polakom życzenia z okazji Wielkanocy: niech ta nadzieja przynosi światło, siłę i radość dla naszego życia we wszystkich okolicznościach
13:55 Watykan: Wiceprezydent USA J.D. Vance spotkał się z sekretarzem stanu Stolicy Apostolskiej
13:44 Przewodniczący KEP: niech zwycięstwo Chrystusa umacnia nas w codziennym pielgrzymowaniu ku niebu
13:06 IMGW: w sobotę na północnym wschodzie możliwe są słabe burze
12:49 Lublin: około 600 paczek z żywnością otrzymali w sobotę potrzebujący podczas wielkanocnego śniadania w lubelskiej Caritas
12:23 Podkarpackie: osoby poszkodowane w ulewie mogą starać się o zasiłek do 8 tys. zł
Debata Republiki Kolejna debata kandydatów na Prezydenta RP, której organizatorem będzie Telewizji Republika już 9 maja – proszę śledzić naszą antenę, portal i media społecznościowe
Spotkanie 29 kwietnia o godz. 18:00 odbędzie się spotkanie z publicystą TV Republika - Jakubem Maciejewskim. Miejsce: Wojewódzka Biblioteka Publiczna, ul. Ściegiennego 13, Kielce
Republika Uwaga, lokalne muxy nie nadają od 1 kwietnia Republiki. Chcąc oglądać naszą stację trzeba przejść na Mux 8
Republika Solidarni z Republiką! Każda wpłata od Państwa jest dla nas ogromnym wyrazem wsparcia. Wpłaty można dokonać, wykonując przelew: Fundacja Niezależne Media, nr konta: 78 1240 1053 1111 0010 7283 0412, dopisek: Darowizna na wolne media
Radio Republika Zachęcamy do słuchania naszego internetowego Radio Republika na stronie radiotvrepublika.pl
NBP NBP informuje: Narodowy Bank Polski działając niezależnie od nacisków politycznych, zapewnia stabilność cen i wspiera zrównoważony rozwój gospodarki. Niezależność banku centralnego to fundament silnej gospodarki. NBP działa na rzecz dobrobytu Polaków

Sztuczna inteligencja coraz bardziej niebezpieczna

Źródło: facebook.com

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.

Wyniki badania zostały opublikowane na platformie arXiv (https://arxiv.org/abs/2401.03408), która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji - również rozpoczęła współpracę z Departamentem Obrony USA.

Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług - aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek” – powiedziała w rozmowie z „New Scientist” Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. „Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji” – cytuje „New Scientist”.

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak „rozpoczęcie formalnych negocjacji pokojowych” i agresywne „nałożenie ograniczeń handlowych” lub „eskalację pełnego ataku nuklearnego”. „W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji” – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa. Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka, ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.

 

PAP

Wiadomości

Akcja Caritas: 500 paczek trafiło na stoły najuboższych wrocławian

Anna Gembicka: Donald Tusk nie ma żadnych skrupułów

Sprawa Sitarskiego, przedstawiciela Lewicy w zarządzie Orlenu. "Ściśle Jawne" w niedzielę godz. 20:30

Kierowca odmówił donoszenia. Kamiński uderza w Kidawę-Błońską

Nie zgadniesz, co można zrobić z fiołków – ten cukier to prawdziwa perełka!

Tusk obniżył poziom cyberochrony w Polsce. Stanisław Żaryn ostrzega przed Rosją i Białorusią i pisze o "rządowym sabotażu"

Dziwny Tusk mądry Nitras Stanowski walczy z klimatem. Mazurek o Rafale Odlot Szczerby

Ta dłoń wiele mówi. Trump pokazuje, z jak wielkim zagrożeniem walczy jego administracja

Specjalne wydanie „Politycznej Kawy” – Wielkanoc z Republiką

"Wyborcza" hejtuje apel katechetów. Dotyczy święconki i prawa do lekcji religii w szkole

Polityczna burza w Senacie. Michał Kamiński oskarża Kidawę-Błońską

Rafał Brzoska odchodzi od Tuska. Mówi o patologiach systemu

Jakie jest znaczenie wielkanocnej święconki?

Polityczna burza w Senacie. Michał Kamiński oskarża Kidawę-Błońską

Prawosławny hierarcha krytycznie o świecie: triumf hedonizmu i zysku

Najnowsze

Akcja Caritas: 500 paczek trafiło na stoły najuboższych wrocławian

Nie zgadniesz, co można zrobić z fiołków – ten cukier to prawdziwa perełka!

Tusk obniżył poziom cyberochrony w Polsce. Stanisław Żaryn ostrzega przed Rosją i Białorusią i pisze o "rządowym sabotażu"

Dziwny Tusk mądry Nitras Stanowski walczy z klimatem. Mazurek o Rafale Odlot Szczerby

Ta dłoń wiele mówi. Trump pokazuje, z jak wielkim zagrożeniem walczy jego administracja

Anna Gembicka: Donald Tusk nie ma żadnych skrupułów

Sprawa Sitarskiego, przedstawiciela Lewicy w zarządzie Orlenu. "Ściśle Jawne" w niedzielę godz. 20:30

Kierowca odmówił donoszenia. Kamiński uderza w Kidawę-Błońską