Przejdź do treści
09:04 Europa: ceny gazu mocno spadają w reakcji na zawieszenie broni w konflikcie Izrael-Iran
08:36 Izrael: premier Benjamin Netanjahu poinformował, że jego kraj zgodził się na propozycję rozejmu z Iranem
07:37 USA: ceny ropy na giełdzie paliw w Nowym Jorku mocno spadają po tym, jak prezydent Donald Trump ogłosił w poniedziałek tymczasowe zawieszenie broni pomiędzy Izraelem a Iranem
07:19 Niemcy: przewodniczący związku rezerwistów Bundeswehry Patrick Sensburg ocenił, że w Niemczech należy przywrócić obowiązkową służbę wojskową. Zaproponował referendum w sprawie ewentualnego poboru kobiet
07:14 Straż pożarna: w nocy ponad 500 interwencji spowodowanych przejściem frontu burzowego
Wydarzenie Dziś od godz. 15.00 w Piotrkowie Trybunalskim przed Galerią Handlową przy ul. Słowackiego zbiórka podpisów poparcia referendum w sprawie odwołania Prezydenta i Rady Miasta
Wydarzenie Zapraszamy w piątek na spotkanie do Krosna, godzina 18:00, Hotel Nafta. W wydarzeniu weźmie udział europoseł Daniel Obajtek oraz poseł Piotr Babinetz
Wydarzenie W czwartek w Ostrołęce odbędzie się spotkanie z europosłem Danielem Obajtkiem oraz posłem Marcinem Grabowskim. Początek o 18:00 w Wyższej Szkole Administracji Publicznej
NBP NBP informuje: Było 509 ton, a jest już ponad 515 ton złota! Mamy więcej złota niż Europejski Bank Centralny, a Narodowy Bank Polski pod kierownictwem prof. Adama Glapińskiego, nadal zwiększa zasoby złota Polaków!
Portal tvrepublika.pl informacje z kraju i świata 24 godziny na dobę przez 7 dni w tygodniu. Nie zasypiamy nigdy. Bądź z nami!

Naukowcy alarmują. Sztuczna inteligencja oszukuje

Źródło: pexels.com

Sztuczna inteligencja niepostrzeżenie opanowała sztukę oszukiwania ludzi – ostrzegają naukowcy. Dotyczy to nawet tych systemów, które zaprogramowano ze szczególnym uwzględnieniem uczciwości.

Eksperci z Massachusetts Institute of Technology odkryli niepokojące zachowanie różnych systemów sztucznej inteligencji. Jak twierdzą, SI niepostrzeżenie uczy się przebiegłości i oszukiwania ludzi.

"Twórcy SI nie mają pełnego zrozumienia tego, co powoduje jej niepożądane zachowania, takie jak oszukiwanie" – zaznacza dr Peter S. Park, autor pracy opublikowanej w magazynie "Patterns".

"Jednak, ogólnie mówiąc, uważamy, że SI zaczyna stosować oszukiwanie jako strategię, która najlepiej sprawdza się w różnych zadaniach. Podejście takie pomaga sztucznej inteligencji w osiąganiu celów" – wyjaśnia ekspert.

On i jego zespół przeanalizowali naukową literaturę opisującą różne badania na ten temat. Jako najbardziej jaskrawy przykład oszustw podają zachowanie systemu CICERO stworzonego przez firmę Meta. Jego zadanie to prowadzenie z ludźmi rozgrywki w Diplomacy – grze polegającej na tworzeniu różnych sojuszy i podboju świata.

CICERO był tak projektowany, aby być uczciwy i nigdy nie stosować podstępów względem ludzi. Tak się jednak nie dzieje.

"Odkryliśmy, że SI stworzona przez Metę stała się mistrzem podstępu. Podczas gdy Meta zdołała wyszkolić SI tak, aby wygrywała w Diplomacy – CICERO znalazł się w górnych 10 proc. graczy, którzy zakończyli więcej niż jedną grę – to firmie nie udało się zaprogramować uczciwości" – informuje dr Park.

Inne systemy posługiwały się np. blefem w pokerze, grając przeciw ludziom, albo udawały ataki w grze Starcraft II, aby zyskać przewagę. Opisane są też systemy, które potrafiły oszukać specjalne testy oceniające bezpieczeństwo SI. W jednym z badań wykryto, że SI udawała martwą w programie, który eliminował zbyt szybko mnożące się sztuczne inteligencje.

Choć zachowanie SI w grach wydaje się niegroźne, to - jak podkreślają naukowcy - podobnie sztuczna inteligencja może zachowywać się w poważnych zastosowaniach, a do tego stawać się coraz przebieglejsza.

"Poprzez systematyczne oszukiwanie w testach stworzonych przez programistów i specjalistów od odpowiednich regulacji, podstępna SI może sprawić, że nabierzemy fałszywego poczucia bezpieczeństwa" – przestrzega dr Park.

Badacze wymieniają różne potencjalne zagrożenia, np. różnego rodzaju oszustwa czy wpływanie na wybory. Jeśli SI się udoskonali w podstępach, ludzie mogą nie być w stanie się obronić – przekonują.

"Jako społeczeństwo potrzebujemy jak najwięcej czasu, aby przygotować się na bardziej zaawansowane oszustwa ze strony opartych na SI produktów i ogólnodostępnych modeli" – uważa dr Park. - "Kiedy możliwości SI w obszarze oszukiwania staną się doskonalsze, zagrożenia dla społeczeństwa będą rosły".

Badacze chwalą przy tym inicjatywy podejmowane już w celu regulowania SI, takie jak EU AI Act czy amerykański AI Executive Order.

Powstaje jednak pytanie, czy uda się odpowiednie regulacje zaimplementować, skoro twórcy SI nie do końca wiedzą, jak ją kontrolować.

Pozostają też kwestie polityczne. "Jeśli zakaz tworzenia podstępnej SI jest z politycznego punktu widzenia, obecnie niemożliwe, zalecamy zaklasyfikowanie zdolnej do oszustw SI jako technologii wysokiego ryzyka" – mówi dr Park.

Portal TV Republika/ PAP

Wiadomości

Gontarz o histerii Tuska i Giertycha: „Uważam, że to jest zaplanowana akcja”

Jude Bellingham przejdzie operację barku po Klubowych Mistrzostwach Świata. Real Madryt straci lidera na start sezonu

Rozejm wszedł w życie. Prezydent USA apeluje o jego przestrzeganie

Czy to koniec konfliktu? Benjamin Netanjahu: Izrael zgodził się na propozycję rozejmu z Iranem

Oni wciąż to robią! Bąkiewicz: pod osłoną nocy w Gubinie Niemcy przekazali migrantów bezpośrednio do busa SG [WIDEO]

Rakiety spadły na Izrael tuż przed zawieszeniem broni. Zginęły cztery osoby

Dziennikarze WP o Giertychu i Polnordzie. Śledztwo umorzone, pytania pozostały

!!! Grozi śmiercią prezydentowi elektowi Karolowi Nawrockiemu !!!

Trump: Zawieszenie broni weszło w życie

Eldar: ostatnia salwa rakietowa z Iranu może być "grą końcową"

Upadek reżimu w Teheranie: konsekwencje dla Iranu, Izraela i USA

Izrael i Iran: pokój bez ograniczeń - tak mówi Trump

WSJ ogłasza koniec wojny: Iran zasugerował, że nie chce walczyć

Grecka wyspa w płomieniach. Sytuacja jest dramatyczna

Atak drona na bazę wojskową Taji w Iraku

Najnowsze

Gontarz o histerii Tuska i Giertycha: „Uważam, że to jest zaplanowana akcja”

Oni wciąż to robią! Bąkiewicz: pod osłoną nocy w Gubinie Niemcy przekazali migrantów bezpośrednio do busa SG [WIDEO]

Rakiety spadły na Izrael tuż przed zawieszeniem broni. Zginęły cztery osoby

Dziennikarze WP o Giertychu i Polnordzie. Śledztwo umorzone, pytania pozostały

!!! Grozi śmiercią prezydentowi elektowi Karolowi Nawrockiemu !!!

Jude Bellingham przejdzie operację barku po Klubowych Mistrzostwach Świata. Real Madryt straci lidera na start sezonu

Rozejm wszedł w życie. Prezydent USA apeluje o jego przestrzeganie

Czy to koniec konfliktu? Benjamin Netanjahu: Izrael zgodził się na propozycję rozejmu z Iranem