Przejdź do treści
Ważne W poniedziałek warszawski sąd okręgowy zajmie się wnioskiem nielegalnej komisji śledczej ds. Pegasusa o 30-dniowy areszt wobec byłego szefa MS Zbigniewa Ziobry (PiS)
21:30 2 kwietnia na ekrany kin wchodzi film „21.37”, który powstał specjalnie z okazji 20. rocznicy śmierci św. Jana Pawła II
20:40 Toruń: skandaliczna decyzja Sądu Okręgowego oddalająca skargę na decyzję prezydenta miasta, który rozwiązał w lutym "Publiczny Różaniec w intencji Odnowy Narodu Polskiego"
19:40 Pożar w Biebrzańskim Parku Narodowym. Według szacunków strażaków, obejmuje obszar ponad 70 ha, zlokalizowany jest na granicy powiatów augustowskiego i sokólskiego
19:31 Ciężarna kobieta, która wskutek piątkowego trzęsienia ziemi w Birmie znalazła się pod gruzami domu w mieście Mandalay, została po 50 godzinach żywa spod nich wyciągnięta, jednak później zmarła w szpitalu - poinformowała agencja AFP
18:50 Donald Trump zagroził Iranowi: jeśli nie zawrą umowy o programie atomowym, będzie bombardowanie jakiego jeszcze nie widzieli
18:00 Jarosław Kaczyński: Dziś w Polsce tracimy prawa obywatelskie. Są tacy, którzy otwarcie mówią, że jeśli te wybory wygra Karol Nawrocki to zostaną unieważnione
Radio Republika Zachęcamy do słuchania naszego internetowego Radio Republika na stronie radiotvrepublika.pl
Ważne Bazylika pw. Św. Krzyża w Warszawie, 1 kwietnia, godz. 20.00, Msza św. w intencji śp. Barbary Skrzypek
Wydarzenie 12.04 o 12.00 w Warszawie odbędzie się Marsz z Okazji 1000-lecia Królestwa Polskiego oraz bicie rekordu w liczbie par tańczących jednocześnie poloneza
Spotkanie Klub Gazety Polskiej Aleksandrów Łódzki zaprasza na spotkanie z Piotrem Kaletą, posłem PiS. Spotkanie odbędzie się 1 kwietnia, o godz. 18:00 - przy ul. Wojska Polskiego 128, Aleksandrów Łódzki
Spotkanie Klub Gazety Polskiej Łuków zaprasza 2 kwietnia, o godz. 18:40, na spotkanie z Adamem Borowskim. Odbędzie się ono w Sali Konferencyjnej Budynku Poklasztornego przy Parafii Podwyższenia Krzyża Świętego, ul. Ks. kard. Stefana Wyszyńskiego 41 w Łukowie
Wydarzenie Bydgoski Klub Gazety Polskiej w imieniu Bydgoskich Patriotów zaprasza 2 kwietnia na Bydgoski Marsz Pamięci Jana Pawła II. Początek zgromadzenia o godz. 19 na Starym Rynku (marsz wyruszy o godz. 20)
NBP Mamy 480 ton złota! – poinformował prof. Adam Glapiński, prezes Narodowego Banku Polskiego

Naukowcy alarmują. Sztuczna inteligencja oszukuje

Źródło: pexels.com

Sztuczna inteligencja niepostrzeżenie opanowała sztukę oszukiwania ludzi – ostrzegają naukowcy. Dotyczy to nawet tych systemów, które zaprogramowano ze szczególnym uwzględnieniem uczciwości.

Eksperci z Massachusetts Institute of Technology odkryli niepokojące zachowanie różnych systemów sztucznej inteligencji. Jak twierdzą, SI niepostrzeżenie uczy się przebiegłości i oszukiwania ludzi.

"Twórcy SI nie mają pełnego zrozumienia tego, co powoduje jej niepożądane zachowania, takie jak oszukiwanie" – zaznacza dr Peter S. Park, autor pracy opublikowanej w magazynie "Patterns".

"Jednak, ogólnie mówiąc, uważamy, że SI zaczyna stosować oszukiwanie jako strategię, która najlepiej sprawdza się w różnych zadaniach. Podejście takie pomaga sztucznej inteligencji w osiąganiu celów" – wyjaśnia ekspert.

On i jego zespół przeanalizowali naukową literaturę opisującą różne badania na ten temat. Jako najbardziej jaskrawy przykład oszustw podają zachowanie systemu CICERO stworzonego przez firmę Meta. Jego zadanie to prowadzenie z ludźmi rozgrywki w Diplomacy – grze polegającej na tworzeniu różnych sojuszy i podboju świata.

CICERO był tak projektowany, aby być uczciwy i nigdy nie stosować podstępów względem ludzi. Tak się jednak nie dzieje.

"Odkryliśmy, że SI stworzona przez Metę stała się mistrzem podstępu. Podczas gdy Meta zdołała wyszkolić SI tak, aby wygrywała w Diplomacy – CICERO znalazł się w górnych 10 proc. graczy, którzy zakończyli więcej niż jedną grę – to firmie nie udało się zaprogramować uczciwości" – informuje dr Park.

Inne systemy posługiwały się np. blefem w pokerze, grając przeciw ludziom, albo udawały ataki w grze Starcraft II, aby zyskać przewagę. Opisane są też systemy, które potrafiły oszukać specjalne testy oceniające bezpieczeństwo SI. W jednym z badań wykryto, że SI udawała martwą w programie, który eliminował zbyt szybko mnożące się sztuczne inteligencje.

Choć zachowanie SI w grach wydaje się niegroźne, to - jak podkreślają naukowcy - podobnie sztuczna inteligencja może zachowywać się w poważnych zastosowaniach, a do tego stawać się coraz przebieglejsza.

"Poprzez systematyczne oszukiwanie w testach stworzonych przez programistów i specjalistów od odpowiednich regulacji, podstępna SI może sprawić, że nabierzemy fałszywego poczucia bezpieczeństwa" – przestrzega dr Park.

Badacze wymieniają różne potencjalne zagrożenia, np. różnego rodzaju oszustwa czy wpływanie na wybory. Jeśli SI się udoskonali w podstępach, ludzie mogą nie być w stanie się obronić – przekonują.

"Jako społeczeństwo potrzebujemy jak najwięcej czasu, aby przygotować się na bardziej zaawansowane oszustwa ze strony opartych na SI produktów i ogólnodostępnych modeli" – uważa dr Park. - "Kiedy możliwości SI w obszarze oszukiwania staną się doskonalsze, zagrożenia dla społeczeństwa będą rosły".

Badacze chwalą przy tym inicjatywy podejmowane już w celu regulowania SI, takie jak EU AI Act czy amerykański AI Executive Order.

Powstaje jednak pytanie, czy uda się odpowiednie regulacje zaimplementować, skoro twórcy SI nie do końca wiedzą, jak ją kontrolować.

Pozostają też kwestie polityczne. "Jeśli zakaz tworzenia podstępnej SI jest z politycznego punktu widzenia, obecnie niemożliwe, zalecamy zaklasyfikowanie zdolnej do oszustw SI jako technologii wysokiego ryzyka" – mówi dr Park.

Portal TV Republika/ PAP

Wiadomości

Lucy Thomson straciła koronę Miss Szkocji! Pogryzła ludzi

Koniec ery prywatności? Nadchodzi Dzień Q... Globalna panika

Anglicy bez lęku przed USA. Biorą, co chcą

W Klubie Republiki o zatrzymaniach, aresztach wydobywczych i łamaniu praworządności

Litwa: nurkom udało się podczepić linę do zatopionego pojazdu żołnierzy USA

Miał napaść na 14-latkę. Jest wniosek o areszt

PŚ w skokach. Tschofenig rozbił bank, Wąsek najlepszym z Polaków

Według posłanki KO prezydencja w UE jest ważniejsza niż 1000-lecie Królestwa Polskiego

Morawiecki: zeznania Pawła S. to stek bzdur i konfabulacji

Przyjmowanie migrantów to handel naszym bezpieczeństwem

Dwa gole Lewandowskiego. Seria Barcelony trwa

W Watykanie i Rzymie odbędą się uroczystości w 20. rocznicę śmierci Jana Pawła II

Drużyna reprezentanta Polski w półfinale Pucharu Anglii

Skandal! Sąd oddalił skargę na decyzję prezydenta Torunia, który rozwiązał "Publiczny Różaniec w intencji Odnowy Narodu Polskiego"

Uwaga! Nadchodzi poważna zmiana pogody. Pojawią się burze śnieżne i zrobi się bardzo zimno

Najnowsze

Lucy Thomson straciła koronę Miss Szkocji! Pogryzła ludzi

Litwa: nurkom udało się podczepić linę do zatopionego pojazdu żołnierzy USA

Miał napaść na 14-latkę. Jest wniosek o areszt

PŚ w skokach. Tschofenig rozbił bank, Wąsek najlepszym z Polaków

Według posłanki KO prezydencja w UE jest ważniejsza niż 1000-lecie Królestwa Polskiego

Koniec ery prywatności? Nadchodzi Dzień Q... Globalna panika

Anglicy bez lęku przed USA. Biorą, co chcą

W Klubie Republiki o zatrzymaniach, aresztach wydobywczych i łamaniu praworządności