Przejdź do treści
21:32 Sport: Women's Series FIBA 3x3 - polskie koszykarki zagrają w ćwierćfinale w Baku
21:15 Holandia: Społeczeństwo wstrząśnięte sprawą zabójstwa 17-latki na trasie rowerowej
20:17 W. Brytania: Antyimigranckie protesty w wielu miastach. W Bristolu doszło do starć z policją
19:50 Gwinea: Przed referendum konstytucyjnym junta zawiesiła działalność trzech największych partii
Wydarzenie Kluby GP New York i New Jersey w imieniu organizatorów zapraszają Polonię na: XXXV Memoriał Kazimierza Deyny – turniej polonijnych drużyn: niedziela 24 sierpnia, Garfield High School, Garfield, NJ, początek 8:00 am
Wydarzenia 90. rocznica urodzin ks. Czesława Banaszkiewicza. Msza święta odbędzie się w najbliższą niedzielę (24.08) o godz. 10:00 w Sanktuarium Bł. Ks. Jerzego Popiełuszki
Wydarzenie Klub „Gazety Polskiej” Częstochowa zaprasza do składania podpisów pod wnioskiem o referendum ws. nielegalnej migracji przez cały sierpień od 12-tej do 17-tej pod Jasną Górą przy wjeździe na parking od ul.Klasztornej
Wydarzenie W czwartek 28 sierpnia 2025r. o godzinie 16:00, w auli Wyższej Szkoły Ekonomicznej, przy ul. Zwycięstwa 14 w Białymstoku odbędzie się spotkanie z Prezesem PiS Jarosławem Kaczyńskim
Wydarzenia Klub "Gazety Polskiej" w Sydney zaprasza na manifestację wspierającą żądania Polski o należne reparacje za straty II Wojny Światowej, przed Konsulatem Niemiec, 29 sierpnia (piątek), g. 1-3 pm., 100 William Street, Woolloomooloo, Sydney
Wydarzenie Klub Gazety Polskiej w Bytomiu zaprasza 8 września na spotkanie z Jakubem Maciejewskim, Anną Zyzek oraz Pawłem Piekarczykiem. Restauracja "W Starym Kinie", ul. Alojzjanów 27. Początek godz. 18:00.
Wydarzenie Klub "GP" w Aleksandrowie Łódzkim zaprasza 9 września na spotkanie z Piotrem Nisztorem. Hotel i Restauracja Pelikan, ul. Wierzbińska 58 Aleksandrów Łódzki. Godz. 18.00
Portal tvrepublika.pl informacje z kraju i świata 24 godziny na dobę przez 7 dni w tygodniu. Nie zasypiamy nigdy. Bądź z nami!

Naukowcy alarmują. Sztuczna inteligencja oszukuje

Źródło: pexels.com

Sztuczna inteligencja niepostrzeżenie opanowała sztukę oszukiwania ludzi – ostrzegają naukowcy. Dotyczy to nawet tych systemów, które zaprogramowano ze szczególnym uwzględnieniem uczciwości.

Eksperci z Massachusetts Institute of Technology odkryli niepokojące zachowanie różnych systemów sztucznej inteligencji. Jak twierdzą, SI niepostrzeżenie uczy się przebiegłości i oszukiwania ludzi.

"Twórcy SI nie mają pełnego zrozumienia tego, co powoduje jej niepożądane zachowania, takie jak oszukiwanie" – zaznacza dr Peter S. Park, autor pracy opublikowanej w magazynie "Patterns".

"Jednak, ogólnie mówiąc, uważamy, że SI zaczyna stosować oszukiwanie jako strategię, która najlepiej sprawdza się w różnych zadaniach. Podejście takie pomaga sztucznej inteligencji w osiąganiu celów" – wyjaśnia ekspert.

On i jego zespół przeanalizowali naukową literaturę opisującą różne badania na ten temat. Jako najbardziej jaskrawy przykład oszustw podają zachowanie systemu CICERO stworzonego przez firmę Meta. Jego zadanie to prowadzenie z ludźmi rozgrywki w Diplomacy – grze polegającej na tworzeniu różnych sojuszy i podboju świata.

CICERO był tak projektowany, aby być uczciwy i nigdy nie stosować podstępów względem ludzi. Tak się jednak nie dzieje.

"Odkryliśmy, że SI stworzona przez Metę stała się mistrzem podstępu. Podczas gdy Meta zdołała wyszkolić SI tak, aby wygrywała w Diplomacy – CICERO znalazł się w górnych 10 proc. graczy, którzy zakończyli więcej niż jedną grę – to firmie nie udało się zaprogramować uczciwości" – informuje dr Park.

Inne systemy posługiwały się np. blefem w pokerze, grając przeciw ludziom, albo udawały ataki w grze Starcraft II, aby zyskać przewagę. Opisane są też systemy, które potrafiły oszukać specjalne testy oceniające bezpieczeństwo SI. W jednym z badań wykryto, że SI udawała martwą w programie, który eliminował zbyt szybko mnożące się sztuczne inteligencje.

Choć zachowanie SI w grach wydaje się niegroźne, to - jak podkreślają naukowcy - podobnie sztuczna inteligencja może zachowywać się w poważnych zastosowaniach, a do tego stawać się coraz przebieglejsza.

"Poprzez systematyczne oszukiwanie w testach stworzonych przez programistów i specjalistów od odpowiednich regulacji, podstępna SI może sprawić, że nabierzemy fałszywego poczucia bezpieczeństwa" – przestrzega dr Park.

Badacze wymieniają różne potencjalne zagrożenia, np. różnego rodzaju oszustwa czy wpływanie na wybory. Jeśli SI się udoskonali w podstępach, ludzie mogą nie być w stanie się obronić – przekonują.

"Jako społeczeństwo potrzebujemy jak najwięcej czasu, aby przygotować się na bardziej zaawansowane oszustwa ze strony opartych na SI produktów i ogólnodostępnych modeli" – uważa dr Park. - "Kiedy możliwości SI w obszarze oszukiwania staną się doskonalsze, zagrożenia dla społeczeństwa będą rosły".

Badacze chwalą przy tym inicjatywy podejmowane już w celu regulowania SI, takie jak EU AI Act czy amerykański AI Executive Order.

Powstaje jednak pytanie, czy uda się odpowiednie regulacje zaimplementować, skoro twórcy SI nie do końca wiedzą, jak ją kontrolować.

Pozostają też kwestie polityczne. "Jeśli zakaz tworzenia podstępnej SI jest z politycznego punktu widzenia, obecnie niemożliwe, zalecamy zaklasyfikowanie zdolnej do oszustw SI jako technologii wysokiego ryzyka" – mówi dr Park.

Portal TV Republika/ PAP

Wiadomości

Posłowie od Tuska wspaniale bawili się na imprezie wiatrakowego koncernu

Wójcik: Zemsta jako motywator jest czymś zgubnym, to prowadzi tę władzę na ścianę

W Niemczech nasila się antychrześcijańska fala

"Demokracja walcząca" ma pomysł na konstytucję

Fogiel: to straszne, że główna partia rządząca sięga po tak tandetny i niszczący państwo populizm

Świat znów mówi o zabójstwie z 1989 roku. Zapadła decyzja ws. braci Menendez [WIDEO]

Aresztowano 41-latkę poszukiwaną za zabójstwo w Niemczech

"Chwała bohaterom!". Prezes PiS o upamiętnieniu śp. sierż. Mateusza Sitka

Kto to wymyślił? Nawet sukces chcą obrzydzić?!

Leśkiewicz: działania prokuratury przeciwko prof. Cenckiewiczowi to walka z Prezydentem

Już kolejny rosyjski dezerter złożył wniosek o azyl w tym kraju

Niemieccy aktywiści klimatyczni zaatakowali Żydów

Jednocześnie zginęło aż sześcioro uczniów. Jednak to nie wszystko...

W Niemczech chcą zapomnieć o pakcie Ribbentrop-Mołotow

Moskal: prokurator Maksjan wykazał się bezrefleksyjnością!

Najnowsze

Posłowie od Tuska wspaniale bawili się na imprezie wiatrakowego koncernu

Fogiel: to straszne, że główna partia rządząca sięga po tak tandetny i niszczący państwo populizm

Świat znów mówi o zabójstwie z 1989 roku. Zapadła decyzja ws. braci Menendez [WIDEO]

Aresztowano 41-latkę poszukiwaną za zabójstwo w Niemczech

"Chwała bohaterom!". Prezes PiS o upamiętnieniu śp. sierż. Mateusza Sitka

Wójcik: Zemsta jako motywator jest czymś zgubnym, to prowadzi tę władzę na ścianę

W Niemczech nasila się antychrześcijańska fala

"Demokracja walcząca" ma pomysł na konstytucję