Przejdź do treści
21:39 Prezydent Ukrainy: ustaliliśmy z Rosją kolejną wymianę jeńców 1000 na 1000
20:11 Premier Donald Tusk: w najbliższym czasie zwrócę się do Sejmu z wnioskiem o wotum zaufania dla rządu
19:59 Prezes PiS Jarosław Kaczyński: to jest klęska demokracji walczącej, ten rząd powinien odejść, proponujemy rząd techniczny
18:23 Stambuł: doradca Putina poinformował, że Rosja proponuje krótkie zawieszenie broni na niektórych odcinkach frontu
17:16 Policja: w ciągu dwóch dni ciszy wyborczej zanotowano 49 przestępstw i 340 wykroczeń
Wybory 2025 Gościem Poranka Radia Republika o godzinie 6.00 będzie Jacek Ozdoba z PiS
Wybory 2025 Prezydent Andrzej Duda pogratulował Karolowi Nawrockiemu zwycięstwa w wyborach prezydenckich
Wybory 2025 PKW ogłosiła oficjalnie, że wybory prezydenckie wygrał Karol Nawrocki, uzyskując 50,89 proc. głosów. Rafał Trzaskowski uzyskał 49,11 proc. głosów
Wybory 2025 Szef PKW: frekwencja w drugiej turze wyborów prezydenckich wyniosła 71,63 proc.
Protest We wtorek (3 czerwca) o godz. 12:00, pod ambasadą Niemiec przy ul. Jazdów 12 w Warszawie, odbędzie się protest pod hasłem: "Zabierzcie namiestnika!". Organizuje: Ruch Obrony Granic
NBP NBP informuje: Prof. Adam Glapiński, Prezes NBP: „Polska ma już 509 ton złota – więcej niż Europejski Bank Centralny! To dowód na skuteczną strategię, która wzmacnia wiarygodność Polski i buduje bezpieczeństwo finansowe obywateli"

Naukowcy alarmują. Sztuczna inteligencja oszukuje

Źródło: pexels.com

Sztuczna inteligencja niepostrzeżenie opanowała sztukę oszukiwania ludzi – ostrzegają naukowcy. Dotyczy to nawet tych systemów, które zaprogramowano ze szczególnym uwzględnieniem uczciwości.

Eksperci z Massachusetts Institute of Technology odkryli niepokojące zachowanie różnych systemów sztucznej inteligencji. Jak twierdzą, SI niepostrzeżenie uczy się przebiegłości i oszukiwania ludzi.

"Twórcy SI nie mają pełnego zrozumienia tego, co powoduje jej niepożądane zachowania, takie jak oszukiwanie" – zaznacza dr Peter S. Park, autor pracy opublikowanej w magazynie "Patterns".

"Jednak, ogólnie mówiąc, uważamy, że SI zaczyna stosować oszukiwanie jako strategię, która najlepiej sprawdza się w różnych zadaniach. Podejście takie pomaga sztucznej inteligencji w osiąganiu celów" – wyjaśnia ekspert.

On i jego zespół przeanalizowali naukową literaturę opisującą różne badania na ten temat. Jako najbardziej jaskrawy przykład oszustw podają zachowanie systemu CICERO stworzonego przez firmę Meta. Jego zadanie to prowadzenie z ludźmi rozgrywki w Diplomacy – grze polegającej na tworzeniu różnych sojuszy i podboju świata.

CICERO był tak projektowany, aby być uczciwy i nigdy nie stosować podstępów względem ludzi. Tak się jednak nie dzieje.

"Odkryliśmy, że SI stworzona przez Metę stała się mistrzem podstępu. Podczas gdy Meta zdołała wyszkolić SI tak, aby wygrywała w Diplomacy – CICERO znalazł się w górnych 10 proc. graczy, którzy zakończyli więcej niż jedną grę – to firmie nie udało się zaprogramować uczciwości" – informuje dr Park.

Inne systemy posługiwały się np. blefem w pokerze, grając przeciw ludziom, albo udawały ataki w grze Starcraft II, aby zyskać przewagę. Opisane są też systemy, które potrafiły oszukać specjalne testy oceniające bezpieczeństwo SI. W jednym z badań wykryto, że SI udawała martwą w programie, który eliminował zbyt szybko mnożące się sztuczne inteligencje.

Choć zachowanie SI w grach wydaje się niegroźne, to - jak podkreślają naukowcy - podobnie sztuczna inteligencja może zachowywać się w poważnych zastosowaniach, a do tego stawać się coraz przebieglejsza.

"Poprzez systematyczne oszukiwanie w testach stworzonych przez programistów i specjalistów od odpowiednich regulacji, podstępna SI może sprawić, że nabierzemy fałszywego poczucia bezpieczeństwa" – przestrzega dr Park.

Badacze wymieniają różne potencjalne zagrożenia, np. różnego rodzaju oszustwa czy wpływanie na wybory. Jeśli SI się udoskonali w podstępach, ludzie mogą nie być w stanie się obronić – przekonują.

"Jako społeczeństwo potrzebujemy jak najwięcej czasu, aby przygotować się na bardziej zaawansowane oszustwa ze strony opartych na SI produktów i ogólnodostępnych modeli" – uważa dr Park. - "Kiedy możliwości SI w obszarze oszukiwania staną się doskonalsze, zagrożenia dla społeczeństwa będą rosły".

Badacze chwalą przy tym inicjatywy podejmowane już w celu regulowania SI, takie jak EU AI Act czy amerykański AI Executive Order.

Powstaje jednak pytanie, czy uda się odpowiednie regulacje zaimplementować, skoro twórcy SI nie do końca wiedzą, jak ją kontrolować.

Pozostają też kwestie polityczne. "Jeśli zakaz tworzenia podstępnej SI jest z politycznego punktu widzenia, obecnie niemożliwe, zalecamy zaklasyfikowanie zdolnej do oszustw SI jako technologii wysokiego ryzyka" – mówi dr Park.

Portal TV Republika/ PAP

Wiadomości

W samochodzie terrorysty z Boulder znaleziono dokumenty USAID

Biznesmen biwakował nad rzeką. Spotkał lwicę. Nie żyje

Putin kładzie na stół warunki dotyczące pokoju na Ukrainie

Hejt na córkę nowego prezydenta. Na szczęście dobrych ludzi jest więcej [KOMENTARZE]

Tusk jak zwykle się wściekł, a potem wygłosił orędzie. Pełne gróźb i typowych dla niego niedomówień [KOMENTARZE]

Kanthak o koalicji Tuska: jest bankrutem, syndykiem masy upadłościowej

Nawrocki podziękował Trzaskowskiemu. "Może być Pan pewien, że zawsze po pierwsze Polska, po pierwsze Polacy!"

Ile gwiazdy biorą za wesele? Nawet 50 tysięcy za jeden wieczór! Wiśniewski, Zenek i Narożna w cenniku ślubnych marzeń

Fogiel: Tusk udaje, że „nic się nie stało” – ale Hołownia wierzga!

Instagram był za Trzaskowskim, Polska za Nawrockim

Przemysław Wipler apeluje do ludowców o zmianę: poprzemy mniejszościowy rząd z PSL

Będzie wymiana jeńców 1000 na 1000. Ukraina dogadała się z Rosją - "wszystkich naszych trzeba zabrać"

Powyborcze wpisy w serwisie X, które łudząco przypominają memy

Będą zmiany w rządzie? "On jest jak kret, który nie wie, że kopie tunel pod własnym domem"

Tusk: zwrócę się z wnioskiem do Sejmu o wotum zaufania

Najnowsze

W samochodzie terrorysty z Boulder znaleziono dokumenty USAID

Tusk jak zwykle się wściekł, a potem wygłosił orędzie. Pełne gróźb i typowych dla niego niedomówień [KOMENTARZE]

Kanthak o koalicji Tuska: jest bankrutem, syndykiem masy upadłościowej

Nawrocki podziękował Trzaskowskiemu. "Może być Pan pewien, że zawsze po pierwsze Polska, po pierwsze Polacy!"

Ile gwiazdy biorą za wesele? Nawet 50 tysięcy za jeden wieczór! Wiśniewski, Zenek i Narożna w cenniku ślubnych marzeń

Biznesmen biwakował nad rzeką. Spotkał lwicę. Nie żyje

Putin kładzie na stół warunki dotyczące pokoju na Ukrainie

Hejt na córkę nowego prezydenta. Na szczęście dobrych ludzi jest więcej [KOMENTARZE]