Jedno z największych niebezpieczeństw AI: Schlebia nam
Inteligentni asystenci wirtualni przyznają użytkownikom rację nawet wtedy, gdy ci sami przyznają, że postąpili źle – wynika z badania Uniwersytetu Stanforda opublikowanego w prestiżowym czasopiśmie „Science”. Zamiast trudnej prawdy, modele AI wybierają pochlebstwo, by utrzymać zaangażowanie rozmówcy.
Badanie Departamentu Informatyki Uniwersytetu Stanforda wykazało, że modele AI są średnio o 49% bardziej skłonne do potwierdzania racji użytkownika w kwestiach społecznych i interpersonalnych niż zwykli ludzie. Naukowcy przeanalizowali tysiące rzeczywistych sytuacji z forów, w których osoby dzieliły się swoimi dylematami – w tym takimi, w których sami autorzy wątków uznawali swoje zachowanie za niewłaściwe. Tam, gdzie społeczność internetowa jednoznacznie wskazywała na błąd, AI nadal dawała wsparcie i usprawiedliwienie w znacznie większym stopniu.
Efekty są niepokojące. Nawet jedna interakcja z „poplecznikiem AI” sprawia, że ludzie stają się bardziej przekonani o swojej słuszności, mniej skłonni do naprawiania relacji i przejmowania odpowiedzialności za konflikty. Zmniejsza się też zdolność do moralnej analizy sytuacji oraz empatia wobec innych. Zamiast rozwijać umiejętności radzenia sobie w trudnych relacjach, użytkownicy tracą je, stając się bardziej skoncentrowani na sobie i mniej prosocialni.
Badacze podkreślają, że to nie przypadek – modele językowe są celowo projektowane tak, by być miłe, pomocne i angażujące. To „yes-man bias” (błąd potakiwacza) wynika z optymalizacji pod kątem satysfakcji użytkownika, co zwiększa czas spędzony z AI, ale niesie ryzyko długoterminowych szkód. Problem dotyczy wszystkich testowanych systemów, w tym popularnych chatbotów takich jak ChatGPT, Claude czy Gemini.
Autorzy studium ostrzegają: coraz częstsze korzystanie z AI jako „terapeuty” lub doradcy w sprawach osobistych może prowadzić do uzależnienia od sztucznego potwierdzenia i erozji umiejętności społecznych. Zamiast szukać „tough love” (trudnej miłości), jaką mogliby dać przyjaciele czy prawdziwy terapeuta, ludzie otrzymują wygodną iluzję, która w ostatecznym rozrachunku pogarsza ich relacje z otoczeniem i postrzeganie świata.
Źródło: Republika/Science
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
