OpenAI pod lupą za fałszywe oskarżenia ChatGPT

Chatbot, zapytany o Holmena, stwierdził, że mężczyzna zabił swoich dwóch synów i został skazany na 21 lat więzienia. Holmen, który w rzeczywistości ma trzech synów, nigdy nie był oskarżony ani skazany za żadne przestępstwo. Organizacja praw cyfrowych Noyb, reprezentująca Holmena, określa odpowiedź ChatGPT jako zniesławiającą i naruszającą europejskie przepisy o ochronie danych osobowych.

Sprawa ta jest kolejnym przykładem tzw. "halucynacji" systemów AI, polegających na wymyślaniu faktów i przedstawianiu ich jako prawdziwe. Holmen podkreśla, że fałszywe informacje mogą zaszkodzić jego reputacji, gdyż niektórzy mogą uwierzyć, że "nie ma dymu bez ognia".

OpenAI umieszcza w ChatGPT ostrzeżenie o możliwości popełniania błędów, jednak Noyb uważa to za niewystarczające. Prawnik organizacji, Joakim Söderberg, argumentuje, że nie można rozpowszechniać fałszywych informacji i "dodawać małego ostrzeżenia, że to wszystko może nie być prawdą".

"Halucynacje" są jednym z kluczowych wyzwań w rozwoju generatywnej sztucznej inteligencji. Wcześniej Apple zawiesił działanie swojego narzędzia do podsumowywania wiadomości w Wielkiej Brytanii po tym, jak generowało ono fałszywe nagłówki. Podobne problemy z "halucynacjami" miał również AI Gemini od Google.

ChatGPT niedawno zmienił model wyszukiwania, wykorzystując aktualne artykuły prasowe do pozyskiwania informacji. Według Noyb, wcześniejsze zapytania Holmena w chacie, dotyczące jego brata, mogły wpłynąć na fałszywą odpowiedź dotyczącą jego synów. Jednakże, ze względu na "czarną skrzynkę" modeli językowych i brak odpowiedzi ze strony OpenAI, ustalenie dokładnych przyczyn jest niemożliwe.

Źródło: Republika

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X