OpenAI pod lupą za fałszywe oskarżenia ChatGPT

Norweg Arve Hjalmar Holmen złożył skargę do Norweskiego Urzędu Ochrony Danych, żądając ukarania OpenAI – twórcy ChatGPT – za rozpowszechnianie fałszywych informacji na jego temat.
Chatbot, zapytany o Holmena, stwierdził, że mężczyzna zabił swoich dwóch synów i został skazany na 21 lat więzienia. Holmen, który w rzeczywistości ma trzech synów, nigdy nie był oskarżony ani skazany za żadne przestępstwo. Organizacja praw cyfrowych Noyb, reprezentująca Holmena, określa odpowiedź ChatGPT jako zniesławiającą i naruszającą europejskie przepisy o ochronie danych osobowych.
Sprawa ta jest kolejnym przykładem tzw. "halucynacji" systemów AI, polegających na wymyślaniu faktów i przedstawianiu ich jako prawdziwe. Holmen podkreśla, że fałszywe informacje mogą zaszkodzić jego reputacji, gdyż niektórzy mogą uwierzyć, że "nie ma dymu bez ognia".
OpenAI umieszcza w ChatGPT ostrzeżenie o możliwości popełniania błędów, jednak Noyb uważa to za niewystarczające. Prawnik organizacji, Joakim Söderberg, argumentuje, że nie można rozpowszechniać fałszywych informacji i "dodawać małego ostrzeżenia, że to wszystko może nie być prawdą".
"Halucynacje" są jednym z kluczowych wyzwań w rozwoju generatywnej sztucznej inteligencji. Wcześniej Apple zawiesił działanie swojego narzędzia do podsumowywania wiadomości w Wielkiej Brytanii po tym, jak generowało ono fałszywe nagłówki. Podobne problemy z "halucynacjami" miał również AI Gemini od Google.
ChatGPT niedawno zmienił model wyszukiwania, wykorzystując aktualne artykuły prasowe do pozyskiwania informacji. Według Noyb, wcześniejsze zapytania Holmena w chacie, dotyczące jego brata, mogły wpłynąć na fałszywą odpowiedź dotyczącą jego synów. Jednakże, ze względu na "czarną skrzynkę" modeli językowych i brak odpowiedzi ze strony OpenAI, ustalenie dokładnych przyczyn jest niemożliwe.
Źródło: Republika
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
Polecamy Klarenbach. Tu się Mówi
Wiadomości
W punkt: goście ostro o Bachmannie i ataku Tuska na NBP: „Niech się pan Szwab odstosunkuje od polskiego złota”
Czarnek: przez ideologiczną głupotę kierownictwa MEN dzieci nie będą miały żadnych zajęć z edukacji seksualnej
Holecka: dlaczego Żurek rezygnuje z losowania sędziów? Andruszkiewicz: może trzeba zadzwonić do pana Nowaka lub Grodzkiego?
Cenckiewicz: Polska nie powinna przykładać ręki do operacji wydania człowieka, który zaszkodził Rosji
Najnowsze

Czarnek: przez ideologiczną głupotę kierownictwa MEN dzieci nie będą miały żadnych zajęć z edukacji seksualnej

Papież Leon XIV uda się do Turcji i Libanu

Holecka: dlaczego Żurek rezygnuje z losowania sędziów? Andruszkiewicz: może trzeba zadzwonić do pana Nowaka lub Grodzkiego?
