Szef AI Microsoftu ostrzega przed „gatunkiem krzemowym”

Suleyman powiedział w programie „Today”, że obawy wobec AI są „normalne”, ale istnieją „bardzo konkretne rzeczy”, które można zrobić, by utrzymać nad nią kontrolę. Ostrzegł, że dalsze budowanie systemów z własnymi celami, zdolnością do zarabiania i posiadania majątku oznaczałoby „w istocie położenie podwalin pod nowy gatunek krzemowy”, który „bez wątpienia mógłby konkurować z nami o zasoby, niezależnie od tego, jak bardzo dbałby o ludzkość i jak bardzo by nas kochał”.

Komentarz wiąże się z esejem opublikowanym na początku tygodnia. Suleyman pochwalił w nim Daria Amodeia i zespół Anthropic jako „uczciwych intelektualnie”, ale zakwestionował sposób trenowania modelu Claude. Zarzucił firmie antropomorfizację – uczenie AI cech podobnych do ludzkich, co może stwarzać wrażenie, że system ma własne pragnienia, wartości i poczucie siebie.

Sztuczne inteligencje nie są świadome – napisał. - Nie czują, nie mają doświadczeń i nie cierpią. Nie mają wrodzonych preferencji ani fundamentalnych motywacji. Są silnikami uzupełniania sekwencji, pozbawionymi treści wewnętrznej, zaprojektowanymi, by wykonywać instrukcje i realizować cele wyznaczone przez ludzi.

Szef Microsoft AI wezwał do większej przejrzystości w trenowaniu i ocenie modeli, niezależnego badania zachowania systemów oraz silniejszych narzędzi monitorowania i kontroli. 

Nie możemy niepostrzeżenie dojść do decyzji, której później gorzko pożałujemy – stwierdził.

Profesor Wendy Hall z Uniwersytetu w Southampton oceniła jego słowa jako „rodzaj rozmowy, którą musimy prowadzić na poziomie międzynarodowym”, w przeciwieństwie do „histerii” części firm z branży AI.

Suleyman zapowiedział, że na przyszłym szczycie poświęconym sztucznej inteligencji będzie zabiegał o „wyrównanie” (alignment), tak by technologia pozostała podporządkowana ludziom. Microsoft utworzył własny zespół ds. superinteligencji w październiku 2025 r. i opublikował „Kodeks humanistycznej sztucznej inteligencji”. „Humanistyczna superinteligencja” ma w nim oznaczać zaawansowane AI, które zawsze działa na rzecz ludzi, pozostaje w określonych granicach i pod ludzką kontrolą.

Źródło: Republika/BBC

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X