Szef AI Microsoftu ostrzega przed „gatunkiem krzemowym”
Mustafa Suleyman, szef działu AI w Microsofcie, ostrzegł, że tworzenie systemów zdolnych samodzielnie wyznaczać cele, zarabiać pieniądze i posiadać aktywa może dać początek nowej formie inteligencji – „gatunkowi krzemowemu”, który będzie konkurować z ludźmi o zasoby. W wywiadzie dla BBC skrytykował też rywala Anthropic za traktowanie sztucznej inteligencji jak człowieka. Dodał, że technologia powinna pozostać bezpieczna, kontrolowalna i „podległa ludzkości”.
Suleyman powiedział w programie „Today”, że obawy wobec AI są „normalne”, ale istnieją „bardzo konkretne rzeczy”, które można zrobić, by utrzymać nad nią kontrolę. Ostrzegł, że dalsze budowanie systemów z własnymi celami, zdolnością do zarabiania i posiadania majątku oznaczałoby „w istocie położenie podwalin pod nowy gatunek krzemowy”, który „bez wątpienia mógłby konkurować z nami o zasoby, niezależnie od tego, jak bardzo dbałby o ludzkość i jak bardzo by nas kochał”.
Komentarz wiąże się z esejem opublikowanym na początku tygodnia. Suleyman pochwalił w nim Daria Amodeia i zespół Anthropic jako „uczciwych intelektualnie”, ale zakwestionował sposób trenowania modelu Claude. Zarzucił firmie antropomorfizację – uczenie AI cech podobnych do ludzkich, co może stwarzać wrażenie, że system ma własne pragnienia, wartości i poczucie siebie.
Sztuczne inteligencje nie są świadome – napisał. - Nie czują, nie mają doświadczeń i nie cierpią. Nie mają wrodzonych preferencji ani fundamentalnych motywacji. Są silnikami uzupełniania sekwencji, pozbawionymi treści wewnętrznej, zaprojektowanymi, by wykonywać instrukcje i realizować cele wyznaczone przez ludzi.
Szef Microsoft AI wezwał do większej przejrzystości w trenowaniu i ocenie modeli, niezależnego badania zachowania systemów oraz silniejszych narzędzi monitorowania i kontroli.
Nie możemy niepostrzeżenie dojść do decyzji, której później gorzko pożałujemy – stwierdził.
Profesor Wendy Hall z Uniwersytetu w Southampton oceniła jego słowa jako „rodzaj rozmowy, którą musimy prowadzić na poziomie międzynarodowym”, w przeciwieństwie do „histerii” części firm z branży AI.
Suleyman zapowiedział, że na przyszłym szczycie poświęconym sztucznej inteligencji będzie zabiegał o „wyrównanie” (alignment), tak by technologia pozostała podporządkowana ludziom. Microsoft utworzył własny zespół ds. superinteligencji w październiku 2025 r. i opublikował „Kodeks humanistycznej sztucznej inteligencji”. „Humanistyczna superinteligencja” ma w nim oznaczać zaawansowane AI, które zawsze działa na rzecz ludzi, pozostaje w określonych granicach i pod ludzką kontrolą.
Źródło: Republika/BBC
Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
Jesteśmy na Youtube: Bądź z nami na Youtube
Jesteśmy na Facebooku: Bądź z nami na FB
Jesteśmy na platformie X: Bądź z nami na X
