Kanada będzie sprawdzać treści. AI pod lupą instytutu

"Kanadyjski instytut bezpieczeństwa AI (…) będzie niezbędną częścią działań w procesie budowy zaufania wobec tej technologii" - powiedział cytowany we wtorkowym komunikacie minister innowacji, nauki i przemysłu François-Philippe Champagne.

Nowy instytut ma zajmować się definiowaniem ryzyk, zarówno w krótkim, jak i w długim terminie, które mogą powstawać w wyniku używania AI. 

Zajmie się też rozpoczętymi już w Kanadzie badaniami nad wykrywaniem treści sporządzanych przez AI, oceną zaawansowanych modeli sztucznej inteligencji, zapewnianiem bezpiecznego wykorzystania, a także – dbaniem o prywatność. W komunikacie podkreślono, że chodzi o ochronę Kanadyjczyków przed potencjalnie szkodliwymi skutkami wykorzystania AI, takimi jak kampanie dezinformacyjne, łamanie cyberzabezpieczeń czy wpływanie na kampanie wyborcze.

Pod koniec października br. noblista i jeden z pionierów AI Geoffrey Hinton mówił podczas wykładu w Toronto o problemach, które AI może stwarzać. Hinton podkreślił, że przez pewien czas uważał, że wystarczyłoby oznaczać treści generowane przez AI, ale obecnie jest zdania, że w te treści mógłby być wbudowywany kod typu QR, który prowadziłby do strony internetowej służącej jako weryfikacja – cytował publiczny nadawca CBC.

W lutym br. organizacja badawcza The Conference Board of Canada opublikowała wyniki swoich prac nad efektami wykorzystania AI w kanadyjskiej gospodarce. Prognoza zakłada, że kanadyjskie PKB mogłoby wzrosnąć o dodatkowe 2 proc. Wskazywano, że już 46 proc. startupów korzysta z narzędzi AI, a kolejne 38 proc. analizuje ich użycie. Jednocześnie większość firm (63 proc.) odpowiadała, że wykorzystanie AI nie będzie oznaczać zwolnień, natomiast może oznaczać zmiany typu poszukiwanych pracowników. Jednocześnie przedsiębiorcy wskazywali na bariery wykorzystania AI: wysokie koszty, brak wiarygodnych materiałów do szkoleń, obawy o bezpieczeństwo danych i prywatność, a także obawy co do przyszłych regulacji AI.

Projekt ustawy, która reguluje m.in. wykorzystanie AI jest po drugim czytaniu w Izbie Gmin kanadyjskiego parlamentu i ciągle trwają prace w komisjach.

Instytut, na który rząd przeznacza początkowo 27 mln CAD, będzie mieścił się w Montrealu, jego działanie będzie wspierane przez znajdujący się również w Montrealu Kanadyjski instytut badań zaawansowanych (CIFAR), który jest partnerem rządu w realizacji kanadyjskiej strategii AI. Została ona ogłoszona w 2017 r. i była pierwszą na świecie. Główne trzy kanadyjskie ośrodki badań nad AI to Montreal, Edmonton i Toronto. Tylko w ub.r. 1,4 mld CAD na badania nad nowymi technologiami trafiło do 11 uniwersytetów, w tym m.in. 125 mln CAD na prace nad AI na Uniwersytecie Montrealskim nad - jak to ujęto - "odpowiedzialną AI" oraz wzorcami dla nauki.

W dniach 20 i 21 listopada br. w San Francisco odbędzie się pierwsze spotkanie międzynarodowej sieci instytutów bezpieczeństwa AI. W skład tej grupy wchodzą Kanada, Australia, Francja, Japonia, Kenia, Korea Płd., Singapur, USA, Wielka Brytania oraz Unia Europejska.

Źródło: PAP