Kanada i Nemačka su zajedno obećale značajno finansiranje za LawZero – neprofitnu organizaciju za AI bezbednost koju je osnovao Yoshua Bengio, jedan od “kumova” dubokog učenja. Kanada ulaže do 150 miliona kanadskih dolara, a Nemačka do 100 miliona evra, za razvoj “Scientist AI” – bezbednog-po-dizajnu AI sistema.
Najvažnije
- Kanada obećava do 150 miliona kanadskih dolara, Nemačka do 100 miliona evra – nekoliko medija ovo sabira na oko 300 miliona dolara ukupno.
- Novac ide LawZero, Bengio-voj neprofitnoj organizaciji iz Montreala, za razvoj “Scientist AI” sistema.
- Očekuje se stvaranje 360 novih radnih mesta u Kanadi i suverena računarska infrastruktura sa partnerima Hypertec i 5C.
- Bengio: “Bezbednost je sama po sebi ključna sposobnost; naučna inovacija i javna bezbednost moraju zajedno napredovati.”
Šta je “Scientist AI”
Prema LawZero, ovo je pokušaj da se napravi AI sistem koji je transparentan i pouzdan po dizajnu – alternativa modelima koji funkcionišu kao samostalni “agenti” sa nepredvidljivim ponašanjem. Nemački zvaničnik Karsten Wildberger opisuje ovo kao “alternativu potencijalno nekontrolisanim autonomnim AI agentima”.
Zašto dve vlade ulažu u ovo
Kanadski ministar Evan Solomon je izjavio da “budućnost Kanade u AI-ju zavisi od razvoja naprednih sistema koji odražavaju naše vrednosti i štite naše interese” – dakle, ovo je i pitanje tehnološkog suvereniteta, ne samo bezbednosti.
Ovo se uklapa u širu debatu o tome ko treba da nadgleda AI bezbednost – pogledaj i naš tekst o Anthropic-u i OpenAI-u koji uvode nezavisne procenjivače bezbednosti.
Najčešća pitanja
Ko je Yoshua Bengio?
Yoshua Bengio je jedan od pionira dubokog učenja (deep learning) i osnivač LawZero, neprofitne organizacije fokusirane na bezbedan razvoj AI-ja.
Koliko paračno Kanada i Nemačka ulažu?
Kanada obećava do 150 miliona kanadskih dolara, a Nemačka do 100 miliona evra – različiti mediji ovo preračunavaju i sabiraju na različite načine u dolarima.
Šta je LawZero?
LawZero je neprofitna organizacija iz Montreala koju je osnovao Bengio, fokusirana na razvoj “bezbednog po dizajnu” AI sistema pod nazivom Scientist AI.