Osnivač Microsofta Bil Gejts izjavio je da je veštačka inteligencija već dovoljno moćna da pokrene događaje koji bi mogli odneti milijardu života, te da samoregulacija AI kompanija sigurno nije dovoljna. Gejts je pozvao zakonodavce da hitno uvedu obavezujuća pravila, upozoravajući da bi AI u rukama zlonamernih aktera mogla postati najmoćnije oružje sa kojim se svet ikada suočio.
Najvažnije
- Bil Gejts je izjavio da je AI već dovoljno moćna da pokrene događaje koji bi mogli prouzrokovati milijardu smrti.
- Fokus upozorenja nije na tome da bi AI sama uništila čovečanstvo, već da bi je zlonamerni akteri mogli zloupotrebiti kao oružje.
- Gejts je odbacio ideju da AI kompanije mogu same sebe regulisati i pozvao na obavezujuću zakonsku regulativu.
- Izjava dolazi u trenutku kada i deo AI industrije poziva na sporiji i pažljiviji razvoj najnaprednijih modela.
- Evropska unija već ima obavezujuća pravila slična onima koja Gejts zagovara, dok u SAD rasprava o regulativi i dalje traje.
Šta je tačno Gejts rekao
U intervjuu za emisiju “Meet the Press” na NBC-ju, koji vodi Kristen Velker, a koji je zakazan za emitovanje u nedelju, Gejts je izjavio da je “AI sigurno dovoljno moćna da pokrene događaje koji… prouzrokuju milijardu smrti.” Opisao je ljude sa lošim namerama koji koriste najnovije AI alate kao najmoćnije oružje sa kojim se svet ikada suočio. Važno je naglasiti da se Gejtsovo upozorenje ne odnosi na scenario u kojem bi sama veštačka inteligencija, delujući samostalno, istrebila čovečanstvo — fokus njegove izjave je na zloupotrebi AI alata od strane zlonamernih ljudi, na primer za pravljenje bioloških ili hemijskih pretnji, masovne sajber-napade ili dezinformacione kampanje ogromnih razmera.
Zašto Gejts odbacuje samoregulaciju
Na pitanje voditeljke da li se AI kompanijama može verovati da same sebe regulišu, Gejts je dao nedvosmislen odgovor: “Niko ne misli da je samoregulacija dovoljna.” Dodao je da organi reda i političari moraju da učestvuju u odlučivanju o tome kakve bezbednosne mere i nadzor treba uspostaviti, te da te mere moraju biti obavezujuće, a ne dobrovoljne. Kada ga je voditeljka upitala da li bi Vašington trebalo da donese odgovarajuće zakone, Gejts je odgovorio kratko i jasno: “Apsolutno.”
Deo šireg talasa zabrinutosti unutar same AI industrije
Gejtsova izjava se poklapa sa rastućim brojem upozorenja koja dolaze i iz same industrije. Izvršni direktor Anthropic-a Dario Amodej pozvao je na sporiji i pažljiviji razvoj najnaprednijih modela (više u tekstu Anthropic i OpenAI pozivaju na usporavanje AI-ja). Razlika je u tome što Gejts ne gradi AI modele, pa njegovo upozorenje dolazi spolja — od nekoga ko je decenijama u tehnologiji, ali nema direktan poslovni interes u trci laboratorija.
Razlika između evropskog i američkog pristupa
Evropa već ima vrstu obavezujućih pravila kakva Gejts opisuje, dok rasprava u Sjedinjenim Državama i dalje ostaje otvorena, nakon što je predsednik Donald Tramp ranije ovog meseca odbacio pozive na usporavanje razvoja AI. Od 2. avgusta, Evropska komisija ima ovlašćenje da kažnjava provajdere opštih AI modela novčanim kaznama do 3 procenta njihovog globalnog godišnjeg prometa, iako do sada nije prijavljena nijedna sprovedena kazna protiv provajdera modela. Gejts je poslednjih meseci postao znatno glasniji po pitanju rizika od AI, iako ostaje jedan od najpoznatijih optimista kada je reč o ovoj tehnologiji. U avgustovskom eseju upozorio je da bi zlonamerni akteri mogli koristiti sve moćniju AI za sajber-napade, prevare i dezinformacije usmerene na bolnice, finansijske institucije, elektroenergetske mreže i državne sisteme, dodajući da će AI “ili biti najveći ikada izumljeni izjednačivač, ili najgori izvor nepravde.”
Šta ovo znači za Srbiju i region
Za Srbiju i region ova rasprava nije samo akademska. Kao zemlja kandidat za članstvo u Evropskoj uniji, Srbija postepeno usklađuje svoje zakonodavstvo sa evropskim standardima, uključujući i buduću regulativu u oblasti veštačke inteligencije, iako lokalni pravni okvir posvećen isključivo AI-ju za sada ne postoji u razvijenom obliku. Gejtsovo upozorenje o mogućoj zloupotrebi AI za napade na bolnice, finansijske institucije i elektroenergetske mreže posebno je relevantno za region u kojem je kritična infrastruktura, prema više ranijih izveštaja domaćih i regionalnih institucija, često tehnički zastarela i ranjiva na sajber-napade. Ulazak ovakvih upozorenja u mejnstrim javni diskurs, kroz jednog od najpoznatijih tehnoloških preduzetnika sveta, mogao bi da ubrza i lokalne rasprave o potrebi za jasnijim pravilima bezbednog korišćenja AI alata, kako na nivou institucija tako i na nivou pojedinačnih kompanija.
Pitanja i odgovori
Da li Bil Gejts kaže da će AI sigurno ubiti milijardu ljudi?
Ne, Gejts kaže da je AI već dovoljno moćna da omogući događaje koji bi mogli prouzrokovati toliko žrtava ukoliko je zlonamerni akteri zloupotrebe, a ne da će do toga sigurno i doći.
Šta Gejts predlaže kao rešenje?
Gejts predlaže obavezujuću zakonsku regulativu koju bi sprovodili organi reda i političari, umesto oslanjanja na dobrovoljnu samoregulaciju AI kompanija.
Kako Evropska unija reguliše ovo pitanje i da li se to odnosi na Srbiju?
Evropska komisija od avgusta ove godine ima ovlašćenje da kažnjava provajdere opštih AI modela novčanim kaznama do 3 procenta globalnog prometa; Srbija kao zemlja kandidat postepeno usklađuje svoje zakonodavstvo sa ovakvim evropskim standardima, iako sopstvena sveobuhvatna AI regulativa još nije uspostavljena.
Povezani članci
Izvor: Yellow.com