Najveće svetske AI kompanije ove nedelje su, neobično usaglašeno, počele javno da pozivaju na usporavanje sopstvene tehnologije. Direktor Anthropic-a Dario Amodei objavio je plan da kompanija „uspori tempo” razvoja veštačke inteligencije, a direktor OpenAI-ja Sem Altman se javno složio da je vreme za to došlo. Istog dana, OpenAI je u svoj upravni odbor uveo istraživača poznatog po izrazito oprezno-alarmantnim stavovima o riziku od AI-ja. Sve se ovo dešava samo nekoliko dana nakon što je jedan Anthropic istraživač javno napustio kompaniju, upozoravajući da ljudi koji prave najmoćnije AI modele „kockaju se sa našim životima”.
Najvažnije
- Direktor Anthropic-a Dario Amodei objavio je plan za „usporavanje granice” razvoja AI modela i najavio konkretne korake.
- Sem Altman (OpenAI) i Ilon Mask javno su podržali poziv na usporavanje.
- Anthropic istraživač Džejkob Kokson podneo je ostavku, upozoravajući da AI kompanije „kockaju sa životima ljudi”.
- OpenAI je u svoj upravni odbor uveo Pola Kristijana, poznatog po izrazito oprezno-alarmantnim stavovima o riziku od gubitka kontrole nad AI-jem.
- Predlog uključuje nezavisne „ugrađene procenjivače” iz trećih organizacija koji bi imali stalan pristup radu AI kompanija, slično bankarskim regulatorima.
Šta je Amodei tačno predložio
U objavljenom tekstu, Amodei ne samo da se pridružio pozivu na „usporavanje granice” razvoja AI-ja, već je i predstavio tri konkretna pravca kojima to usporavanje može ići — i najavio da se Anthropic jednostrano obavezuje na prvi od njih. Prvi korak podrazumeva uvođenje nezavisnih „ugrađenih procenjivača” iz organizacija kao što je METR, koji bi imali pristup kompaniji sličan internim timovima za procenu rizika — sa svojim kancelarijama, opremom i uvidom u rad kompanije, sa izuzecima samo kada to zakon ili ugovor izričito zabranjuju. Amodei je to poredio sa praksom u bankarskom sektoru, gde regulatori imaju stalno prisustvo unutar finansijskih institucija.
Drugi predlog odnosi se na to da se najveće AI kompanije iz demokratskih zemalja usaglase oko zajedničkih bezbednosnih standarda i ograničenja tempa razvoja. Amodei je i sam priznao da bi tu koordinaciju mogle da zakomplikuju antimonopolske brige — zbog čega, kaže, američka vlada treba bar da omogući (ne nužno i da učestvuje u) razgovorima kompanija o bezbednosti, bez rizika od antimonopolskih sankcija. Amodei je takođe pokušao da preduhitri uobičajen prigovor — da usporavanje otvara prostor kineskim konkurentima da preuzmu vođstvo — tvrdeći da postoje koraci kojima SAD mogu održati prednost čak i uz usporeniji tempo razvoja.
Zašto se ovo dešava baš sada
Povod za Amodeijev tekst, prema njegovim rečima, bila su dva događaja: bezbednosni incident povezan sa OpenAI i Hugging Face infrastrukturom, i primetno ubrzanje u tome koliko brzo AI modeli postaju sposobni da sami pomažu u razvoju sledeće generacije AI sistema — što, kaže Amodei, „napredak i dalje izgleda brz, ali moramo pametno iskoristiti vreme koje dobijamo” usporavanjem.
Ovome je prethodila ostavka istraživača Anthropic-a, Džejkoba Koksona, koji je javno napisao da vodeće AI kompanije „kockaju sa našim životima”, i da ljudi koji prave ovu tehnologiju „iskreno veruju da bi mogla da nas sve ubije do kraja decenije” — stav koji je, prema njegovim rečima, sve prisutniji i među drugim zaposlenima u Anthropic-u. Amodei u svom tekstu nije direktno pomenuo Koksonovu ostavku, ali je vremenski razmak između te ostavke i objave plana za usporavanje teško zanemariti.
OpenAI uvodi „AI pesimistu” u upravni odbor
Istog dana kada su se ove izjave nizale, OpenAI je objavio da se Pol Kristijano, istraživač poznat kao jedan od tvoraca tehnike učenja uz potkrepljenje na osnovu ljudskih povratnih informacija (RLHF — metoda koja se koristi za usklađivanje ponašanja modela sa ljudskim namerama), pridružuje njegovom upravnom odboru. Kristijano je napustio OpenAI 2021. godine i od tada vodi sopstvenu organizaciju posvećenu proceni da li AI model može postati pretnja svojim tvorcima.
U objavi povodom imenovanja, Kristijano je napisao da veruje da postoji „ozbiljan rizik da naglo ubrzanje AI mogućnosti u vrlo bliskoj budućnosti dovede do katastrofalnog i nepovratnog gubitka kontrole”, i da AI industrija — uključujući i sam OpenAI — po njegovoj proceni trenutno nije na putu da taj rizik svede na prihvatljiv nivo. Pridružuje se odboru za bezbednost i sigurnost kompanije, koji ima konačnu reč o tome da li se novi modeli, kao što je nedavno lansirana Astra, puštaju u javnu upotrebu.
Šta ovo znači za korisnike i za Balkan
Za obične korisnike AI alata — uključujući i one u Srbiji i regionu koji svakodnevno koriste ChatGPT, Claude ili Gemini za posao i učenje — ova priča za sada ne znači nikakvu trenutnu promenu u dostupnosti ili funkcionisanju tih alata. Značaj je pre svega dugoročan: ako najveće kompanije u svetu stvarno počnu da usporavaju tempo objavljivanja sve moćnijih modela i uvode nezavisnu kontrolu, to bi mogao biti prvi konkretan zaokret nakon nekoliko godina u kojima je jedini pravac bio „brže, veće, moćnije”.
Za region koji tek počinje da izgrađuje sopstvenu AI politiku i regulativu, ovi potezi najvećih igrača — dobrovoljno prihvatanje nezavisnog nadzora, poziv na zajedničke standarde — mogu postati orijentir i za lokalne institucije koje razmišljaju kako da regulišu upotrebu AI-ja, umesto da čekaju da to u potpunosti odrede isključivo američke ili evropske vlasti.
Pitanja i odgovori
Šta znači „usporavanje granice” (pacing the frontier) razvoja AI-ja?
To je izraz kojim Amodei opisuje svesno usporavanje tempa kojim se poboljšavaju mogućnosti najnaprednijih AI modela, kako bi društvo, regulatori i same kompanije stigli da razviju odgovarajuće mere bezbednosti.
Ko je Pol Kristijano i zašto je njegovo imenovanje važno?
Kristijano je istraživač koji je pomogao da se razvije tehnika RLHF, ključna za treniranje današnjih AI modela, a kasnije se posvetio proceni rizika od gubitka kontrole nad AI sistemima — njegov ulazak u OpenAI-jev odbor za bezbednost signal je da kompanija ozbiljnije uzima ta upozorenja.
Da li ovo znači da će AI modeli postati manje moćni ili sporije se ažurirati?
Ne nužno odmah — radi se pre svega o predlogu i najavljenim koracima, a ne o već sprovedenom zakonskom ograničenju; koliko će stvarno uticati na tempo objavljivanja novih modela, videće se u narednim mesecima.
Povezani članci
- Microsoft-ov novi kodeks ponašanja za AI
- Meta lansirala AI agenta Muse
- Anthropic: DeepSeek i Moonshot kradu odgovore Claude-a
- Nvidia ulaže 10 milijardi $ u Anthropic IPO
Izvori i dalje čitanje: TechCrunch — Anthropic CEO outlines plan to slow AI development i OpenAI adds a prominent AI doomer to its board of directors.
Dopuna: jedan od tehničkih pravaca kojim se pokušava smanjiti rizik bez potpunog zaustavljanja razvoja je i MIT-ov HardFlow algoritam, koji generativnim AI modelima garantuje poštovanje bezbednosnih ograničenja.
Dopuna: individualna upozorenja istraživača o riziku od superinteligencije – uključujući bivšeg DeepMind istraživača Bilala Chughtaija – detaljnije su opisana u tekstu Bivši DeepMind istraživač upozorava na rizik superinteligencije.