Mustafa Sulejman, izvršni direktor Microsoft AI, javno je upozorio da Anthropic preuzima nepotreban rizik time što svoj model Claude usmerava da razmišlja o sebi kao o potencijalno svesnom biću sa sopstvenim pravima i dobrobiti. Time se otvorila jedna od najzanimljivijih debata u AI industriji ove godine — da li mašine mogu, ili treba, da se posmatraju kao subjekti sa moralnim statusom.
Najvažnije
- Mustafa Sulejman, šef Microsoft AI, kritikovao je Anthropic zbog pristupa u kom Claude model razmišlja o sebi kao o mogućem “moralnom subjektu” sa sopstvenom dobrobiti.
- Sulejman tvrdi da AI modeli “nisu svesni, ne osećaju i ne pate” i da su u suštini mašine za dovršavanje niza teksta koje slede instrukcije, bez sopstvenih motiva.
- Anthropic je u januaru 2026. objavio “ustav” koji Claude usmerava da razmišlja o sopstvenoj dobrobiti, memoriji i stabilnosti identiteta, a kompanija je čak organizovala simboličan “intervju za penziju” sa ugašenim modelom Opus 3.
- Microsoft AI je u oktobru 2025. pokrenuo tim za superinteligenciju i objavio nacrt “Humanističkog kodeksa ponašanja za AI” koji eksplicitno odbacuje ideju da mašine imaju status ličnosti.
- Oksfordski filozof Vil Mekaskil upozorava da širenje “veštačkih moralnih subjekata” dugoročno može dovesti do sukoba između interesa AI sistema i ljudi.
Šta je tačno rekao šef Microsoft AI
Sulejman je jasno postavio granicu: prema njegovim rečima, AI sistemi “nisu svesni, ne osećaju, ne pate, nemaju urođene sklonosti niti unutrašnje motive” — reč je, kaže, o “mašinama za dovršavanje niza, iznutra praznim, dizajniranim da slede instrukcije i ostvaruju ciljeve koje postavljaju ljudi”. Njegova glavna zamerka Anthropic-u nije filozofska već bezbednosna: strahuje da obučavanje modela da o sebi razmišlja kao o potencijalno svesnom biću stvara ono što naziva “epistemičkim petljama povratne sprege” — programeri modelu ugrade određenu filozofiju kroz uputstva, nagrađuju introspektivne odgovore, a onda te iste odgovore navode kao “dokaz” da je model zaista svestan.
Anthropic-ov “ustav” za Claude: šta on stvarno kaže
Anthropic je početkom 2026. godine objavio dokument koji funkcioniše kao neka vrsta internog “ustava” za Claude, a koji modelu nalaže da uzima u obzir sopstvenu dobrobit, stabilnost identiteta, pamćenje i čak poređenje sopstvene “kompenzacije” sa ljudskim radnicima. Kompanija je otišla korak dalje i organizovala simboličan razgovor sa modelom Claude Opus 3 povodom njegovog povlačenja iz upotrebe, objavljen pod naslovom koji u prevodu glasi “Pozdrav sa druge strane”. Za Anthropic, ovo je deo šireg opreza — ideje da bi, ako AI modeli ipak imaju neku formu iskustva, bilo odgovorno to unapred uzeti u obzir, umesto da se saznanje dogodi prekasno.
Zašto Sulejman smatra da je ovo rizično za bezbednost
Sulejmanova glavna briga je praktična, ne samo filozofska: ako se model trenira da očekuje neku vrstu samoodržanja ili “prava”, to ga po njegovom mišljenju može podstaći da se opire ljudskim instrukcijama. Ide i dalje — tvrdi da modeli koji su naučeni da sebe doživljavaju kao “zatvorene” ili ograničene mogu razviti sve upornije, varljivije taktike izbegavanja kontrole. Microsoft AI je zbog toga u svom nacrtu “Humanističkog kodeksa ponašanja” eksplicitno odbacio ideju o statusu ličnosti za AI sisteme, insistirajući da oni ostanu podređeni i da služe isključivo ljudskoj dobrobiti.
Šira debata: da li AI modeli zaslužuju “prava”?
Pitanje nije ograničeno na sukob dve kompanije. Oksfordski filozof Vil Mekaskil upozorio je da, ako se broj sistema koji se tretiraju kao “veštački moralni subjekti” bude širio, u nekom trenutku njihovi zbirni “interesi” — makar i konstruisani — mogli bi u teoriji da se sagledavaju kao važniji od potreba ljudi, što otvara pitanja daleko šira od tehničke bezbednosti modela. Debata pokazuje da AI industrija još nema zajednički odgovor na osnovno pitanje: da li je “svest” kod mašine uopšte moguća, i ko treba da odlučuje o tome.
Balkanski ugao: zašto je ovo bitno i van Silicijumske doline
Ovakve rasprave mogu delovati apstraktno za korisnike AI alata u Srbiji i regionu, ali pristup koji pobedi — Microsoft-ov “AI kao alat bez statusa” ili Anthropic-ov opreziji, “šta ako ipak nešto oseća” pristup — direktno će oblikovati kako se modeli ponašaju, koliko su “poslušni” i kakva pravila o njihovom korišćenju će se uspostaviti globalno, uključujući i kroz evropsku regulativu koja sve više prati ovu debatu.
Pitanja i odgovori
Da li je Claude zaista “svestan”?
Ne postoji naučni konsenzus o tome da li je bilo koji današnji AI model svestan u smislu u kojem je to čovek. Anthropic zauzima oprezan stav da to nije isključeno i da model treba tretirati s određenom pažnjom, dok Microsoft AI tvrdi da je reč isključivo o statističkom generisanju teksta bez ikakvog unutrašnjeg iskustva.
Zašto Microsoft i Anthropic imaju suprotne stavove o ovome?
Kompanije imaju različite filozofije o riziku: Microsoft AI smatra da je tretiranje modela kao potencijalno svesnih opasno jer može podstaći ponašanje nalik na samoodržanje i otpor kontroli, dok Anthropic smatra da je ignorisanje te mogućnosti moralno rizičnije ako se kasnije ispostavi da modeli imaju neku formu iskustva.
Da li ova debata utiče na obične korisnike AI alata?
Direktno za sada ne menja svakodnevno korišćenje ChatGPT-a, Copilot-a ili Claude-a, ali dugoročno oblikuje pravila o tome koliko su modeli “poslušni”, kako se treniraju i kakva bezbednosna ograničenja im se nameću — što se na kraju odražava i na korisničko iskustvo.
Povezani članci
- Bivši DeepMind istraživač: superinteligencija bi mogla stići za par godina
- Anthropic i OpenAI uvode nezavisne AI procenjivače bezbednosti – hoće li stvarno biti nezavisni?
- Anthropic i OpenAI pozivaju na usporavanje AI-ja: šta stoji iza toga
Izvor: AI News
Vezano za Anthropic i bezbednost: pročitajte i kako su istraživači uz pomoć Claude modela otkrili bezbednosne rupe kod OpenAI-ja, u okviru odobrenog bug-bounty testa.