Anthropic je izabrao Accenture, tačnije njegovu AI diviziju Faculty, za prvog „ugrađenog procenjivača” (embedded evaluator) bezbednosti svojih modela — konkretnu realizaciju ideje koju je izvršni direktor Anthropic-a Dario Amodei ranije izneo u sopstvenom blog postu. Obe kompanije planiraju da u projekat ulože najmanje milijardu dolara u naredne pet godina.
Kratak odgovor
Ugrađeni procenjivač je spoljna organizacija čiji zaposleni rade unutar AI kompanije i nezavisno testiraju bezbednost njenih modela — umesto da procenu rade spolja, na daljinu. Anthropic je izabrao Faculty, AI diviziju Accenture-a koju je ova konsultantska kuća preuzela u januaru 2026, da radi red-teaming, procenu usklađenosti (alignment) i testiranje zaštitnih mehanizama Claude modela. Obe kompanije planiraju da ulože najmanje milijardu dolara u projekat tokom narednih pet godina.
Najvažnije
- Anthropic je izabrao Faculty, AI diviziju Accenture-a preuzetu u januaru 2026, kao prvog „ugrađenog procenjivača” bezbednosti svojih modela.
- Faculty će raditi red-teaming, procenu usklađenosti modela i testiranje zaštitnih mehanizama, sa timovima koji fizički rade unutar Anthropic-a.
- Anthropic i Accenture planiraju da zajedno uljožu najmanje milijardu dolara u projekat tokom narednih pet godina.
- Ideja potiče od izvršnog direktora Anthropic-a Darija Amodeija (Dario Amodei), koji je predložio da nezavisni procenjivači bezbednosti fizički rade unutar AI laboratorija.
- Anthropic ističe da ugrađeni procenjivači „ne smanjuju našu odgovornost, već pomažu da ona bude proverljiva” — kompanija najavljuje dodatne evaluatore, uključujući moguću saradnju sa neprofitnom organizacijom METR.
Šta tačno radi „ugrađeni procenjivač”
Za razliku od tradicionalne prakse gde spoljni revizori bezbednosti rade na daljinu i procenjuju model kroz ograničen pristup, ugrađeni procenjivač znači da zaposleni partnerske organizacije fizički rade unutar AI kompanije, sa dubljim uvidom u razvoj modela. Faculty tim će sprovoditi red-teaming — sistematsko pokušavanje da se model „provali” ili natera da zaobiđe sopstvena ograničenja — kao i procenu usklađenosti i testiranje zaštitnih mehanizama pre nego što modeli postanu javno dostupni.
Ovaj pristup je direktna realizacija predloga koji je Dario Amodei izneo u sopstvenom blogu, gde je predložio da bezbednosni nadzor AI modela ne bude povremena spoljna provera, već stalno prisutan proces unutar same kompanije. Slična logika stoji iza ranije najavljenih nezavisnih AI procenjivača bezbednosti koje su Anthropic i OpenAI ranije najavili — ideja da bezbednost modela ne proverava samo kompanija koja ga gradi.
Zašto baš Accenture i Faculty
Faculty je AI konsultantska firma koju je Accenture preuzeo u januaru 2026. godine, sa iskustvom u primeni AI-ja kod velikih korporativnih i državnih klijenata. Izbor konsultantske kuće, a ne isključivo akademske ili neprofitne organizacije, pokazuje da Anthropic bezbednosnu procenu tretira kao operativni, kontinuirani proces integrisan u svakodnevni rad kompanije, a ne kao povremenu spoljnu reviziju.
Anthropic navodi da će dodatni procenjivači biti najavljeni u narednom periodu, a kompanija razgovara i sa neprofitnim organizacijama poput METR o pilot programima. To se uklapa u širu strategiju kompanije koja paralelno gradi i fizičku infrastrukturu za bezbednosna istraživanja — Anthropic je nedavno potvrdio i da vodi pravu biološku laboratoriju u San Francisku za proveru naučnih teorija koje modeli predlažu, što pokazuje koliko šire kompanija ulaže u proverljivost sopstvenih tvrdnji.
Da li ovo znači da su Claude modeli bezbedniji
Sam Anthropic je precizan po ovom pitanju: ugrađeni procenjivači „ne smanjuju odgovornost” kompanije za bezbednost sopstvenih modela, već imaju za cilj da tu odgovornost učine proverljivom za spoljni svet. Drugim rečima, Anthropic i dalje snosi punu odgovornost za bezbednost Claude-a, ali sada postoji nezavisna strana koja može da potvrdi ili ospori tvrdnje kompanije o tome koliko su zaštitni mehanizmi zaista efikasni.
Ovaj potez dolazi u trenutku kada industrija sve više raspravlja o tempu razvoja AI-ja naspram bezbednosti — Anthropic i OpenAI su ranije pozivali na usporavanje razvoja najmoćnijih modela, dok drugi glasovi u industriji, poput osnivača Nvidije Jensena Huanga, tvrde da AI bezbednosti ne treba dodatna regulativa.
Najčešća pitanja
Šta je „ugrađeni procenjivač” (embedded evaluator)?
To je spoljna organizacija čiji zaposleni fizički rade unutar AI kompanije i nezavisno procenjuju bezbednost njenih modela kroz red-teaming, procenu usklađenosti i testiranje zaštitnih mehanizama, umesto da procenu rade na daljinu.
Ko je Faculty?
Faculty je AI konsultantska divizija koju je Accenture preuzeo u januaru 2026. godine, a sada radi kao prvi ugrađeni procenjivač bezbednosti Anthropic modela.
Koliko novca je uloženo u projekat?
Anthropic i Accenture planiraju da zajedno ulože najmanje milijardu dolara u projekat tokom narednih pet godina.
Da li ovo znači da Anthropic prebacuje odgovornost na Accenture?
Ne. Anthropic izričito navodi da ugrađeni procenjivači ne smanjuju odgovornost kompanije za bezbednost modela, već pomažu da ta odgovornost bude proverljiva za spoljni svet.
Da li se očekuju još ovakvi partnerski dogovori?
Da. Anthropic najavljuje dodatne procenjivače u narednom periodu, uključujući razgovore o pilot programima sa neprofitnom organizacijom METR.
Izvor: TechCrunch, CNBC