Kalifornijski startap PrismML, osnovan od strane istraživača sa Caltech-a, predstavio je Bonsai 2 27B — verziju Alibaba-inog Qwen3.8 modela sažetu na samo 5,9 GB, uz očuvanih 98% performansi originala. Cilj je AI koji radi lokalno na običnom računaru ili jačem telefonu, bez potrebe za internet konekcijom ka cloud serveru.
Najvažnije
- PrismML je sažeo Qwen3.8 model 9-10 puta, na 5,9 GB, uz 98% originalnih performansi na benchmarkovima.
- Tehnika koristi “ternarne težine” — svaka težina modela svedena na samo tri vrednosti (+1, −1 ili 0) umesto standardnih 16 bita.
- Model može da radi na ličnim računarima i jačim pametnim telefonima, bez cloud konekcije.
- Kompanija je prikupila 22,25 miliona dolara u seed rundi, sa Khosla Ventures i Cerberus Capital kao investitorima.
- Prethodna verzija, originalni Bonsai, preuzeta je 11 miliona puta.
Šta je PrismML
PrismML je AI laboratorija koju je osnovao tim istraživača sa Caltech-a, predvođen profesorom Babak Hassibi-jem. Fokus kompanije je sažimanje (kompresija) velikih jezičkih modela tako da mogu da rade direktno na ličnim uređajima, umesto na moćnim cloud serverima.
Kako radi kompresija
Ključna tehnika je upotreba “ternarnih težina” (ternary weights) — svaki parametar modela se svodi na jednu od samo tri vrednosti: +1, −1 ili 0, umesto standardnih 16 bita po parametru. Ovakav pristup omogućava da model Bonsai 2 27B, baziran na Alibaba-inom Qwen3.8, zauzima samo 5,9 GB — 9 do 10 puta manje od originala — dok i dalje postiže oko 98% njegovih rezultata na standardnim benchmarkovima.
Zašto je ovo bitno
Model ove veličine može da radi direktno na ličnom računaru ili jačem pametnom telefonu, bez potrebe za slanjem podataka na cloud server. To znači potpuno privatan i besplatan (u smislu bez pretplate za korišćenje) pristup AI modelu, bez internet konekcije u trenutku korišćenja. Prethodna verzija, originalni Bonsai, preuzeta je 11 miliona puta, što pokazuje realno interesovanje za ovakav pristup.
Finansiranje i podrška
PrismML je prikupio 22,25 miliona dolara u seed rundi finansiranja, sa investitorima Khosla Ventures, Cerberus Capital i Caltech-om. Ion Stoica, kosnivač Databricks-a i direktor Sky Computing Lab-a na Berkeley univerzitetu, je savetnik kompanije.
Šta dalje
Prema rečima profesora Hassibi-ja: “There is more room to be able to compress them without losing the intelligence” (postoji još prostora za sažimanje modela bez gubitka inteligencije) — što nagoveštava da PrismML planira da primeni istu tehniku i na još veće modele.
Često postavljana pitanja
Da li Bonsai 2 27B radi bez interneta?
Da — model je dizajniran da radi lokalno na uređaju, bez potrebe za konekcijom ka cloud serveru u trenutku korišćenja.
Da li je model besplatan za korišćenje?
Prethodna verzija (originalni Bonsai) je preuzeta 11 miliona puta kao besplatan model; izvor ne navodi detaljne uslove licence za Bonsai 2 27B.
Koliki gubitak kvaliteta postoji zbog kompresije?
Prema PrismML-u, Bonsai 2 27B čuva približno 98% performansi originalnog Qwen3.8 modela na standardnim benchmarkovima.
Izvor: TechCrunch, 17.09.2026.