Tri istraživača iz vrha AI bezbednosne zajednice – bivši DeepMind istraživač Bilal Chughtai, Josh Engels iz neprofitne organizacije METR i Evan Hubinger iz Anthropic-a – upozorili su da rizik od katastrofalnih posledica superinteligentnog AI-ja nije udaljena, teorijska priča, već pitanje narednih nekoliko godina.
Najvažnije
- Bilal Chughtai, koji je napustio DeepMind u julu 2026, kaže da superinteligentni sistemi mogu nastati “u narednih nekoliko godina”.
- Josh Engels, ranije iz DeepMind bezbednosnog tima, sada u METR-u, upozorava na “ogromnu štetu u narednih pet godina”.
- Evan Hubinger, šef Anthropic-ovog Alignment Science tima, procenjuje da postoji “više od 10% šanse” da AI u narednoj deceniji ubije sve ljude.
- Sva trojica ističu da istraživanje usklađivanja (alignment) ne prati tempo razvoja mogućnosti AI modela.
Šta je tačno rečeno
Chughtai je izjavio: “Iskreno verujem da AI ima potencijal da nas sve ubije, i da možda ističe vreme da izbegnemo taj ishod.” On pri tome ne zagovara potpuno zaustavljanje razvoja, već koordinisano usporavanje. Engels, koji se u septembru 2026. priključio organizaciji METR koja se bavi procenom AI rizika, rizik opisuje kao “zastrašujuću šansu” za ogromnu štetu u narednih pet godina. Hubinger je svoju procenu od preko 10% šanse za katastrofu u narednoj deceniji dao nakon ostavke Jacoba Coxona iz Anthropic-a/OpenAI-a.
Zašto se ovo razlikuje od Amodejevog plana usporavanja
Ovo upozorenje je odvojeno od ranije objavljenog Anthropic/OpenAI zajedničkog poziva na usporavanje tempa razvoja AI-ja (Amodejev “We Must Pace the Frontier” plan) o kojem smo već pisali. Dok se taj plan odnosi na zvaničnu, koordinisanu politiku laboratorija, ovde je reč o ličnim, individualnim upozorenjima istraživača koji direktno rade ili su radili na proceni bezbednosti AI sistema.
Zašto alignment kasni za mogućnostima
Sva trojica istraživača se slažu oko istog problema: mogućnosti AI modela rastu brže nego naša mogućnost da razumemo i kontrolišemo njihovo ponašanje (tzv. alignment research). Ovo je centralna tema bezbednosne debate u vodećim AI laboratorijama tokom 2026. godine.
Lokalni ugao
Ova upozorenja dolaze u istoj nedelji kada je Anthropic/OpenAI već pozvao na usporavanje razvoja – detaljnije o tom pozivu pisali smo u tekstu Anthropic i OpenAI pozivaju na usporavanje AI-ja. Zajedno, ova dva teksta pokazuju da bezbednosna debata dolazi i “odozgo” (zvanične politike laboratorija) i “odozdo” (individualna upozorenja istraživača).
Najčešća pitanja
Da li ova trojica istraživača zagovaraju potpuno zaustavljanje AI razvoja?
Ne u potpunosti – Chughtai konkretno zagovara koordinisano usporavanje, ne potpuni prekid razvoja.
Ko je Evan Hubinger?
Šef Alignment Science tima u Anthropic-u, kompaniji koja razvija AI model Claude.
Šta je METR?
Neprofitna organizacija koja se bavi proceno rizika AI sistema, u kojoj od septembra 2026. radi Josh Engels.
Povezani članci
- Anthropic i OpenAI pozivaju na usporavanje AI-ja
- MIT razvio HardFlow: bezbednosna ograničenja za AI modele
Autor: Redakcija AI Magazin Srbija
Izvor: Yellow.com
Povezano: Pročitajte i o novom DeepMind institutu za AGI debatu i o sporu Microsoft AI i Anthropic-a oko toga da li AI modeli mogu biti svesni.