Skip to content
Компанијата Anthropic, една од највлијателните лаборатории за вештачка интелигенција во светот, предупредува дека развојот на најмоќните АИ системи влегува во фаза во која повеќе не е доволно само компаниите да ветуваат дека ќе бидат внимателни. Потребен е координиран механизам со кој големите лаборатории би можеле истовремено да го забават или привремено да го запрат развојот, доколку ризиците станат преголеми.
Во анализата „When AI builds itself“, Anthropic отвора прашање што одамна не е само научна фантастика: што ќе се случи ако вештачката интелигенција почне сè повеќе да учествува во создавањето на сопствените идни верзии. Компанијата предупредува дека најнапредните модели веќе не се само алатки за пишување текст, анализа или програмирање, туку стануваат активен дел од процесот со кој се развива следната генерација на АИ.
Според Anthropic, во мај 2026 година повеќе од 80 проценти од кодот внесен во продукциската кодна база на компанијата бил напишан од Claude. Тоа не значи дека човекот исчезнува од процесот, но покажува дека улогата на инженерите и истражувачите се менува. Тие сè повеќе стануваат надзорници на системи што самите предлагаат, пишуваат, тестираат и забрзуваат технолошки решенија.
Токму тука се наоѓа главниот ризик. Ако АИ почне значително да го забрзува сопствениот развој, пазарната трка меѓу компаниите може да стане побрза од способноста на државите, регулаторите и јавноста да постават правила. Во такво сценарио, прашањето повеќе не е само кој ќе го има најмоќниот модел, туку кој ќе може да гарантира дека тој модел останува под човечка контрола.
Anthropic не тврди дека ваков пресврт веќе се случил, ниту дека е неизбежен. Но предупредува дека технологијата се движи кон точка во која самоподобрувањето на АИ може да стане реален фактор во развојот на индустријата. Компанијата затоа предлага големите лаборатории однапред да договорат проверлив механизам за заедничко забавување или запирање, наместо секоја да одлучува сама и под притисок на конкуренцијата.
Еднострана пауза, според оваа логика, не би решила ништо. Ако една компанија запре, друга може да продолжи. Ако една држава воведе построги правила, конкурентите во друга јурисдикција можат да ја преземат предноста. Затоа Anthropic зборува за меѓународна координација, со јасни услови, надзор и проверливост.
Предупредувањето доаѓа во момент кога АИ индустријата се развива со брзина што ги надминува постојните политички и правни рамки. Моделите стануваат помоќни, компаниите инвестираат милијарди, а државите сè повеќе ја гледаат вештачката интелигенција како прашање на економска, воена и геополитичка предност. Во таква средина, безбедноста лесно може да стане второстепена во однос на трката за лидерство.
Затоа пораката на Anthropic не треба да се чита како апокалиптично предупредување дека машините утре ќе ја преземат контролата. Таа е посериозна токму затоа што е поконкретна: ако АИ системите станат клучни алатки во создавањето на уште помоќна АИ, тогаш индустријата мора однапред да одговори кој има право да запре, кога се запира и како јавноста ќе знае дека правилата навистина се почитуваат.
Во суштина, Anthropic бара нешто што досега недостасуваше во технолошката трка – копче за стоп што не зависи од добрата волја на една компанија, туку од заеднички договор. Без таков механизам, развојот на вештачката интелигенција може да остане во рацете на пазарна логика што секогаш наградува побрзо, поголемо и помоќно, дури и кога општеството сè уште не знае како да се заштити.
