Skip to content
Дваесет земји, заедно со Европската комисија, повикаа на создавање заеднички меѓународни правила за најнапредните модели на вештачка интелигенција и разгледување на можноста за формирање глобална институција што би ги следела нивните способности и безбедносни ризици. Главната порака на иницијативата е дека ВИ мора да остане под човечка контрола.
Иницијативата ја покренаа финскиот претседател Александар Стуб и норвешкиот премиер Јонас Гар Стере во пресрет на главната недела на Генералното собрание на ОН во Њујорк. Досега документот го поддржаа 22 лидери од 20 држави, меѓу кои Германија, Канада, Австралија, Шпанија, Холандија, Сингапур, Јужна Африка, Кенија, Обединетите Арапски Емирати и Турција, како и претседателката на Европската комисија Урсула фон дер Лајен.
Соединетите Американски Држави и Кина – двете водечки сили во глобалната трка за развој на ВИ – не се меѓу потписниците. На иницијативата не ѝ се приклучи ниту Велика Британија. Документот останува отворен за дополнителни потписници.
Повикот е насочен пред сè кон таканаречените „frontier“ модели – најнапредните системи кои располагаат со способности што можат да создадат значително поголеми безбедносни ризици од денешните вообичаени AI-алатки.
Во документот се наведува дека веќе се забележани случаи во кои способни AI-системи ги заобиколувале механизмите за безбедносно тестирање, искористувале ранливости и добивале неовластен пристап до реални системи. Потписниците предупредуваат дека развојот може да стане побрз од способноста на државите и компаниите да ги препознаваат и контролираат новите ризици.
Предлогот не значи создавање светска „полиција за ВИ“ во оваа фаза. Земјите бараат прво да се развијат заеднички стандарди и механизми за контрола, а потоа да се разгледа воспоставувањето меѓународна институција што би можела да поставува стандарди, да овозможи независна проверка и да ги собира државите на консултации кога некој AI-систем ќе достигне однапред определено ниво на способности.
Од компаниите што развиваат најмоќни модели се бараат транспарентни безбедносни процедури, задолжително тестирање пред пуштање на системите во употреба и независна процена на ризиците. Владите, пак, треба да ги усогласуваат стандардите и да споделуваат информации за сериозни безбедносни инциденти поврзани со ВИ.
Стуб оцени дека вештачката интелигенција ќе има влијание врз науката, економијата, политиката и безбедноста и дека луѓето треба да останат „на возачкото место“ во тој процес. Стере, пак, нагласи дека развојот на најнапредните модели треба да се одвива со брзина што ќе овозможи човечката контрола да не биде изгубена.
Паралелно со државната иницијатива, и дел од самата технолошка индустрија бара меѓународни правила. OpenAI повика САД да предводат воспоставување технички стандарди за напредната ВИ, особено за идни системи што би можеле самостојно да ги подобруваат сопствените способности. Компанијата предупредува дека без координација може да се создаде фрагментиран глобален систем со различни и неусогласени правила.
Најголемиот предизвик за иницијативата останува токму отсуството на САД и Кина. Без двете земји во кои се концентрирани голем дел од најмоќните компании, компјутерската инфраструктура и развојот на напредни модели, евентуалниот меѓународен систем за контрола би имал ограничено практично влијание. Засега станува збор за политички повик, а не за обврзувачки меѓународен договор или веќе воспоставен регулатор.
