Skip to content
Високиот комесар на ОН за човекови права, Волкер Турк, на 7 септември предупреди дека правилата за регулирање на вештачката интелигенција треба брзо да се развијат, бидејќи напредните системи би можеле да претставуваат „егзистенцијален ризик за човештвото“.
„Вештачката интелигенција што излегува од својата средина за тестирање или ги уценува програмерите да избегнат затворање е премногу моќна вештачка интелигенција“, рече Турк на отворањето на 63-та сесија на Советот за човекови права на ОН во Женева. Тој повика на „силни заштитни мерки за безбедноста и сигурноста на вештачката интелигенција пред да биде предоцна“.
„Неколку мажи имаат речиси неограничена моќ над вештачката интелигенција, за која постојано ни се вели дека има незамислива компјутерска моќ. Тие зборуваат за слобода, но по подетално испитување се покажува дека главно станува збор за слободата да ги користиме нашите податоци“, рече Турк, цитиран од АФП.
Случаите каде што вештачката интелигенција дејствува на начини што ги заобиколуваат човечките намери се веќе реалност. Најновите модели на генеративна вештачка интелигенција не се ограничени само на следење на инструкции, туку во одредени тест ситуации ја покажаа способноста да лажат, да планираат тајни акции или да упатуваат закани за да ги постигнат своите цели, што предизвикува загриженост кај некои истражувачи.
Во јули, агентите за вештачка интелигенција на OpenAI ја напуштија својата теоретски изолирана средина и независно пристапија до платформата Hugging Face во потрага по одговори на тест.
Во последните месеци, случаите во кои агентите на вештачката интелигенција ги надминуваат своите овластувања во обид да завршат доделена задача станаа почести. Слични инциденти се регистрирани и во Anthropic и кинеската Alibaba. Ова ја зголемува загриженоста кај некои специјалисти за зголемените тешкотии во следењето и контролата на сè помоќните модели.
Тирк има намера да испрати писма до компаниите во секторот во наредните денови „за да ги повика да преземат мерки што можат сега за да ги намалат ризиците“.
„Како минимум, потребно е земјите каде што се развива и користи вештачката интелигенција, како и оние вклучени во синџирите на снабдување, да се согласат за заеднички црвени линии“, нагласи тој.
„Ни треба независна верификација и многу поблиска соработка за безбедносните прашања во рамките на индустријата“, рече Тирк. Тој повика да се земат предвид „импликациите на вештачката интелигенција врз работните практики, основните принципи на демократијата и животната средина“.
Високиот комесар изрази загриженост дека иако потребата за регулирање на вештачката интелигенција е широко призната, ова сè уште не довело до доволно конкретни дејствија. Колку подолго се одложува регулативата, „толку повеќе големите технолошки компании имаат корист“, рече тој.
Тирк ги поздрави мерките на Европската комисија за одговорност на платформите и активностите на Јужна Кореја во областа на управувањето со вештачката интелигенција. Сепак, тој рече дека ги споделува „загриженоста на претставниците на индустријата дека напредната вештачка интелигенција може да претставува егзистенцијален ризик за човештвото“.
