Skip to content
Поранешниот истражувач на Anthropic и OpenAI, Џејкоб Коксон, предупредува дека трката за создавање сè помоќна вештачка интелигенција може да излезе од човечка контрола и во најлошото сценарио да претставува егзистенцијална закана за човештвото. Во интервју за CNN тој вели дека луѓето кои директно работат на најнапредните системи на вештачка интелигенција приватно се многу позагрижени отколку што изгледа во јавните настапи.
Коксон неделава поднесе оставка од Anthropic, откако во изминатите три години работел на преттренирање на големи AI модели во Anthropic и претходно во OpenAI. Заминувањето го објасни со оценката дека двете компании се движат пребрзо кон системи кои еден ден би можеле самостојно да се подобруваат.
„Луѓето кои ја создаваат вештачката интелигенција навистина веруваат дека таа би можела да нè убие сите до крајот на деценијата“, напиша Коксон при заминувањето.
Според него, проблемот не е денешниот ChatGPT, Claude или Gemini сами по себе, туку можната следна генерација системи кои би биле значително поспособни од луѓето во програмирање, сајбернапади, научни истражувања и стратешко планирање. Коксон стравува дека доколку таков систем добие високо ниво на автономија и можност да се подобрува, човекот би можел да ја изгуби контролата врз неговото однесување.
Како можни сценарија тој наведува злоупотреба на AI за создавање опасни биолошки агенси, напади врз критична инфраструктура или автономно преземање ресурси и пристап до компјутерски системи. Станува збор за хипотетички сценарија, а не за доказ дека сегашните AI модели можат самостојно да предизвикаат таква катастрофа.
Но, предупредувањето на Коксон доби дополнителна тежина откако неговиот поранешен колега Еван Хубингер, кој го води тимот за Alignment Science во Anthropic, јавно се согласи дека ризикот не треба да се отфрла.
Хубингер напиша дека лично проценува оти постои „повеќе од 10 проценти“ веројатност во следната деценија идната напредна AI да доведе до сценарио во кое би загинале сите луѓе. Тој истовремено нагласи дека не зборува за моделите што денес ги користат милиони корисници, туку за потенцијална супер-интелигенција создадена преку брзо самоподобрување.
Хубингер призна и дека Anthropic во моментов нема готово решение за таканаречениот „alignment problem“ – како многу поинтелигентен систем да се натера трајно да ги следи човечките намери и ограничувања.
Коксон тврди дека токму конкуренцијата меѓу Anthropic, OpenAI и другите глобални компании го зголемува ризикот. Според него, дури и компанија која сака да биде претпазлива може со текот на времето да прифати поголем ризик доколку процени дека конкурентите се блиску до технолошки пробив.
Од Anthropic одговорија дека компанијата отворено зборува и за огромните можности и за потенцијалните ризици од напредната AI и дека инвестира во истражувања за безбедност, контрола и разбирање на функционирањето на моделите. Компанијата се залага и за проверливи правила според кои најголемите AI лаборатории би можеле заеднички да го контролираат темпото со кое се пуштаат најмоќните системи.
Предупредувањата на Коксон и Хубингер не претставуваат утврдена прогноза дека вештачката интелигенција ќе го уништи човештвото. Меѓу истражувачите постои сериозна дебата за тоа колку е реален ризикот од идни супер-интелигентни системи, во кој временски период би можеле да се појават и дали воопшто ќе достигнат такво ниво на автономија.
Но фактот дека предупредувањата овојпат доаѓаат од луѓе кои директно работеле на развојот на најнапредните модели повторно ја отвори дебатата дали развојот на AI се движи побрзо од способноста на државите и самите компании да воспостават правила за негово контролирање.
