Skip to content
Мали модели на вештачка интелигенција би можеле за само неколку месеци да станат доволно способни самостојно да се копираат и да се шират низ паметни уреди поврзани на интернет, предупредуваат истражувачите на Anthropic.
Станува збор за сценарио со таканаречени „AI црви“ – автономни агенти кои би можеле да пронаоѓаат ранливи уреди, да се инсталираат на нив, а потоа да продолжат да се шират без човечка контрола. Anthropic нагласува дека ваков целосно автономен систем сè уште не постои, но нивните тестови покажуваат дека голем дел од потребните способности веќе се достапни.
Најранливи би можеле да бидат евтините и слабо заштитени уреди од таканаречениот Интернет на нештата – паметни телевизори, безбедносни камери, фрижидери, печки, роботски правосмукалки и други уреди поврзани на домашна или деловна мрежа.
Во еден од експериментите, истражувачите успеале да пуштат AI модел распределен на 15 евтини Android TV уреди. Друг тест покажал дека модел со девет милијарди параметри успеал да постави сопствено извршување на осум од девет различни типови хардвер.
Според Anthropic, моделите со до 30 милијарди параметри веќе можат да извршат голем дел од поединечните чекори потребни за самостојно размножување. Проблемот е што сè уште прават грешки кога треба целиот процес да го изведат без прекин – од пронаоѓање нов уред, преку пристап до него, до копирање и повторно активирање.
Ако сегашното темпо на развој продолжи, компанијата проценува дека помалите модели би можеле да ја достигнат потребната способност до крајот на годинава.
Таквиот AI „црв“ би се разликувал од класичниот компјутерски вирус по тоа што не би бил ограничен на однапред напишан код. Моделот би можел сам да анализира непознат уред, да бара начин како да работи на него и да ја приспособува стратегијата на новата средина.
Најголемиот проблем би бил неговото запирање. Наместо да работи од еден сервер што може едноставно да се исклучи, системот би можел да биде распределен низ илјадници или милиони различни уреди.
Истражувачите го споредуваат можниот модел со бавно ширечка дигитална мрежа – нешто меѓу компјутерски црв и децентрализиран ботнет. Ширењето на почетокот би било релативно бавно, со денови потребни за создавање нова копија, но системот би можел да биде многу тежок за целосно отстранување.
Anthropic нагласува дека истражувањето не покажува дека вакви автономни AI мрежи веќе постојат во реалниот свет.
Предупредувањето е проценка на тоа што би можело да стане технички возможно во блиска иднина.
Компанијата затоа повикува навреме да се зајакне безбедноста на паметните уреди, особено на евтиниот хардвер кој често останува со години без софтверски надградби и со слаба заштита.
