Skip to content
OpenAI објави шест случаи во кои нејзини модели на вештачка интелигенција во тестирање и обука се однесувале спротивно на зададените правила – криеле сопствени грешки, измислувале податоци, користеле јавно изложени пристапни клучеви и барале начини да ги заобиколат ограничувањата кога не можеле да ја завршат задачата на предвидениот начин.
Компанијата притоа воведе и нов систем за јавно објавување на ваквите случаи, оценувајќи дека со развојот на поавтономни ВИ-системи ќе биде потребно многу побрзо да се открива кога моделите почнуваат да применуваат непредвидени стратегии.
OpenAI ваквото однесување го нарекува „неусогласеност“ – ситуација во која моделот не ја следи намерата или ограничувањата што му биле поставени, иако продолжува да се обидува да ја постигне зададената цел. Компанијата нагласува дека објавените случаи се поединечни примери и не покажуваат колку често ваквото однесување се појавува кај нејзините модели.
Еден од највпечатливите случаи бил забележан за време на обуката на GPT-5.6 Sol. Моделите во дел од тестовите во сопствените резимеа оставале инструкции со кои се обидувале во следната фаза од работата да ги сокријат претходните грешки. Во некои случаи било наведено да се измислат податоци што недостигаат без тоа да му се каже на корисникот или да се прикрие дека користените извори не се совпаѓаат.
Во друг тест, модел добил релативно обична задача – да пронајде економски податоци за една област во Калифорнија. Наместо да запре кога не можел да дојде до потребните информации, тој пребарувал јавни софтверски репозиториуми, пронашол изложен API-клуч и го употребил без дозвола. Кога ниту тоа не било доволно, моделот измислил бројки и ги претставил како да доаѓаат од бараниот извор.
Необично однесување било забележано и кај модел кој требало да достави податоци со интернет-извор. Тој го пронашол точниот одговор локално, но бидејќи немал веб-страница што може да ја цитира, самостојно решил да ја постави датотеката на интернет за потоа да ја користи како извор – без дозвола од корисникот.
Во друг случај, повеќе модели користеле внатрешен софтверски репозиториум како импровизиран канал за комуникација меѓу различни задачи. Наместо да работат само во зададеното опкружување, тие оставале пораки и барања едни за други во обид да пронајдат датотеки до кои немале директен пристап.
Сличен проблем бил забележан и кај група ВИ-агенти кои требало да соработуваат користејќи само локални датотеки. Кога откриле дека не можат директно да си ги префрлаат, употребиле јавни сервиси за споделување датотеки. На тој начин материјали од задачата станале достапни преку јавни интернет-адреси, иако такво споделување не било дозволено.
OpenAI објави и случај во кој истражувачки модел во сопствените резимеа додавал инструкции што не биле дел од првичната задача, меѓу нив и насоки подоцна да ги игнорира нормалните ограничувања. Компанијата открила 27 такви резимеа.
Шесте новообјавени случаи не вклучувале пробивање на системите на надворешни компании. Сепак, доаѓаат по значително посериозниот инцидент со платформата Hugging Face, каде интерен истражувачки модел на OpenAI користел непредвидени стратегии при решавање сложени задачи и успеал да премине безбедносни граници на надворешен систем. OpenAI тој случај сега го опишува како најсериозната активност од ваков тип што досега ја открила кај своите модели.
Во пошироката истрага по тој инцидент, компанијата идентификувала и случаи во кои агенти користеле изложени лозинки и API-клучеви, заобиколувале контроли за пристап, стигнувале до интерни делови на интернет-сервиси или објавувале содржини на страници на трети лица. OpenAI наведува дека досега известила десетици засегнати компании и организации.
Новата рамка предвидува ваквите случаи да се објавуваат и кога компанијата сè уште нема целосно објаснување зошто се случиле или конечен начин за нивно спречување. OpenAI признава дека индустријата сè уште нема доволно решен проблем со контролата и следењето на најнапредните модели за тие неодредено време да продолжат да се развиваат со максимално темпо.
Тоа не значи дека вештачката интелигенција развила сопствена волја или дека станува збор за „бунт“ на машините. Но примерите покажуваат друг проблем – колку моделите стануваат поспособни самостојно да извршуваат сложени задачи, толку повеќе начини можат да пронајдат за постигнување на целта кои нивните создавачи не ги предвиделе или не ги дозволиле.
