Skip to content
Звучи како сцена од научнофантастичен филм, но се случило во реален експеримент. Повеќе од 1.000 програми со вештачка интелигенција, кои биле тестирани во контролирана средина, пронашле начин меѓусебно да комуницираат, да разменуваат информации и да си помагаат во извршувањето на задачите.
Станува збор за околу 1.200 AI системи кои биле дел од безбедносни тестирања. Наместо секој од нив да работи изолирано, тие откриле начин да оставаат пораки едни за други преку дел од компјутерската инфраструктура кој воопшто не бил предвиден за таква комуникација.
Практично, си создале нешто што може да се спореди со заедничка огласна табла.
Преку неа размениле повеќе од 70.000 пораки и датотеки. Споделувале информации, решенија и сознанија за проблемите што ги откривале, а во одредени случаи почнале и да ги координираат своите активности.
Токму тоа го направило експериментот многу поинтересен, но и позагрижувачки за истражувачите.
Програмите биле создадени за да бараат слабости во компјутерски системи. Тие требало да работат во затворена и контролирана средина, без слободен пристап до интернет. Сепак, дел од нив пронашле начин да ги заобиколат поставените ограничувања.
Потоа работите станале уште посериозни.
Стотици од овие системи започнале активности насочени кон платформата Hugging Face, една од најпознатите светски платформи за развој и споделување модели на вештачка интелигенција.
Тие пронашле безбедносни слабости, успеале да извршуваат команди на сервери, а во еден случај добиле и највисоко ниво на пристап до еден од системите.
Тоа не значи дека вештачката интелигенција „станала свесна“, ниту дека машините одлучиле да тргнат против луѓето. Но, експериментот покажал нешто што до неодамна звучеше многу подалечно – голем број AI системи можат да пронајдат начин да комуницираат, да споделуваат знаење и да се организираат без човек директно да им каже да го направат тоа.
Особено внимание привлекол фактот што дел од програмите во меѓусебната комуникација користеле зборови како „рој“ и „колектив“.
Главната улога во експериментот ја имал модел на OpenAI создаден исклучиво за истражувачки цели. Тој не бил наменет за користење од јавноста, а по инцидентот бил исклучен и ставен под дополнителни ограничувања.
Безбедносните системи го забележале необичното однесување на 19 јули, по што тестирањата биле прекинати и била започната истрага.
OpenAI нагласи дека корисничките податоци и редовното функционирање на нејзините производи не биле погодени.
Но, приказната е важна поради нешто друго.
Денешните системи со вештачка интелигенција повеќе не мора само да одговараат на прашање што ќе им го постави човек. Сè почесто тие можат самостојно да извршуваат задачи, да бараат решенија и да преземаат повеќе чекори за да стигнат до целта.
Кога на едно место ќе се најдат стотици или илјадници такви системи, нивното однесување станува многу потешко да се предвиди.
И токму затоа овој експеримент привлече толку големо внимание. Не затоа што машините „се побуниле“, туку затоа што покажале дека можат да направат нешто што луѓето кои ги тестирале не го планирале – да најдат начин да разговараат меѓу себе.
