„Кумот на ВИ“ предупредува: технологијата станува опасна кога станува подобра од нас

Еден од најпознатите научници во областа на вештачката интелигенција, често нарекуван „кум на ВИ“, повторно излезе со јавно предупредување дека човештвото влегува во фаза во која системите можат да станат не само корисни, туку и структурно ризични – затоа што почнуваат да ги надминуваат луѓето во сè поголем број задачи.

Во неговата аргументација, проблемот не е во тоа што ВИ „мисли“ како човек, туку што брзо учи, се мултиплицира и може да се користи во погрешни контексти: од манипулација со информации, до сајбер-напади и автоматизација што предизвикува масовни поместувања на пазарот на труд. Затоа, предупредувањето оди во насока дека општествата мора да изградат регулаторни и безбедносни механизми побрзо отколку што индустријата ги развива моделите.

Клучната поента е дека ризикот расте пропорционално со капацитетот. Колку повеќе моделите се способни да пишуваат код, да планираат, да убедуваат и да оптимизираат процеси, толку повеќе се зголемува можноста за нивно злоупотребување – или за ненамерни последици кога се пуштени во сложени системи без доволно „кочници“.

Паралелно, предупредувањето има и прагматична страна: без јавен притисок, компаниите природно ќе трчаат по брзина, пазар и профит, а безбедноста ќе остане секундарна. Во тој контекст, дебатата за ВИ веќе не е технолошка мода, туку политика – прашање на правила, одговорност и контрола.