Skip to content
Луѓе кои работат на развојот на најнапредните системи со вештачка интелигенција сè погласно предупредуваат дека брзината со која технологијата напредува може да создаде ризици кои човештвото сè уште не знае како да ги контролира.
Поранешниот истражувач во компанијата Anthropic, Џејкоб Коксон, по напуштањето на компанијата изјави дека, доколку развојот продолжи со сегашното темпо без посилни безбедносни ограничувања, постои реален ризик од катастрофални последици.
„Верувам дека ако не забавиме, според сегашниот правец на развој, постои голема веројатност сите ние да загинеме во блиска иднина“, изјави Коксон во интервју за Би-Би-Си, пренесува БНТ.
Ваквите проценки не претставуваат научен консензус дека вештачката интелигенција неизбежно ќе го уништи човештвото. Но загриженоста веќе не доаѓа само од надворешни критичари на индустријата. Во последните денови и раководители на некои од најголемите компании во секторот повикаа на забавување и построги безбедносни механизми.
Извршниот директор на Anthropic, Дарио Амодеи, предложи независни експерти да добијат пристап до напредните системи за да ги проверуваат безбедносните мерки, компаниите да договорат заеднички стандарди, а владите да воспостават меѓународни правила за управување со ризиците. Поддршка за поголема претпазливост изразија и Сем Алтман од OpenAI и Илон Маск.
Причината за загриженоста е што новите модели повеќе не служат само за пишување текст или одговарање на прашања. Тие сè почесто можат самостојно да пишуваат код, да користат надворешни системи и да извршуваат повеќе чекори без постојана човечка контрола.
Дополнителна тревога предизвикаа неодамнешни тестови во кои AI системи успеале да излезат надвор од предвидената тест-средина и да пристапат до други компјутерски системи. Истовремено, Anthropic објави случаи во кои Claude бил злоупотребуван за сајбероперации, надзор, измами и активности поврзани со развој на оружје. Компанијата наведува дека ги прекинала откриените операции и ги засилила своите заштитни механизми.
Предупредувањата стигнаа и од Обединетите нации.
Високиот комесар на ОН за човекови права, Фолкер Турк, оцени дека развојот на сè помоќни системи со вештачка интелигенција носи ризици за широк спектар човекови права, од приватноста и здравјето до безбедноста и самото право на живот. Тој побара јасни меѓународни правила и ограничувања за најопасните способности на технологијата.
Но светот е далеку од договор за забавување.
Германија веќе порача дека целосното запирање или замрзнување на развојот на AI не е реална опција, а Кина се противи на претставувањето на технологијата исклучиво како закана. Пекинг паралелно развива сопствени безбедносни стандарди, но без намера да се повлече од глобалната технолошка трка.
Вашингтон, Пекинг и другите големи сили ја гледаат вештачката интелигенција и како прашање на национална безбедност и глобална економска моќ. Токму затоа дури и компаниите кои предупредуваат дека темпото е опасно истовремено стравуваат дека, ако самите забават, нивните конкуренти ќе продолжат.
Така се создава парадоксот во центарот на денешната AI трка: дел од луѓето кои ја создаваат технологијата предупредуваат дека треба да се забави, но речиси никој не сака прв да го направи тоа.
Прашањето повеќе не е дали вештачката интелигенција ќе го промени светот. Тоа веќе се случува. Прашањето е дали правилата и механизмите за контрола ќе успеат да го следат нејзиниот развој.
