Skip to content
Вештачката интелигенција може да стане закана за опстанокот на човештвото уште во следната деценија, предупредуваат истражувачи кои работеле на развојот и безбедноста на најмоќните системи. Алармот повторно се вклучи откако Џејкоб Коксон ја напушти компанијата „Ентропик“, тврдејќи дека технолошките лаборатории забрзано се движат кон создавање самоусовршувачка суперинтелигенција, без сигурен начин за нејзино контролирање.
Коксон, кој претходно работел и во „ОпенАИ“, тврди дека компаниите се натпреваруваат за технолошка предност, иако дел од луѓето во нив стравуваат дека идните системи би можеле да излезат од човечка контрола. Според него, решавачки може да бидат следните неколку години, кога вештачката интелигенција би можела самостојно да учествува во создавањето сè помоќни модели.
Неговото предупредување доби дополнителна тежина кога Еван Хубингер, кој работи на усогласување на системите на „Ентропик“ со човечките цели, процени дека веројатноста вештачката интелигенција да предизвика човечко исчезнување во следната деценија е поголема од 10 проценти. Тој истовремено призна дека компанијата сè уште нема целосно решение за контролирање евентуална суперинтелигенција.
Слична загриженост изрази и истражувачот Семјуел Маркс, според кого искусните луѓе во индустријата често се позагрижени од пошироката јавност. Еден од пионерите на вештачката интелигенција, нобеловецот Џефри Хинтон, оцени дека проценката од 10 проценти не е неразумна, иако призна дека никој нема сигурен модел со кој може прецизно да се пресмета таков ризик.
Сценариото не предвидува дека денешните четботови одеднаш ќе се свртат против луѓето. Стравувањето се однесува на идни автономни системи што би можеле да станат поспособни од човекот во програмирање, научно истражување, планирање и манипулирање со дигиталната инфраструктура. Како можни патишта кон катастрофа се наведуваат кибернетички напади врз критични системи, развој на биолошко оружје и преземање контрола врз важни процеси без човечко одобрение.
Овие сценарија засега остануваат претпоставки, а не докажани прогнози. Нема потврда дека сегашните модели поседуваат способности со кои би можеле самостојно да го загрозат човечкиот опстанок. Дел од научниците сметаат дека апокалиптичните предупредувања го одвлекуваат вниманието од веќе присутните проблеми, како дезинформациите, измамите, дискриминацијата, губењето работни места и концентрацијата на моќ кај мал број компании.
„Ентропик“ одговори дека вложува во некои од најстрогите безбедносни механизми во индустријата, ги тестира моделите за опасни способности и ги објавува резултатите за јавна проверка. Компанијата, сепак, признава дека развојот на сè помоќни системи бара законски проверлив начин за координација меѓу конкурентите.
Повиците за меѓународни правила стануваат погласни и во политиката. Високиот комесар на Обединетите нации за човекови права, Фолкер Турк, побара цврсти заштитни мерки и јасни црвени линии, додека во САД се отвораат иницијативи за ограничување или привремено запирање на развојот на суперинтелигенција.
