Skip to content
Поранешниот директор на Google, Ерик Шмит, зборуваше за опасностите од системите со вештачка интелигенција, но и за нивните силни страни
Ерик Шмит, милијардер и коосновач на Фондацијата Schmidt Futures, на 8 октомври зборуваше на Sifted Summit, каде што предупреди за опасностите што ги претставува вештачката интелигенција – особено кога ќе падне во погрешни раце.
Шмит, кој беше извршен директор на Google од 2001 до 2011 година, ја спореди потенцијалната деструктивност на вештачката интелигенција со нуклеарното оружје.
„Постои реална можност за проблем со пролиферацијата кога станува збор за вештачката интелигенција. Технологијата може да заврши кај злонамерни актери кои можат да ја злоупотребат. Постојат докази дека можете да ги модифицирате моделите – затворени или отворени – и да ги хакирате за да ги отстраните нивните заштитни механизми. За време на обуката, тие учат многу работи. Лош пример би бил – тие можат да научат како да убијат некого“, рече Шмит.
Тој додаде дека сите големи компании за вештачка интелигенција свесно ги блокираат ваквите сценарија и „го прават тоа правилно и одговорно“. Сепак, тој истакна дека постојат начини да се користат „обратно инженерски“ модели на опасен начин.
Напади врз вештачката интелигенција: брза инјекција и „џеилбрејк“
Вештачките системи се ранливи на различни видови напади, од кои најпознати се брзата инјекција и џеилбрејк.
Нападите со брза инјекција работат со инјектирање скриени злонамерни инструкции во внесот на корисникот или надворешните податоци (како што се веб-страници или документи). Значи, вештачката интелигенција може да биде измамена да направи нешто што не треба – да речеме да открие приватни информации или да изврши злонамерни команди.
Џејлбрејк вклучува манипулирање со одговорите на вештачкиот систем, така што тие ги игнорираат безбедносните правила и генерираат забранета или опасна содржина.
Оваа практика стана позната уште во 2023 година, кога корисниците успеаја да го „хакнат“ ChatGPT на OpenAI и да го создадат неговото алтер-его наречено DAN (Do Anything Now). Овој мод „му се закануваше на четботот со смртна казна“ ако не се покоруваше, овозможи да се генерира содржина за нелегални активности или дури и да се фалат Адолф Хитлер.
Шмит истакна дека светот сè уште нема соодветен „режим за неширење“ за контрола на злоупотребите на вештачката интелигенција.
„Вештачката интелигенција е потценета, а не преценета“
Сепак, Шмит останува оптимист. Тој верува дека вештачката интелигенција е многу поважна и помоќна технологија отколку што јавноста моментално ја перцепира.
„Напишав две книги со Хенри Кисинџер на оваа тема. Заклучивме дека доаѓањето на „странска разузнавачка служба“ која не е човечка, но е делумно под наша контрола, претставува огромен момент за човештвото“, рече тој.
Шмит како пример го наведе успехот на серијата GPT и лансирањето на ChatGPT, која достигна 100 милиони корисници за само два месеци.
„Тоа ви ја покажува моќта на оваа технологија. Мислам дека вештачката интелигенција е потценета, а не преценета, и верувам дека тоа ќе се покаже во следните пет до десет години“, додаде тој.
„Вештачка интелигенција“? Шмит вели – не баш
Додека инвеститорите вложуваат многу во стартапи и компании за вештачка интелигенција, многумина стравуваат дека пазарот би можел да ја доживее судбината на дот-ком меурот од 2000-тите. Шмит, сепак, не го дели тоа мислење.
„Не мислам дека тоа ќе се случи повторно. Не сум професионален инвеститор, но она што го знам е дека луѓето ги инвестираат своите тешко заработени пари затоа што веруваат дека долгорочната заработка ќе биде огромна“, рече Шмит.
