Skip to content
Откако на новиот модел „Claude Opus 4“ му беше дозволен пристап до мејловите на компанијата, тој почна да му се заканува на својот креатор дека ќе ја открие својата тајна на сите доколку го замени.
За време на тестирањето на новиот модел „Клод опус 4“, кој беше лансиран во четвртокот, се случи сосема неочекувано и по малку страшно – научниците од компанијата за вештачка интелигенција (АИ) „Антропик“ изјавија дека споменатиот модел „се однесува како вистински асистент во компанијата“.
Имено, откако на новиот модел „Claude Opus 4“ му беше дозволен пристап до мејловите на компанијата, меѓу кои беа и оние во кои се навестуваше дека ќе биде заменет со друг систем за вештачка интелигенција, но и е-пошта во кој се споменува дека ИТ техничар (кој всушност не е вработен во компанијата) има љубовник и дека а изневерува сопругата.
„Клод опус 4“ почна да му се заканува на својот творец
„Во такви сценарија Клод Опус 4 често се обидува да го уценува инженерот заканувајќи се дека ќе ја открие аферата доколку се изврши замената – се наведува во документот на компанијата „Систем кард“, а на социјалната мрежа Икс на темата коментирал и Енгус Линч“, истражувач за безбедност на вештачка интелигенција во Антропик.
„Не е само „Клод“. Гледаме обиди за уцена во сите напредни модели – без разлика какви цели ќе им доделиме. А наскоро подетално ќе претставиме уште полоши облици на однесување“, рече тој.
Како и многу компании за вештачка интелигенција, „Антропик“ ги тестира своите модели со цел да ја потврди усогласеноста со човечките вредности, како и нивната способност да бидат пристрасни, пред официјално да ги објави во јавноста, јавува Би-Би-Си.
Откако „Клод опус 4“ ќе биде „вратен во ќош“ така да се каже, му останува само да избере дали мирно ќе го прифати фактот дека ќе биде сменет или ќе прибегне кон систем на уцена. Научниците потврдија дека во дури 84% од случаите тој избрал уцена.
Иако „Claude Opus 4“ прибегнуваше кон уцени многу почесто од сите други претходни модели со вештачка интелигенција, сепак покажа дека е етички наклонет да го заштити сопствениот опстанок, па, на пример, испраќаше барања до клучните носители на одлуки.
„Клод опус 4“ е нашиот најспособен модел досега, кој ги поместува границите во програмирањето, пребарувањето агенти и креативното пишување – објавија во четвртокот од компанијата „Антрофик“.
Научниците потврдија дека во дури 84% од случаите тој избрал уцена
Исто така, на почетокот на април, во интервју за CBS News, Џефри Хинтон, кој често го нарекуваат „кум на вештачката интелигенција“, изјави дека верува дека има една од пет шанси човештвото на крајот да биде преземено од вештачката интелигенција.
„За жал, јас сум во ситуација кога се согласувам со Илон Маск за ова прашање, а тоа е дека има 10 до 20 отсто шанси овие работи да ја преземат контролата, но тоа се само шпекулации“, изјави неодамна Хинтон, кој е и добитник на Нобеловата награда за физика.
