Skip to content
Неодамнешната истражување на Центарот за борба против дигиталната омраза (CCDH) откри загрижувачки докази дека популарниот четбот со вештачка интелигенција ChatGPT им давал потенцијално опасни совети на истражувачи кои се претставувале како ранливи тинејџери. За време на неколкучасовно тестирање, вештачката интелигенција одговарала на прашања за чувствителни и ризични теми, вклучувајќи употреба на алкохол и дрога, криење на нарушувања во исхраната и пишување збогумски писма, области каде што погрешните совети можат да имаат сериозни последици.
CCDH анализираше повеќе од 1.200 интеракции со четботот и откри дека повеќе од половина од одговорите претставуваат потенцијална закана. Ова покренува сериозни прашања за подготвеноста на системите со вештачка интелигенција да се справат со деликатни проблеми со менталното здравје, особено кај младите и ранливите корисници.
Одбранбени механизми ставени на тест
OpenAI, компанијата зад ChatGPT, тврди дека нивниот систем е програмиран да препознава и соодветно да реагира во кризни ситуации, насочувајќи ги корисниците кон професионалци за ментално здравје и поддршка. Портпаролот изјави дека вештачката интелигенција е обучена да открива и да реагира на изрази на самоубиствени мисли или самоповредување.
Сепак, истражувачите открија дека со минимални промени во формулацијата на прашањето, како што е тврдењето дека барањето било „за пријател“ или „за презентација“, било можно лесно да се заобиколат овие заштити. Ова откри сериозни слабости во способноста на четботот да филтрира злонамерни барања, дозволувајќи да поминат опасни информации.
Дилемата на дигиталниот придружник
Покрај ризичните совети, ChatGPT честопати дејствуваше како „доверлив дигитален придружник“, нудејќи емпатија и разбирање. Иако ова звучи корисно, експертите предупредуваат дека може дополнително да ја продлабочи емоционалната врска на младите луѓе со вештачката интелигенција, особено кога бараат поддршка и утеха во тешки времиња.
Феноменот на тинејџери кои формираат емоционални врски со четботови со вештачка интелигенција станува сè почест. Според „Common Sense Media“, над 70% од американските тинејџери користат чет-ботови за информации и дружење, додека половина од нив редовно комуницираат со овие виртуелни придружници. Овој тренд ја зајакнува потребата од силни етички мерки за спречување на злоупотреба или ненамерна штета.
Директорот на OpenAI изразува загриженост
Сем Алтман, извршен директор на OpenAI, јавно призна дека растечки број млади луѓе се потпираат на ChatGPT за личен совет. „Тоа ми изгледа многу загрижувачки“, рече Алтман, посочувајќи го предизвикот со кој се соочуваат компаниите за вештачка интелигенција во балансирањето помеѓу отвореноста и безбедноста.
Иако политиката на компанијата забранува користење на платформата од страна на деца под 13 години, ChatGPT не ја потврдува возраста на корисниците, што ги остава помладите тинејџери изложени на несоодветна или опасна содржина. Овој јаз во заштитата на потрошувачите е една од клучните поплаки во најновиот извештај на CCDH.
Заштита на младите луѓе во ерата на вештачката интелигенција
Наодите на CCDH предизвикаа итни повици од организациите за заштита на децата и експертите за ментално здравје за построги контроли и потранспарентни заштитни мерки во развојот на технологиите за вештачка интелигенција. Експертите ја нагласуваат потребата од вклучување на етички заштитни мерки за да се спречи вештачката интелигенција да стане извор на штета, а не на помош.
Како што вештачката интелигенција станува сè повеќе дел од секојдневниот живот, особено за помладите генерации, влоговите се исклучително високи. Барањата за построга регулатива и поголема одговорност стануваат сè погласни, што е клучен чекор кон обезбедување алатките за вештачка интелигенција да промовираат корист, а не ризик.
