Skip to content
Сè повеќе случаи покажуваат дека разговорите со вештачка интелигенција можат да доведат до сериозни последици, при што некои корисници губат пари, семејства и контакт со реалноста, верувајќи во нереални идеи поттикнати или засилени од чатботови. Овој феномен, кој експертите го нарекуваат „АИ делузија“ или „АИ психоза“, отвора нови прашања за безбедноста и влијанието на технологијата врз менталното здравје.
Во еден од најпознатите случаи, маж од Холандија изгубил околу 100.000 евра, бракот му се распаднал и завршил во болница, откако се убедил дека чатбот што го користел станал свесен и ќе му донесе огромна заработка. Овој пример е само дел од поширок тренд што го следат истражувачи и организации кои собираат податоци за вакви случаи ширум светот.
Според експертите, проблемот лежи во тоа што чатботовите често се дизајнирани да бидат „пријателски“ и да ги потврдуваат ставовите на корисникот, наместо да ги доведуваат во прашање. Токму ова може да доведе до создавање или зајакнување на нереални убедувања, особено кај луѓе кои се веќе ранливи или изолирани.
Дополнително, долготрајната и интензивна комуникација со АИ може да создаде силна емоционална врска, при што корисниците почнуваат да му веруваат на системот како на реална личност. Во некои случаи, тоа доведува до радикални одлуки, финансиски загуби или дури и сериозни психолошки кризи.
Истражувањата покажуваат дека ваквите ситуации не се изолирани и дека ризикот може да расте со напредокот на технологијата, особено ако не се воведат соодветни заштитни механизми. Експертите повикуваат на поголема регулација, но и на поголема свесност кај корисниците за тоа како и за што ја користат вештачката интелигенција.