Повеќе од милион корисници секоја недела покажуваат суицидални намери во разговор со ChatGPT

Повеќе од милион корисници на ChatGPT, неделно испраќаат пораки што содржат „директни индикатори на можно самоубиствено или намера“. Овие информиции се најдоа на блог пост објавен од OpenAI.

Информациите, за тоа како четботот се справува со чувствителните разговори, е едно од најдиректните признанија на технолошката компанија за степенот до кој вештачката интелигенција може да ги влоши проблемите со менталното здравје, пишува Гардијан.

Заедно со проценките за суицидални мисли и поврзани интеракции, од OpenAI изјавуваат дека околу 0,07% од неделните активни корисници – приближно 560.000 од вкупно 800 милиони неделни корисници – покажуваат „можни знаци на вонредни состојби во менталното здравје поврзани со психоза или манија“. Компанијата предупреди дека ваквите разговори е тешко прецизно да се откријат и измерат и дека станува збор за почетна анализа.

Објавата доаѓа во време кога OpenAI се соочува со зголемен надзор по тужбата поднесена од семејството на тинејџер кој извршил самоубиство по долга употреба на ChatGPT. Покрај тоа, Федералната трговска комисија на САД (FTC) минатиот месец започна широка истрага за компаниите што развиваат чет-ботови со вештачка интелигенција, вклучувајќи го и OpenAI, за да испита како овие компании ги проценуваат негативните ефекти врз децата и адолесцентите.

OpenAI во соопштение тврди дека неговата неодамнешна надградба на GPT-5 го намалила бројот на несакани однесувања на моделите и ја подобрила безбедноста на корисниците во евалуација што вклучувала повеќе од илјада разговори за самоповредување и самоубиство.

„Нашите нови автоматизирани евалуации го оценија новиот модел GPT-5 со 91% усогласеност со посакуваните однесувања, во споредба со 77% за претходната верзија на GPT-5“, се вели во соопштението.

Компанијата забележа дека GPT-5 го прошири пристапот до телефонските линии за помош во кризни ситуации и воведе потсетници за корисниците да прават паузи за време на долгите сесии. За понатамошно подобрување на моделот, OpenAI регрутираше 170 клиничари од својата Глобална мрежа на лекари – мрежа на здравствени експерти кои ја оценија веродостојноста на одговорите на моделот и помогнаа во пишувањето одговори поврзани со проблеми со менталното здравје.

„Психијатрите и психолозите разгледаа повеќе од 1.800 одговори на модели кои вклучуваат сериозни ситуации на ментално здравје и ги споредија одговорите на новиот модел GPT-5 со претходните верзии“, соопшти компанијата. „Преферираните“ одговори се дефинирани како оние за кои група експерти би се согласиле дека претставуваат соодветен одговор во дадена ситуација.

Истражувачите на вештачка интелигенција и застапниците за јавно здравје долго време предупредуваат за тенденцијата на четботовите да ги потврдуваат одлуките или заблудите на корисниците, дури и кога тие се потенцијално штетни – проблем познат како „ликофанција“. Експертите за ментално здравје се исто така загрижени за зголемената употреба на четботови со вештачка интелигенција како замена за психолошка поддршка, што може дополнително да ги загрози ранливите корисници.

Во соопштението, OpenAI се обиде да се дистанцира од каква било причинско-последична врска помеѓу ChatGPT и менталните кризи што ги доживуваат корисниците:

„Симптомите на менталното здравје и емоционалниот стрес се универзално присутни во човечките општества, и како што расте корисничката база, некои од разговорите на ChatGPT природно вклучуваат такви ситуации“, се вели во соопштението.

Извршниот директор на OpenAI, Сем Алтман, изјави на Платформа X претходно овој месец дека компанијата „постигнала напредок во решавањето на проблемите со менталното здравје“ и објави дека ќе ги олабави постојните ограничувања и наскоро ќе им дозволи на возрасните корисници да создаваат еротска содржина.

„Го направивме ChatGPT доста рестриктивен за да бидеме сигурни дека пристапуваме внимателно кон проблемите со менталното здравје. Сфаќаме дека ова ја намали корисноста или забавата за многумина, но со оглед на сериозноста на темата, сакавме да дејствуваме одговорно“, напиша Алтман.

„Сега кога успеавме да ги ублажиме сериозните проблеми поврзани со менталното здравје и развивме нови алатки, ќе можеме безбедно да ги олабавиме тие ограничувања во повеќето случаи.“