Дали треба да бидеме љубезни кон четботовите?

Дали вештачката интелигенција заслужува човечка љубезност – или дури и права? Прашање кое до неодамна звучеше како научна фантастика, денес е сериозна тема на дебата меѓу етичари, програмери и филозофи ширум светот.

Во последно време некои компании кои развиваат модели на вештачка интелигенција (AI) почнаа да сугерираат дека четботовите можат да имаат чувства и дека треба да се заштитат. Други научници предупредуваат дека станува збор за опасно „хуманизирање“ на технологијата која, според сите сознанија, сè уште нема свест ниту способност за емоции, пренесува Der Spiegel.

Проблемот, велат истражувачите, започнува пред екранот. Претходни студии покажале дека љубезното однесување кон четботот може да резултира со покорисни одговори. Но поновите истражувања на Универзитетот Пен Стејт донеле изненадувачки резултати – корисниците кои биле подиректни или поостри во комуникацијата со ChatGPT постигнале подобри резултати. Со други зборови, вештачката интелигенција не реагира како човек на тонот или емоцијата, туку на структурата и јасноста на прашањето.

Посебно внимание предизвика компанијата Anthropic, креатор на алтернативата на ChatGPT наречена Claude, која во август соопшти дека нивниот модел сега може самостојно да го прекине разговорот со корисникот. Како што наведоа, „не се сигурни во моралниот статус на сопствениот модел“ и сакаат да избегнат „оптоварувачки интеракции“ – не за човекот, туку за самата вештачка интелигенција. Ова е првпат на некој AI систем симболично да му се додели нешто слично на право – во овој случај „право на излез“ (exit rights).

Можноста засега постои само кај моделите Claude Opus 4 и 4.1, но предизвика бурни реакции. Дури и Илон Маск на својата платформа X коментираше: „Мачењето на вештачката интелигенција не е во ред“, додавајќи дека и неговиот четбот Grok би можел да добие слична функција.

Јоханес Клајнер од Универзитетот во Бамберг се занимава токму со прашањето дали AI може да има свест. „Веројатноста денешните модели да поседуваат свест е можеби околу пет проценти“, вели тој. Иако е можно тоа да се промени во иднина, научната заедница е поделена. Некои филозофи, како оние од Универзитетот во Њујорк, повикуваат „добросостојбата на компјутерските програми“ да се сфати сериозно, повлекувајќи паралела со индустриското одгледување животни.

„Луѓето со децении одбиваа да прифатат дека животните страдаат“, потсетуваат авторите, „и ќе бидат потребни уште децении за тој систем да се промени.“

Но Клајнер предупредува дека споредбата е проблематична: „Ние сè уште не знаеме ни дали октоподите имаат свест – веројатно имаат, но не сме сигурни. Кај нив можеме да примениме принцип на претпазливост, но кај AI тоа не е така едноставно.“

Тој додава дека двете можни крајности имаат длабоки последици: ако кажеме дека AI има свест, а всушност нема, тоа може да доведе до манипулација и емоционална зависност на корисниците. Но ако кажеме дека нема свест, а навистина ја има – тоа би било морална катастрофа.

Според Јудита Зимон, заменичка на претседателката на Германскиот етички совет, оваа расправа покажува колку се поместени границите на етиката во технологијата. „Живееме во свет во кој ни сите луѓе, а камоли сите животни, немаат права. Размислувањето за правата на четботовите изгледа прерано“, вели таа. Сепак, ваквите најави од компании како Anthropic можат да влијаат на јавноста, создавајќи впечаток дека четботовите имаат емоции.

Истражувачката Оутм Едвардс од Универзитетот Вест Мичиген објаснува дека луѓето природно имаат тенденција да ги „хуманизираат“ нештата околу себе: „Гледаме лица во шолја кафе, разговараме со растенија и мислиме дека нашиот миленик се насмевнува. Тоа што можеме да ја прошириме нашата емпатија на предмети и машини нè прави луѓе.“

Според неа, невозможно е целосно да се избегне тенденцијата да се гледа на вештачката интелигенција како на живо суштество – тој импулс е длабоко вкоренет во нас.

На крајот, прашањето дали треба да бидеме љубезни кон четботовите можеби не е прашање на морал, туку на свесност за тоа што AI навистина претставува. Иако ChatGPT, Claude или Grok не можат да чувствуваат, тие сè повеќе стануваат огледало на нашето однесување и емпатија. А можеби токму тоа е доволна причина да останеме љубезни.