Skip to content
Замислете дека на Американците им е понуден следниот договор: тие притиснале големо црвено копче и Кина станала првата суперсила во светот, надминувајќи ги сите други. Земјата брзо ги престигнала Соединетите Американски Држави во технолошкиот развој, производствениот капацитет и создавањето богатство. Кина достигнала толку високо технолошко ниво, а нејзината човечка и роботска работна сила станала толку бројна што Американците тешко можеле да сфатат што се случува на првите линии на економскиот, научниот, па дури и геополитичкиот напредок.
Но, наградата за доброволно откажување од сопствената моќ била величествена. Светската економија цветала, а Американците биле побогати од кога било. Ни биле дадени нови лекови, евтина енергија и неверојатна забава. Машините ни ја вршеле работата, а лековите за подобрување на расположението се грижеле за нашата ментална благосостојба. Повеќе не морало да се бориме за нашиот опстанок. Можеби дури и не мора да работиме за да живееме долг, луксузен и безгрижен живот.
Еве го договорот: се откажуваме од контролата и добиваме многу од она за што некогаш сме се бореле. Но, откако ќе се откажеме, контролата е изгубена засекогаш.
Дали би го притиснале копчето?
Разговорот за вештачката интелигенција во голема мера се фокусирал на заканата од катастрофа. Но, сакам да се фокусирам на друго прашање: што ако вештачката интелигенција не се развива на начинот на кој нејзините креатори се плашат, туку на начинот на кој нејзините пронаоѓачи и инвеститори се надеваат?
Ако ја оставиме настрана можноста за уништување на човештвото од страна на вештачката интелигенција во Силиконската долина, наречена p(doom), ќе забележиме дека поимите за нејзината утописка иднина, или p(utopia), исто така имаат сериозни проблеми.
Технолошките визионери замислуваат свет сличен на оној опишан погоре, но уште поекстремен, во кој улогата на Кина е доверена на вештачката интелигенција.
Курозен судир помеѓу овие две идеи се случи кога 27-годишниот Џејкоб Коксон, кој ги откри OpenAI и Anthropic, се појави во „The Daily Show“ на Џон Стјуарт.
Коксон дојде да предупреди дека вештачката интелигенција може да го уништи човештвото. Но, кога Стјуарт се потсмеваше на „идната утопија“ ветена од креаторите на технологијата, неговиот гостин го прекина.
„Всушност верувам во оваа идна утопија“, рече Коксон. Сепак, неговите следни зборови беа многу потажни: „Ве слушнав како зборувате за работни места. Мислам дека воопшто нема да има работни места.“
Коксон го опиша светот што го замислуваат креаторите на технологијата како општество „без работни места, со универзални високи приходи, каде што профитот од целосно автоматизирано економско производство може да се распредели на реални луѓе“.
Оваа визија, во една или друга форма, е широко распространета меѓу компаниите за вештачка интелигенција. Ја имам слушнато многу пати. Но, повеќето луѓе реагираат со неверица кога ќе го слушнат терминот „утопија“ за свет во кој практично целата сложена интелектуална работа ја вршат машини.
Стјуарт исто така не беше убеден.
„Значи, сите ние само ќе глумиме во некоја претстава?“ праша тој.
Општо земено сум скептичен кон идејата за иднина без работа. Ако има едно нешто во кое луѓето се особено добри, тоа е наоѓање работи што треба да се прават. Кој би замислил, во нашето сурово земјоделско минато, дека подкастингот еден ден ќе стане професија со полно работно време?
Но, многу полесно можам да замислам како контролата и разбирањето на луѓето врз голем дел од општествениот живот постепено ќе преминат во рацете на машините.
Неколку неодамнешни настани сугерираат дека овој процес веќе започнал. Некои ги откриваат границите на можностите на најнапредната вештачка интелигенција, додека други ја демонстрираат нејзината растечка корисност во секојдневниот живот.
Вештачката интелигенција решава проблеми што беа надвор од дофатот на генерации математичари за неколку часа
Пред неколку недели, OpenAI објави над 700 научни ракописи одеднаш, нудејќи решенија за речиси 400 сложени математички проблеми.
Ако не сте математичар и не познавате луѓе кои професионално се занимаваат со математика, овој настан веројатно помина незабележано од вас. Сепак, во математичките кругови, тој предизвика вистински земјотрес.
Јас не сум математичар, но мојот татко е. Неговата научна работа е поврзана со движењето на електроните низ кристали со неуредна структура.
Во центарот на неговата истражувачка област беа два проблема кои не останаа само нерешени. Како што самиот вели, тие беа „целосно недостижни – никој немаше идеја како да ги реши“.
Системите на OpenAI ги решија за едно попладне.
„Ова е крајот на математиката каква што ја знаеме“, ми напиша татко ми. „За прв пат ми е мило што сум во пензија.“
Неодамна формираното Здружение за човечка математика, кое има околу 1.000 членови, брзо издаде соопштение: „Математичарите не сакаа оваа работа да се заврши.“
Интересна изјава.
Дали научниците треба да имаат право да одлучуваат кои математички проблеми да ги решат, а кои не? Како да ги процениме придобивките и трошоците на свет во кој математичкото знаење брзо напредува, но луѓето повеќе не можат да го разберат?
Замислете го процесот започнат од OpenAI кој се повторува одново и одново со години.
Многу системи на вештачка интелигенција решаваат проблеми што ниту еден човек никогаш не можел да ги реши. Потоа ги користат решенијата за да формулираат нови проблеми. Други системи, учејќи од своите претходници, исто така ги решаваат, дозволувајќи да се постават уште посложени прашања.
И така до бесконечност.
Новата математика станува толку огромна што луѓето повеќе не можат да ја сфатат. Сепак, вештачката интелигенција лесно ја учи и се движи напред, стимулирајќи откритија во науката за материјали и производството на енергија.
Човештвото не ја разбира оваа нова наука, но има корист од нејзините достигнувања.
Дали тој свет е толку различен од сегашниот?
Малкумина од нас разбираат што се случува на работ на човечкото знаење. Не можам ни да ја сфатам математиката што ја правеше мојот татко. Каква разлика прави ако никој од нас не може да ја разбере математиката на вештачката интелигенција?
И сепак, свет во кој најоддалечените хоризонти на знаење и напредок им припаѓаат на алгоритамските системи, а не на човечкото разум, ми се чини фундаментално различен.
Човечката контрола, за која верувам дека е неразделно поврзана со човечкото разбирање, сè уште има одредена вредност, нели?
Додека го пишував ова, наидов на студија во која теоретските физичари презентираа 50 сложени, необјавени проблеми на напредни системи за вештачка интелигенција.
Проблемите беа тешки, но решливи. На физичар специјализиран во оваа област би му требало околу еден ден за да ги реши сите.
Најдобриот систем со вештачка интелигенција реши 98 проценти од проблемите за помалку од 3 долари секој.
На почетокот, физичарите мислеа дека системот се справува полошо. Но, моделот инсистираше дека грешките се направени од луѓе, а не од моделот. И се покажа дека е точно.
„Искрено, не очекував овој ден да дојде толку брзо“, напиша Суврат Раџу, еден од физичарите вклучени во студијата. „Откако ги добивме овие резултати, не можев правилно да спијам неколку ноќи.“
Најголемата опасност можеби не е востанието на машините
Најмрачните сценарија за вештачката интелигенција имаат тенденција да се фокусираат на специфичен момент кога суперинтелигентен систем излегува од контрола и почнува да го планира нашето уништување.
Сценариото што ми се чини поверојатно и потешко за избегнување се нарекува „постепено губење на контролата“.
Не постои ниту еден момент во кој човештвото ја губи контролата врз сопствената иднина. Наместо тоа, постои низа мали одлуки во кои доброволно се откажуваме од контролата затоа што се чини како најразумен избор.
Компаниите постепено им доверуваат сè повеќе работа, а на крајот и сè повеќе управувачки одлуки, на напредните системи за вештачка интелигенција затоа што им дава конкурентска предност.
Владите ѝ доверуваат на вештачката интелигенција сè повеќе одлуки на бојното поле затоа што ги прави нивните вооружени сили побрзи и посмртоносни.
Компаниите за вештачка интелигенција се движат кон рекурзивно самоподобрување, каде што системот сам ја развива следната генерација модели затоа што им овозможува да останат пред своите конкуренти.
Клучниот двигател на целиот процес е конкурентскиот притисок.
Компаниите, владите и лабораториите што се спротивставуваат постепено заостануваат зад своите конкуренти, давајќи ѝ на вештачката интелигенција поголема автономија и контрола.
Напредокот на алгоритамските системи, а последователно и на беспилотните летала и роботите што тие ги контролираат, постојано го проширува опсегот на задачи што машините можат да ги извршуваат подобро од луѓето.
Дури и ако претпоставиме дека вештачката интелигенција ќе остане добронамерна и ќе ги исполнува човечките желби, сè повеќе и повеќе од основните функции на општеството ќе бидат надвор од директната човечка контрола.
Како доброволно ги предаваме нашите животи на алгоритмите
Што ме доведува до друга, многу пообична приказна за вештачката интелигенција.
Дигиталниот асистент на Мета, Муза, е на врвот на листите со апликации на Apple веќе неколку недели.
Во својата суштина, Муза е релативно едноставен модел на вештачка интелигенција. Но, неговата корисност доаѓа од нејзината способност да пристапи до многу поголем дел од вашиот дигитален живот: вашата е-пошта, календар, социјални медиуми, банкарски сметки и складирање во облак.
Системот потоа може автоматски да презема дејствија во ваше име.
Идејата да ѝ се даде на вештачката интелигенција толку широк пристап до мојот личен живот ме прави да се чувствувам непријатно.
Сепак, моите пријатели кои ја користат апликацијата велат дека им дава речиси натчовечки способности. Тие реагираат побрзо и поефикасно се справуваат со своите одговорности подобро од кога било.
Причината е секогаш присутниот дигитален асистент кој ги следи нивните онлајн животи, открива проблеми, одговара на е-пошта, прави резервации и ги потсетува на нивните приоритети.
Секако, има и еден проблем: има и некој од другата страна на сето ова.
Веќе слушаме за компании кои се преоптоварени од автоматизирани телефонски повици и е-пошта.
Со ширењето на асистенти како Muse, овие компании ќе почнат да ги користат своите системи за вештачка интелигенција за да одговорат на растечкиот бран на барања.
Колку е пораспространета употребата на вакви агенти, толку е поголем ризикот луѓето кои ги немаат да почнат да заостануваат.
Ќе бидеме побавни во одговарањето од оние кои користат автоматизирани асистенти, или едноставно ќе бидеме преоптоварени од тоа што ќе мора да одговараме на туѓи алгоритми.
На крајот, нашите системи ќе преговараат со други системи. Нашата лична вештачка интелигенција ќе ја повика вештачката интелигенција во ресторанот за да резервира маса. Ќе испраќа е-пошта до дигиталните асистенти на нашите колеги.
Луѓето кои им даваат на своите системи поголем пристап до нивниот личен живот и поголема автономија ќе имаат предност.
Логиката на конкуренцијата ќе продолжи да функционира. Она што изгледа апсурдно една година, следната ќе стане вообичаено.
Голем дел од нашиот свет ќе биде доверен на вештачката интелигенција.
Веќе доживеавме таква промена.
Имаше време кога можевме да одбиеме да користиме е-пошта или паметни телефони. За повеќето од нас, тоа време е минато.
Одбивањето на овие технологии денес би нè ставило во голема неповолна положба во современото општество, дури и кога жалиме за нивното влијание врз нашите животи.
Истото веројатно ќе се случи и со вештачката интелигенција.
Можеби отсекогаш било вака. Не е ли историјата на современото општество континуирана размена на човечко разбирање и контрола за технолошки и економски напредок?
Не би го менувал мојот живот за оној на моите предци, иако денешното општество ми е многу потешко да го разберам отколку што беше нивното за нив.
Само треба да знам дека клима уредите и магнетната резонанца работат. Не треба да ги разбирам фундаменталните принципи за тоа како тие работат.
Сепак, досега оваа историја беше првенствено човечка историја.
Оваа ера можеби завршува.
Дали сакаме свет во кој вештачката интелигенција нè прави богати, но ни ја одзема контролата?
Лесно е да се одговори на прашањето дали сакаме вештачка интелигенција што ќе го уништи човештвото.
Не, не сакаме.
Но, дали сакаме вештачка интелигенција што ќе нè направи сите побогати ако цената е губење на контролата и разбирањето на светот во кој живееме?
Каква вредност има за човекот да ја задржи водечката улога во сопствената борба за напредок и како да го усогласиме тоа со ветувањето дека ќе ја олесниме таа борба?
Сакам нови лекови, математички теореми, па дури и, до одреден степен, способни дигитални асистенти.
Во исто време, верувам дека борбата за човечки напредок е суштински дел од човечката историја, па дури и од самата човечка душа.
Не наоѓам лесни одговори на овие прашања. Дури и не ми е лесно јасно да ги формулирам.
Но, моментално сме на пат каде што одговорите можат да ни се дадат – преку безброј мали, речиси незабележливи одлуки во кои, економски, лично или политички, би изгледало разумно луѓето да се повлечат и да дозволат машините да го заземат нивното место.
Предупредувањето на Фукујама за човечката природа
Во својата често погрешно разбрана книга „Крајот на историјата и последниот човек“, Франсис Фукујама поставува слично прашање.
Тој верува дека е малку веројатно дека кој било политички или економски систем ќе го надмине капитализмот и либералната демократија во нивната способност да создадат материјална благосостојба.
Главното прашање, сепак, е дали постојат човечки аспирации што либералната демократија не само што не може да ги задоволи, туку и дека фундаментално ги предава.
Фукујама верува дека такви аспирации постојат.
Човекот не сака само плата и куќа. Тој сака признание и борба. Тој сака да биде перцепиран не само како негов рамноправен во духовна или политичка смисла, туку како негов претпоставен.
Борбата за признание е фундаментална човечка аспирација. Неможноста на технократските либерални општества дури и да ја разберат оваа аспирација може да ги дестабилизира.
„Ние, жителите на либералните демократии, толку сме навикнати на објаснувања на современите настани што ги сведуваат човечките мотиви на економски причини и сме станале толку буржоаски во нашите сопствени перцепции, што често сме изненадени кога откриваме колку е крајно неекономичен карактерот на поголемиот дел од политичкиот живот“, напишал Фукујама.
„Всушност, ние дури и немаме заеднички речник со кој би зборувале за гордата и самоуверена страна на човечката природа што лежи зад повеќето војни и политички конфликти.“
Вештачката интелигенција, ми се чини, го поставува прашањето на Фукујама на уште поостар начин.
Ако се развие на начинот на кој нејзините поддржувачи се надеваат, технологијата ветува нивоа на благосостојба и можности што традиционалните политички системи никогаш не можеле да ги замислат.
Но, ова може да дојде по цена на предавство на човечката потреба за признавање и борба.
Фукујама беше загрижен за либералната демократија бидејќи нејзиното ветување за еднаквост, дури и кога ќе се постигне, нема да биде доволно.
Тој веруваше дека либералната демократија се заснова на нецелосно разбирање на човечките желби.
Вештачката интелигенција оди уште подалеку: ветува благосостојба под услов да ја прифатиме сопствената инфериорност во однос на машините.
Џон Стјуарт веднаш го виде овој проблем.
„Ако можев да посочам една маана во оваа утопија“, му рече тој на Коксон, „мислам дека во повеќето случаи, дури и кога работиме работа што не ни се допаѓа особено, луѓето сакаат да чувствуваат дека се важни. Кога луѓето на мои години се пензионираат, тие често умираат затоа што повеќе немаат врска со цел.“
За негова заслуга, Коксон не го избегна прашањето. Тој забележа дека многу луѓе ги мразат своите работни места.
Би додал дека многу луѓе го сакаат пензионирањето, иако ја мразат невработеноста.
Но, не мислам дека проблемот може најдобро да се разбере само во однос на работните места.
Луѓето ќе продолжат да претпочитаат да прават многу работи едни за други и заедно, дури и кога вештачката интелигенција може да ги направи подобро.
Фактот дека машина може да победи светски шампион во шах не значи дека луѓето престанале да играат шах.
Но, чувството на човештвото за смисла, контрола и лидерство е нешто многу потешко да се замени.
Општество на задоволство и изгубено значење
„Откако ќе почнете да признавате објаснувања што се поврзани со целта, повеќе не знаете каков може да биде резултатот“, пишува Олдос Хаксли во „Храбриот нов свет“.
Романот опишува општество во кое сите желби се задоволени, но борбата е отсутна.
Во имагинарниот свет на Хаксли, расудувањето за смислата на постоењето се смета за субверзивно.
Тоа би можело да ги наведе луѓето да веруваат дека „целта на животот не е одржување на благосостојбата, туку некакво зајакнување и усовршување на свеста, некакво проширување на знаењето“.
Владетелот во романот признава дека ова е веројатно вистина, но таква вистина не може да се дозволи под постојните околности.
Денес, либералните демократии се под закана не затоа што не успеале да испорачаат ниво на просперитет незамисливо за нашите предци, туку затоа што дозволиле нееднаквоста, отуѓеноста и немоќта да растат среде тој просперитет.
Ние сакаме богатство, но го сакаме делумно затоа што веруваме дека ќе ни донесе достоинство.
Гневот на политички радикализираните богати луѓе покажува колку е недоволен материјалниот просперитет кога не е придружен со признанието што го очекуваат од него.
Не велам дека вештачката интелигенција нужно ќе создаде таков свет, или дури дека е способна да го стори тоа.
Но, ова е светот што го замислуваат многу од нејзините креатори.
Нивната визија не е ограничена на замена на канцеларијата и интелектуалната работа. Тие замислуваат технологија што ги надминува дури и најбрилијантните човечки умови.
Со секој изминат ден, со секој нов модел и со секој нов доказ дека вештачката интелигенција може да решава проблеми надвор од човечките способности, ова сценарио изгледа сè поверојатно.
Луѓето што ја градат вештачката интелигенција „се чини дека немаат многу добро разбирање за човечката природа“, рече Стјуарт.
Додека им се даде можност, речиси сите би го притиснале копчето.
А вие?
*Од Езра Клајн, анализа за „Њујорк тајмс“.
