Големи се шансите да останеме тикви

Валентин Нешовски е комплексен лик: тој е писател, моторџија, новинар, ерудит, сериозен познавач на жанрот научна фантастика… И разговорот со него е таков – комплексен, забавен, боцка кога не очекуваш, а најмногу од сѐ – те тера да размислуваш. Каде е светот, накај е тргнат, дали сме тикви – или ќе станеме роботи… Неговиот роман „Последната мисла во универзумот“ со кој е номиниран за наградата Роман на годината, воопшто не го спомнавме, за тоа во друга прилика.

Трн: Се чини дека научната фантастика има една особина да ја предвиди иднината. Жил Верн го предвиде слетувањето на месечината, Ѕвездени патеки го предвидоа мобилниот телефон (иако таму е наречен  комуникатор)… но, исто така предивдуваат и распад на човечката цивилизација каква што ја знаеме, како филмот Елисиум на пример. Каква иднина ни следи според големите автори на научната фантастика?

Валентин: Да, со мала корекција, научната фантастика ја има таа вредност, но со само одредена точност, да ја предвиди подалечната утрешнина. Има повеќе автори кои се генијалци, но се наоѓаат на крајните спротиставени граници на спектрумот околу предвидувањето на иднината. Кога ќе размислам подобро – во безмалку целата Си – Фи продукција човештвото победува или е во симбиоза со суперинтелегентните роботи и технологијата. Односно, повеќето автори сметаат дека следува суперепопулирање на планетата со супермоќни андроиди, кои барем на извесно време доминираат во секоја смисла, општествена, социолошка и политичка, а притоа човештвото се чувствува супресирано, за редовно, во епилогот човештвото да победи или барем да стане сојузник со нив.

Дури и еден Филип К. Дик со феноменалната приказна, со маестрален наслов „Дали роботите сонуваат електрични овци“ по која е снимен и Blade Runner, книгата ја завршува така што главниот протагонист Декард конечно се среќава со лидерот на „страшните“ андроиди, Рој Бети. Декард е принуден да се соочи со сопствената смртност и со природата на човештвото, но во неочекуван завршеток, Рој му го спасува животот на Декард, покажувајќи сочуство и емпатија, консеквентно – помирување со роботите. И во творештвото на Исак Асимов, особено во серијалот „Робот“ доминира наративот во кој човештвото се соочува со истребување од заканата на суперинтелегентни битија.

На другата страна на спектрумот се 5-6 книги или филмови на кои можам да се сетам и во кои човештвото станува мултипланетарна цивилизација па е во обратна улога – покорител на тие светови. Такви примери се „Аватар“ на Џејмс Камерон, или “2001: Вселенска одисеја” од Артур Кларк како и делата на Урсула К. Ле Гвин, која често истражува теми на емпатија и разбирање меѓу различни ентитети.

Сепак, бисер во целата таа литература за мене е „Автостоперскиот водич низ галаксијата“ на Даглас Адамс во која човекот е една помалку смешна, но авантурстична цивилизација која како есенски лист се лелее по беспаќата на универзумот. И не случајно го споменувам ова – во еден дел Адамс опишува смешна, но драгоцена сцена во која Вогоните се наместени со вселенски топови да ја уништат Земјината топка затоа што тука големиот вселенски конструкт планира да изгради интергалактички автопат, а Земјата пречи. Исто како ние, кога градиме автопати па не се грижиме за светот на мравките и другите бубачки. Не ги ни приметуваме. Едно од сценаријата со развојот на Вештачката Интелигенција (ВИ) е дека таа можеби така ќе не третира нас. Како безначајни таму некои суштества, кои сепак и се симпатични и затоа ќе не остави да живееме во својот мал космос. А можеби и ќе ни создаде виртуелна реалност.

Во основа, ми поставивте прашање на кое може да се напишат барем 10 тома книги. Но, ете мислам успеав да доловам дел од актуелните размислувања на Си –Фи авторите во три категории  –  апокалиптичари, алармисти и авантуристи. Последниве, на технолошкиот развој гледаат со прифаќање и лаконски ја исчекуваат иднината со раширена насмевка на лицето.  

Трн: Идната историја според Ѕвездени патеки, највува разурнувачки корпоративни војни кои ќе го разрушат светов. Во моментов, војните кои нè загрозуваат, сè уште носат националистички, верски и митолошки барјаци. Дали големите војни се пред нас, или човештвото ќе успее да покаже дека научната фантастика згрешила со тоа предвидување?

Валентин: Eден од централните филозофски концепти зад “Ѕвездени патеки ” е идејата за истражување и стремежот кон знаење. Низ серијата се промовираат вредностите на љубопитноста, соработката, толеранцијата и разбирањето. Прикажани се и комплексни морални и етички дилеми во мизансценот на футуристичките технологии. Мислам дека промовира визија на утописка иднина каде човештвото продолжува многу од сегашните конфликти, но сепак повеќето вонземски цивилизации соработуваат за заеднички цели. Секако има и „лоши момци“ – Ромулите или Доминионите, но најинтересни за мене се Боргите кои постојано асимилираат нови култури во потрага кон нови технологии. Боргите ги споменувам затоа што еден од песимистичките наративи за тоа како ќе се развива нашата ВИ е токму тој, асимилација на се наоколу, освен ако не ја направиме подобра од нас.

Со еден збор за мене Ѕвездени патеки е еден комплот од различни идеи преку кои се разгледуваат филозофски прашања за природата на постоењето, свеста, моралот и човечкото состојба (human condition). Сепак е тоа надежна визија за иднината, заснована на истражување, соработка и стремеж кон знаење за подобрување на човечкото битие.

Потешко е да го одговорам вториот де од прашањето кое е втемелено во денешнината. Јас сум по природа оптимист и наративот на Ѕвездени патеки ми е близок. Во слични ориентири и амбиции за човештвото пишувам и во моите книги. Иако втората книга „Последната мисла во универзумот“ носи поднаслов Апокалипса, сепак тоа е кулиса за третата книга која во моменотв ја подготвувам.

Но да се вратам на војните на денешнината за која прашувате. Точно детектирате дека се носат  националистички, верски и митолошки барјаци. Слично нешто напишав во еден пост на социјалните медиуми – дека има „анахрони војни“, тоа значи денес, во овој 21 век, има анахрони амбиции и стремежи реализирани во војни за територии, ресурси или авторство и сопственост врз митовите. Па бев напаѓан. 

Ние мора да сфатиме дека човештвото е ЕДНО. Тоа е заедно. Разликите меѓу нас, бели или црни, високи или ниски, понапредни или поназадни, носат квалитет и прогрес.

Трн: Вештачката интелигенција е тука. Засега, општата јавност има пристап до некои говорни модули и машини за создавање слики. Бизнисот има пристап до понапредни ВИ системи, а со што располага воениот комплекс можеме само да шпекулираме. Што мислиш дека ни носи ВИ, дали човештвото ќе создаде алатка за прогрес, или ќе влезе во големи проблеми?

Валентин: Ха, прашање за милион долари. Мислам дека и двете. Но, многу важно – ќе има преодна фаза во која меѓучовечките односи и посточеките политички и економски системи ќе бидат длабоко нарушени. Ова е технологија со голема дисруптивна моќ. За илустрација, во Сан Франциско пред една седмица се случи првиот лудистички настан – група таксисти запалија автономно возило. Возило без возач. Се чувствуваат загрозени, ќе останат без работа. Слично како што работниците во Англија на почетокот на индустриската револуција  ги кршеа автоматизираните машини за предење волна. Ни претстои револуција многу поголема и подлабока од било која револуција досега. И тоа многу скоро – годинава, особено во високо развиените земји, но и овде.

ВИ и роботиката, во комбинација, ќе предизвикаат големи промени на пазарот на трудот. На 14 јануари, Меѓународниот монетарен фонд (ММФ) објави извештај според кој ВИ ќе афектира 60 отсто од професиите во развиените држави, а 40 отсто на глобално ниво. Ова е фрапантен податок и треба да се подготвиме. Едноставно кажано, роботите опремени со вештачка интелигенција или генеративни модели ќе ги афектираат и мануелните работни места, а не само, како што првично се предвидуваше, дека први на удар ќе бидат само висококвалификуваните работни позиции – преведувачи, дизјанери, ИТ специјалисти…На пример БМВ фабриката во Јужна Каролина веќе нарача хуманоидни роботи од компанијата Figure. Тие ќе работат репетитивни, досадни и опасни работи (на пример со хемикалии).  

Во оптимистикото сценарио во овој преоден период општествата ќе имаат комплексни предизвици и задачи. Ќе треба да се амортизира и нивелира вишокот работна сила, да се прераспределат новите професии што ќе се појават, да се урамнотежи распределбата на доход, на пример со Универзален основен доход (Universal basic income е еден од моделите) за оние што ќе останат за работа, да се урамнотежат економиите (можно е да се затворат цели фабрики за производство и цели економии да колабираат) доколку не набават роботи (проценките се дека еден робот носи годишна заштеда од 250 илјади долари во споредба со човек работник) па побарувачката веќе сега е многукратно поголема од, пазете, планираното производство на роботи, да се моделираат политичките системи и процедури (регулирање на развивањето и употребата на ВИ и роботиката), потоа да се стабилизираат комуникациските канали (регулација на генеративни и deep fake видеа, фотографии и информации), стабилизирање на меѓународните односи – натпревар во ВИ вооружување…

Тешка задача е тоа. Но, после овој преоден период, според ова сценарио, следува масовно богатство, се за секого (abundance of products), наплив на многу ефтини производи, хуманоидни роботи во домаќинствата способни да работат се, ефтин транспорт на производи до било каде (автоматизирани авиони, бродови и железници), напреднат здравствен систем (со развој на медицината, био-медицината, синтетичко производство на органи), нови еколошки материјали, а со тоа и заштита на животната средина и решени климатски промени. Како? Па идејата е дека ќе има машини што ќе произведуваат машини, или фабрики без луѓе. Всушност до некаде тоа е веќе остварено – ГИГА Фабриката на Тесла во Тексас. Со тоа, за илустрација, чинењето на еден автомобил прогресивно би паднал на трошокот за материјали а со употреба на новите материјали (веќе пронајдени од ВИ) потоа и на нула. Утописки знам, бидејќи желбата за профит е голема. Но овде зборувам за период од некои 50 години. Замислете бесплатна енергија од сонцето, нови ефтини материјали, нема трошок за работници (плата, пензии, боледување, одмор…) и машините произведуваат машини, храна, облека.

Трн: А црното сценарио?

Валентин: Црното сценарио е навистина црно. Во основа, да не должам многу, тоа е неспособноста да се разберат промените од една страна и брзиот развој на Супер ВИ од друга, со тоа што таа ќе заклучи дека сме штетници на планетата и ќе не убие сите. Во првата варијанта тоа подразбира дека човештвото безглаво и неподготвено ќе се втурне во супербрз неконтролиран развој на ВИ, без претходно да се направат промените за кои зборував па ќе следат револуции на осимарошените, работници од сите профили без доход. Втората варијанта е дека ВИ наскоро ќе достигне Генерелана Вештачка Интелигенција (ГВИ) – или човечка мултимодална и мултиефективна интелигенција, а само за секунда (толку ќе трае отклонот) Супер Вештачка Интелигенција (СВИ) која ќе биде можеби милион или милијарда пати поинтелигентна од нас. Нема да ја разбераме ниту што ни зборува. Знам, многумина кои не ја следат оваа проблематика, ќе помислат Нешовски овде лупета, но верувајте спромените следат многу брзо. Се смета дека Опен АИ во лабораторија веќе има ГВИ. Тоа го најави со пуштањето моделот Сора во оптек. Секој ден, ама секој ден, има драматични објави. На пример, роботите „Оптимус“ на Тесла и „01“ на Фигјур се авотномни, се движат на нозе, може да комуницираат, имаат тактилност на прстите. Друг пример е компанијата Неуролинк на Маск. Тие вградија чип во главата на човек кој нема моторни функции на екстремитетите. Човекот е жив и здрав и може да контролира маус со мислите. Тоа е незамислива револуција. Проектот се вика „Телепатија“ и значи дека многу скоро ќе има суперлуѓе кои ќе се подвргнат на таква операција па ќе имаат пристап до Интернет само со мислење, ќе може да го меморираат својот живот на хард диск, да комуницираат со други само со телепатија…бескрајни се варијантите.

Многумина научници кои ги следам, па и оние што се автори на ВИ од Опен АИ, Гоогле, МЕТА, Нвидиа, Стејбл Дифужн предупредија на драматичните промени што ќе се случат и бараа на светските самити на влади да донесат регулативи.

Црното сценарио наједноставно е објаснето преку „сценариото на Спајалици“ (Paper Clip Scenario) и е илустративно за тоа една  СУПЕР ВИ може да не однесе поѓаволите. Тоа вели, некој ќе и даде на оваа ВИ задача да произведе што е можно повеќе спајалици. Ревносна, и во услови кога постојат фабрики што таа ги контролира, ќе се ангажира и ќе го употреби целото железо на светот, вклчувајќи го она што ние го имаме во нас, за да ја исполни задачата. Или ќе ги активира сите нуклеарни бомби што постојат на светов. Или ќе произведе нов вирус во лабораториите што таа ги контролира…             

Но, генерално мислам дека човештвото е паметна и жилава творба, па ќе бидеме доволно претпазливи.

Трн: Дали либералната демократија, онаква каква што ја знаеме во Европа, ќе успее да се справи со напливот на автократски, популистички политички модели кои изникнуваат на повеќе места одеднаш?

Валентин: Мислам дека треба да има и ќе има вредносни и системски промени. Можеби поважно, во преодната фаза, ќе има процедурални промени кои нужно ќе доведат до нова свест и еманација на нова општествена култура поради една едноставна емоција – стравот. Стравот е најефикасниот генератор на промени. Процесите за кои зборувам погоре мора, МОРА, добро да им се објаснат на граѓаните. Сега сме во фаза на стихија. За прв пат во историјата, самите компании кои развија ВИ и роботи, свесни за опасностите, бараат регулација на пазарот. Но ќе бараат само уште кратко време, потоа ќе ги понесе виорот на економските притисоци, потребата за профит и натпревар за доминација на пазарот. Контратежа или спртиставена страна ќе бидат обесправените и невработените, доколку останат надвор од процесите, заборавени и маргинализирани.

Мислам дека од овие триења ќе произлезе нова политичка динамика, нови политички движења што полека ќе го еродираат сегашниот систем кој кулминира, односно е во зенитот на противречностите токму поради тоа што не е реформиран. Либералната демократија ми се чини е истрошена поради тоа што не успеа да ги објасни своите начела и влезе во контрадикција на двата основни постулати – индивидуални права и истовремено силен управувачки апарат. Во основа либералната демократија се стреми кон балансирање на индивидуалните слободи со потребата за ефикасно управување, обезбедувајќи дека власта е ограничена и одговорна пред граѓаните кои ги служи. Тоа е добар и продуктивен концепт. Но таа е репрезентативна, а не директна. Конзервативизмот и популистичките движења се реакција на оттуѓеноста на големите корпорации и управувачките апаратури, кои лесно ги регрутираат оние што се чувствуваат оставени назад (left behind). Велам, сега се движиме на ивицата на историјата.

Второ, мислам дека идеите на прогресивизмот, иако срамежливо, ќе добијат тло под нозете. Тоа се идеите за социјална правда, глобална соработка, но партиципативна, а не репрезентативна демократија (овозможена токму од ВИ комуникациски платформи), вклученост и разнообразност, технолошки иновации и грижа за природната средина.    Ние луѓето мора да станеме подобри.

Трн: Да се навратиме на научната фантастика, во идната историја утопиското општество се гради на рушевините на ова илиберално – корпоративно, преку голем технолошки скок и остварување на комуникација со екстратерестријални битија. Дали навистина мора човештвото да помине низ таа фаза на себеуништување, за конечно да погледне во иднината?

Валентин: Не, не мора. Јас не верувам во фразите од типот – сè се раѓа преку пролеана крв. Така било во минатото. Човештвото во последниве 80 години (од втората светска војна ) беше на добра траекторија. Постои еден привид дека се е отидено поѓаволите. Ова се случува најмногу поради социјалните медиуми и нивниот бизнис модел на „продавање и задржување на внимание преку конфронтација“ односно алгоритмите ги поттикнуваат оние постови во кои има кавга, атракција, „крв“, конфронтација. Сепак, и покрај привидот, статистички и историски сега има најмалку војни од било кога досега, има најголем стандард од било кога досега, животниот век е речиси дуплиран од пред само 60 години, нема масовни болести како колери, чуми или жолтици и сипаници од кои измирале милиони луѓе, луѓето се глобално конектирани, патувањето до било каде во светот трае помалку од еден ден, има најголем технолошки развој, работното време е намалено речиси секаде, остварени се социјални и образовни бенефити подобри од било кога досега. Секако, не е идеално.

Ние со ВИ имаме шанса да станеме суперцивилизација како од научната фантастика на Спилберг на пример, во филмот „АИ“. Таму, ВИ, роботите и човекот живеат турбуентно, но сепак, љубовта и потрагата по мајката (метафора за создателот), ги вразуми андроидите, па тие ја заштитија и сочуваа меморијата за човештвото. Ако се сеќавате на крајот на филмот – доаѓаат перфектни битија и го реоткриваат минатото на детето робот и човек.

Но, предупредувам, големи се шансите да останеме тикви.

Трн: Кога возиш мотор сакаш да избегаш од нешто, или да стигнеш некаде?

Валентин: Хахаха…Возам со страст. И бегам и стасувам, а ниту бегам, ниту стасувам. Тоа е репетитивна дијалектика. Патот и возбудата ми се важни. Возам повеќе на планина. Таму е цивилизацијата на природата, дрвјата, мравките, карпите по кои сум се качил со мотор – чудо на две тркала и технолошки напреден производ на човештвото. Гледајте тоа е доминацијата која ја искажуваме кон природата. Човекот е способен да ја промени природата (градовите, пристаништата, аеродромите) и тоа го прави ми се чини полесно, отколку што се променува сам себе и своите лоши особини.

Некои велат дека живееме во симулација. А има и докази за тоа. Дека сите ние сме или неважни статични играчи NVPs (Non Valuable player) или неважни репетитивни играчи – NPCs (Non Playable Characters) а можеби сме и најважните играчи MVPs (Most Valuable Players). Јас типувам на последното.

Да заклучам, сепак возењето мотор ми е бегство од овие размисли, но на крајот стасувам пак кај нив. Возиме напред во круг, циклично.

Васко Лазаревски

Преземено од Трн.мк

Треба да знаете
Moже да ве интересира