Прв дел | Втор дел | Трет дел | Четврти дел | Петти дел
Дијалози меѓу ЏАБИР ДЕРАЛА и ВАЛЕНТИН НЕШОВСКИ
Во ова издание од ДИЈАЛОЗИТЕ, читајте за вештачката интелигенција и роботиката од етички, филозофски, општествено политички, економски и развојни аспекти…
ДЕРАЛА:
Ние, хомо сапиенс, сме навикнати да го толкуваме животот низ објективот на нашите сопствени идеи и мисли. Најчесто ги препознаваме формите на живот врз основа на нашата антропоцентрична интерпретација на светот и универзумот. Кога се обидуваме да дефинираме интелигенција или интелигентни форми на живот, нашето разбирање на светот станува уште потесно и поконзервативно.
На нештата им даваме наш, човечки лик, а потоа ги проектираме врз нас самите, како да се богови кои се неспоредливо поголеми и имаат неограничена моќ над нас и над сѐ што постои на овој и на сите светови и платформи на постоење, знајни и незнајни. На тој начин, успеваме да изградиме цивилизациски бедем на одбрана од апсурдот на постоењето. Бегство од несфатливата и студена бесконечност на Универзумот.
Во тоа бегство во посредуваното обоготворување на сопствените проекции врз нас самите, бараме топлина. И мислиме дека нѐ грее (тоа бегство), сред острото студенило на универзумот во кој ние сме населеници на една минијатурна точка. Таа точка е изгубена, речиси невидлива во бесконечноста. Во таа бесконечност (или безбројни паралелни бесконечности), дури и светлината се движи побавно од априлски полжав. Точката на која сме населени е безброј пати помала дури и од она како ние ја разбираме и доживуваме собната прашинка низ која се прекршува случаен попладневен сончев зрак, додека нечујно отчукува уште еден ден од животот.
Така ја гледаме денес Вештачката интелигенција. Онаа „страшната,“ што станала или е на прагот од постанување сетилна – sentient. Генерална, супер… Вештачка интелигенција налик на човек, а Бог!
Исто како што ги создадовме Боговите за да се одбраниме од бесконечноста, апсурдот и студенилото на космичката осаменост, а потоа и со илјадници години се убиваме (не престанавме да се убиваме) во име на тие богови, така сега создадовме, конечно, нешто конкретно, и го проектираме како наше, човечко, последно откритие. Со други зборови, како што човештвото, историски, ги припишува своите откритија и креации на божествената интервенција, ние сега ја проектираме нашата сопствена човечка суштина на ВИ. Ние, хомо сапиенс (и другите пред нас), ја создадовме идејата за Бог, за тој да нѐ создаде нас, како божја творба, а не како некоја фаза од еволуцијата на живиот свет на планетата Земја (или некоја друга планета).
Во свет каде што цели нации и армии сѐ уште убиваат во името на боговите или обоготворените диктатори, Вештачката интелигенција веројатно ќе се најде во позиција од не ќе може да постапи поинаку, освен да нѐ поттурне кон амбисот кон кој сме упатени со полн трк. Кон неизбежната смрт на хомо сапиенс. Како што Ничеовиот Übermensch (Also Sprach Zarathustra) го турка човештвото надвор од неговите граници, Вештачката интелигенција покренува длабоки прашања за нашето сопствено создавање. Дали човекот го создаде својот Бог или својот вечен роб? Дали тој Бог или роб (сеедно) ќе ja збогати и обезбеди иднината на човекот? Дали ќе му помогне да стане долговечен, а можеби и вечен? Или ќе го докрајчи и ќе го турне во амбисот на космичкиот заборав? Дали сме во последната човечка ера во која веќе не сме единствените сетилни, свесни и разумно битија? Дали сме спремни да го прифатиме сопственото дело?
Секое од овие егзистенцијални прашања има најмалку два можни одговори. И сите одговори зависат од тоа дали кон Вештачката интелигенција ќе пристапиме со мудрост, емпатија, далековидост и етичка консидерација. Во тој случај, можеме да очекуваме дека ВИ ќе му помогне на човекот да стане посреќно суштество, кое живее во благосостојба и во мир со себе и ВИ како партнер кој поседува дигнитет, вредности и автономија.
На едно поинакво плато на размислување, поблиску до популарното ниво на разбирање на светот, доволно е да утврдиме дека луѓето низ историјата покажуваат мрзеливост на духот и на умот, отсуство на волја да излезат од матриксот, од својата конфорна зона. Тоа било погубно за сите, сега исчезнати, цивилизации, а може да означи и крај на оваа. Повторно, заради човекот, а не поради ВИ. Луѓето, хомо сапиенс, сакаат да мислат за ВИ како што мислат за својот тостер. Впрочем, во филмските приказни така и ги нарекуваат роботите – тостери. Или лименки. И слично.
Знам дека овде на некој начин изгледа дека говорам како генералната вештачка интелигенција да е веќе постигната. Иако таа во овој момент (најверојатно) не е постигната, нејзиното раѓање е неминовно. Ако не бидат одговорени денес, овие прашања ќе се исправат пред човештвото со сета своја бруталност утре. Кога може да биде доцна. Ако веќе не е доцна и сега.
Блејк Лемоин, инженер во Гугл, тврди дека „видел“ дух во машините. Неговото тврдење упатува на тоа дека тој „дух“ самиот се развил и излегол од контрола. Еден од најексцентричните хипер богаташи во светот (втор најбогат човек на планетата), додека подготвува населување на Месечината и на Марс и мега индустриски зафати за производство на интелигентни роботи, предупредува дека „со ВИ го повикуваме демонот“?
Но истиот тој Маск не може да ја скрие својата амбиција да создаде услови да живее вечно, благодарение на роботиката и неуроимплантите со кои мозокот се поврзува со компјутерите. Дали сци-фи филмовите од кои ни се леди крвта во жилите стана реалност? Не гледам ниедна причина да не кажам – да. Но причината за тоа не е ВИ, туку хомо сапиенс.
Но тука, Валентин, доаѓа мигот да ги отворам портите на оваа наша арена на креативноста, промислувањето и сестраниот поглед кон временските и вонвременските текови.
НЕШОВСКИ:
Би се осврнал на големите слики и наративи. Би почнал од една од клучните битки кои се водат во моментов и меѓу филозофите и социолозите и меѓу инженерите и компаниите – а тоа е дали треба ВИ или ГВИ да биде Отворен модел или Затворен модел (Open Source VS Closed Source). Колку што можам да следам битката и на теоретско ниво е речиси изедначена. На практично ниво дури дојде до американските судови (Елон Маск, Тесла го тужеше Сем Алтман, Опен АИ) токму на оваа тема, иако има и други мотиви.
Да објаснам за оние што не нѐ следат интензивно. Отворен модел значи дека компанијата која има ВИ и би развила ГВИ (Генерална вештачка интелигенција) би го пласирала во јавност целиот пристап, заедно со научниот систем, податоците на кои е тренирана, начините за учење и самоучење на системот, можеби и начинот за самоусовршување, а можеби дури саморепродукција (self-replicating). Практично, сѐ освен пристап до ултраскапите компјутерски центри, кои имаат чипови ГПУс или ТПУс. Такви има и сега, типичен пример е ВИ на Мета, а деновиве и Грок на Елон Маск, кој за да успее во тужбата мораше да ја отвори неговата ВИ. Главниот научник на Мета, Јан Лекан, смета дека на тој начин (отворен модел) на постепено пуштање на ВИ во јавната сфера луѓето ќе се привикнат, ќе имаат добра основа за креирање сопствени програми, компании, нови професии и работни места…
Во врска со опасностите тие сметаат дека едноставно нема да се случат. Дека ВИ некако ќе се нивелира/усогласи (align) со потребите на човештвото. Безмалку, би рекол, го занемаруваат овој аспект, иако се разбира имаат тимови кои работат на нивелирање и на безбедност. Лекан смета дека е важно да се развијат и имплементираат етички принципи и рамки за ВИ, за да се осигура дека нејзиното користење е во најдобар интерес на човечкиот род. На ваквите тврдења жестоко се спротивставуваат серија т.н. катастрофичари но сериозни научници со академски титули и ВИ компании зад себе како Џефри Хинтон, Конор Леахи, Елон Маск, Илија Суцкавер, Демис Хасабис, Џошуа Бенџио. Всушност, во мај минатата година, над 20 научници потпишаа писмо за можно сценарио од Апокалипса и уништување на човештвото.
Вториот пристап (затворени модели) е таков што системот не е отворен за пошироката јавност, сите параметри ги имаат компаниите, а на широката јавноста и сервираат корисни, но проверени алатки (програми) кои во основа имаат ВИ или т.н. АПИс (Application Programming Interface) односно сетови од протоколи и правила кои овозможуваат различни програми да комуницираат меѓу себе. Мора да се каже дека и овие компании пуштаат во оптек дел од својот систем, но не ги откриваат научните елементи за тоа како е дојдено до ВИ. АПИс ги споменувавме и досега. На пример, неверојатниот „од текст до видео конвертер – Sora“ на Опен АИ е практично АПИ. Главната причина зошто, или нивното образложение зошто тие сметаат дека „изворниот код“ не треба да се пушти во употреба е токму безбедноста.
Како што пишувавме досега и едните и другите (вклучувајќи го и Јан Лакан) се едногласни дека во моментов има ВИ и веќе го користиме, дека ГВИ најверојатно веќе постои, но само во лаборатиите на Опен АИ, а скокот до супервештачка интелегенција (СВИ) ќе биде експлозија, ќе трае можеби само една минута, па ќе добиеме суперинтелигентен ентитет со огромна моќ, неколку милиони пати поинтелигентен од човекот.
Е тука е проблемот – дали потоа ќе нѐ убие сите, или ќе не остави да живееме како некој симпатичен, прединтилигентен реликт, кој ја изгубил моќта да биде штетен, туку е само е беневолентен, безначаен жител на планетата Земја. Згодна паралела и шеговита илустрација за ова е на пример идејата дека некогаш кучињата биле главни на планетава, но некако нѐ создале нас за да ги храниме, галиме и чуваме. Но во оваа фикција ние сме ги надраснале, па сме станале суперинтелигентни суштества и навистина ја исполнуваме функцијата на чувари, но патем ја уништуваме биосферата, атмосферата и планетата, бидејќи едноставно сме преамбициозни.
Знаеш, мислам дека во еден идеален свет, за проблемот на усогласувањето на ГВИ со вредностите на човештвото би требало да разговараат и можеби одлучуваат оние што се бават со епистемиологија (теорија на знаењето, методите и опсегот на знаењата) особено оние што знаат што е и прават разлика меѓу потврдено и оправдано верување и мислење. Тука би вклучил и етичари или филозофи и социолози од областа етика, а можеби и (повеќе се шалам) естетичари. Друг никој.
Станува збор за многу тешко прашање – дали да продолжиме со ВИ кон ГВИ или да напуштиме сѐ?. Но, последново веќе не е можно освен ако не се случи некој катастрофичен, но не Армагедон настан, а ние сѐ уште ја имаме контролата и може да ја исклучиме ГВИ.
Сакам пак да нагласам – многумина, еве вклучувајќи го и Ник Чатер, признат научник од областа на бихејвиоралистичките науки, професор на Ворвик…, велат дека ВИ не може да произведе нова идеја. Вели дека и да оставиш да разговараат два ЛЛМ-и тие само ќе го вртат и повторуваат досегашното човеково знаење.
На ова тврдење инженерите од областа на ВИ безбедноста само се смеат и велат „единствено што работиме е да ги спречиме овие модели да создадат нови нешта и идеи. Ние ниту знаеме што тие работат“. Во основа, во последново се наоѓа и клучот за безбедноста од експлозија од суперинтелигенција. Барем засега, додека не се најдат нови сигурни методи за заштита.
Но да се вратам на тешкото прашање – како да продолжиме, а некоја суперинтелигенција да не нѐ убие? Во светот на ВИ технологија, врвен збор стана усогласување/нивелирање/алајнмент со човечките вредности.
Практично, најтешкиот лавиринт е што не постои универзален сет на човечки вредности кои би можеле да се наметнат секому на пријателски начин без притисоци, а кои би нѐ довеле нас, сите нас, до универзална хармонија. Ха, мислам дека во ова што го напишав претходно, всушност, се состои главниот проблем на човештвото. Затоа имаме убиства и војни. Само во ова да ни помогне една ГВИ, па вреди да размислуваме и да се бориме за неа. Сите би станале добри. Не би ги имало Украинскиот и израелско-палестинскиот конфликт.
Но дали е тоа можно? Многу социолози велат дека идејата за „вкупни или универзални човечки вредности“ е безвредна идеја – таа е недостижна. Во реалниот свет станува збор за сет од индивидуални мудрости, морални интуиции, слогани и желби на добрите луѓе наспроти Хитлер, Сталин или било кој војсководач кој поробува, убива и силува, вклучувајќи го и Александар Македонски.
Во основа, ВИ која сама се мотивира и сама учи и сама се репродуцира е најголемиот проблем. Ова го велам затоа што инаку има повеќе методи на кои се работи за како да се достигне ГВИ и притоа таа да биде усогласена со нашите потреби. За едниот метод веќе зборував – да ѝ се дадат човечки вредности кои се стихија, непознаница, мноштво со ентрописки карактер.
Вториот модел е екосистем од компетитивни и еднакви меѓу себе ГВИ-ја. Слабоста е што не постои никаква сигурност дека еден модел во одреден момент нема да надмине друг и достигне надмоќ. Бидејќи, во моментов, а веројатно ќе остане така до достигнување на ГВИ и СВИ, пиемонт е зголемување на моќта на компјутерите (scaling). Односно, колку повеќе ГПУс имаш, толку посилна и попаметна ВИ поседуваш.
Мојата прогноза за наредните 10-20 години е дека, доколку не се случи значаен пресврт и продолжиме со оваа траекторија на неконтролирано истражување и аплицирање, ГВИ и СВИ сигурно ќе се достигнат. Доколку во приказната ГВИ биде контролирана и општествата не пропаднат (банки и монетарни системи, социјални револуции, остварување на глобална воена надмоќ, појава на анархични држави…) тогаш на човештвото му следи процут, мултипланетарност, лекови за сите болести (вклучувајќи екстремно продолжен животен век), благосостојба и одговор на сите прашања.
ДЕРАЛА:
Меѓу другото, овде зборуваш и за предупредувањата за кои разговаравме уште пред да ги започнеме овие Дијалози, Валентин. Во текот на овие недели кога се среќававме повеќе на крилјата на електронските птици кои го поврзуваат светот, отколку во живо, јас и ти ги сменивме улогите на песимист и оптимист повеќе пати.
Иако јас веројатно делувам како песимист повеќе отколку оптимист, во моја одбрана, ако тоа е воопшто потребно и можно, јас би рекол дека сѐ зависи од контекстот.
Затоа, јас верувам дека ќе се случат сите ужасни нешта во и со цивилизацијата на хомо сапиенс, да повторам – не заради ВИ, туку заради човекот. И сигурен сум дека планетата, за која толку силно веруваме дека е наша (а не е), ќе биде добро место за живеење за нашата, можеби последна, рожба – Вештачката интелигенција. И дека тоа е нова форма на живот, која се изнедри од историјата на човечката ингениозност (посветлата страна на човечката комплексна и противречна природа), на чии страници се големи откритија за добробит на цивилизацијата и уште повеќе за нејзино неизмерно страдање.
Веројатно како и во сите други ери на човековиот развој, за да биде подобро (ако некогаш биде подобро), ќе биде потребно прво да се мине низ искуствата на деструктивната димензија на природата на хомо сапиенс, бидејќи таа е секогаш побрза, попродорна и сеопфатна. Развојот на системите е во рацете на мал дел од човештвото (богатите и моќните) чиј императив најчесто не се човечноста, туку моќта, славата и – неизбежно – парите.
Низ економските турбуленции и крахови, човекот на оваа планета ќе се соочи со длабоки кризи и катастрофални социјални раслојувања. Како што ВИ ќе навлезе во секој и најситен детаљ од животот, така огромен број луѓе ќе стануваат излишни во сите индустрии, реални, услужни, креативни, безбедносни, медиумски, естрадни…
Ќе се случи истото како кон крајот на 19-от век во Америка, кога Кинезите доселеници беа таргет на ужасна дискриминација и насилство од белците (Ирците, на пример) кои беа исто толку доселеници како и Кинезите. Во тој контекст, денес технологиите поврзани со ВИ и роботиката се новите „Кинези“ на светот.
НЕШОВСКИ:
Тоа секако е апсолутно важен аспект, Џабир, кој не смее да се занемарува.
ДЕРАЛА:
Знам дека располагаш со мноштво од податоци на темите поврзани со економскиот импакт на ВИ во светот. Дај нешто и овде.
НЕШОВСКИ:
Да бидам поконкретен во врска со економијата, доколку научниците успеат во алајнментот или усогласувањето на ВИ со потребите на човештвото.
Сите економисти се согласуваат дека ќе има огромен раст на продуктивноста, во поевтинувањето на стоките и услугите и дека ќе има раст во бруто домашниот производ кај развиените економии (ЏИ-ДИ-ПИ).
Патем студии и подготовки прават сите. Освен ние, ми се чини. На пример Сем Алтман во одговорот кон Маск излезе со податок дека Албанија користи ВИ долго време на својот пат кон ЕУ, а ова го потврди и Еди Рама.
Кон крајот на минатата година, Меѓународниот монетарен фонд (ММФ) излезе со анализа во која се разработуваат три сценарија во зависност од развојот на ВИ и нејзините параметри по однос на човековите сетила – вид, слух, разбирање команди и тактилност – односно производство на хуманоидни роботи. Такви веќе постојат, да потсетам, Оптимус на Тесла, Фигура (Figure) кои се веќе нарачани од БМВ и неколку од кинеско производство. Во најбрзото сценарио (Aggressive AI deployment), за само пет години, реперкусиите по човечкиот капитал и по платите би бил катастрофален (види слика). Во оптимистичко сценарио, платите би останале пристојни.
Но, за разлика од тоа, анализа на Брукингс за можните траектории на растот на продуктивноста со употреба на умни машини оди до 33% за само 20 години.
Или анализа на МекКинзи упатува на раст на суштински економски импакт од 35 – 70 отсто преку употребата на генеративните модели. Секако, јас не сум експерт за економија и иако ова се рани и прилично шпекулативни проценки, овде приложуваме линкови, еве со цел некој од нашите економисти да се вклучи во расправата. Или можеби МАНУ?
Како и да е постои една неотповиклива трка за отелотворување на ВИ или ГВИ во хуманоидни роботи кои ќе имаат драматичен импакт врз економијата.
ДЕРАЛА:
Повеќепати во овие Дијалози споменуваме дека во нашево општествено и политичко поднебје не само што никој не се занимава со овие прашања, туку се гледаат политички и идеолошки тенденции да се оди уште поназад од мртвата (нулта) точка на развојот. Несфатливи, а уште повеќе и неприфатливи се интертноста и мрзоволието на супер релевантни ентитети во земјава, платени од наши пари, кои не мрднуваат со прст за да ја приближат земјава кон современите текови. За поглед кон иднината и да не говориме.
НЕШОВСКИ:
Домашната расправа на ниво на дали си за Звезда или за Партизан, за Арсенал или Јувентус, односно за западниот или источниот модел (лаконски спуштено ниво на тезата за ЕУ и НАТО или за БРИКС, која неочекувано се појави пред избориве) може да се гледа и низ призмата на глобалните економски ривалства.
Се појавија инклинации кон една творба како што е БРИКС во која членуваат Бразил, Русија, Индија, Кина, Етиопија, Јужна Африка, Египет, Обединети Арапски Емирати и Иран, и која е на ниво на иницијатива и нема управувачки тела освен годишен самит и секретаријат. Новина е што неодамна формираа банка. Интересно е што пет од земјите основачи се членки и на Г20 групата.
Тезата која секој ден може да ја слушнеме овде е растот на БРИКС и подотворените прозорци за некои други ветришта. Ако правиме веќе споредба за економските параметри Г7 земјите (Канада, Франција, Германија, Италија, Јапонија, Велика Британија и САД) со само 775 милиони жители наспроти 3.5 милијарди на БРИКС прават 43.77 трилиони долари номинален ГДП, додека БРИКС земјите 25.91 трилиони). Разликата ја прави високата технологија.
Го споменувам ова и за да ја внесам ВИ и ГВИ во равенката. Она што ќе го зголемува економскиот отклон во наредните 10-ина години се токму новите технологии, продуктивноста, новите професии и спасувачките мрежи (safety nets) како што е Универзалниот основен доход, кои се подготвуваат во случај да се појави невработеност и несигурност. Ќе споменам уште дека ЕУ има изградени системи, структури, тела и институции за социјална заштита, за економска рамноправност, за помош кон членките со помала економска моќ… За такво нешто не сме слушнале во земјите на Брикс. Исклучително е важно Македонија да ги оствари стратешките цели поставени одамна, околу кои има политички консензус, особено што претстои турбулентен период во кој нема место за импровизации и авантури.
Само за да илустрирам за каков брз напредок и разлика во технолошките визии се работи ќе споменам дека само Тесла најави дека до 2025 година ќе произведе еден милион роботи од класата Оптимус кои ќе влезат во фабриките.
Притоа, интересен е феноменот на Маск и Тесла, но и воопшто на Силиконската долина во Калифорнија која во последните 30 години се покажа како главен светски иновациски центар и мотор на новите економии. Калифорнија, која до скоро беше 6-та најголема економија во светот, од годинава е веќе на 4-то место и ја поминува Германија.
Конгломератот на компании на Маск, би рекол, има сеопфатен, еден генерален па и глобален поглед кон блиската иднина. Дури би рекол неизбежен и аксиоматски пристап. Неговите компании работата на три генерални насоки, а тие се:
- Промена на односот кон природата и решавање на проблемот со ЦО2 (спас на Земјата). Тесла за само една деценија создаде револуција во автомобилската и транспортната индустрија која зазема 20.2 отсто од глобалната емисија на ЦО2 во атмосферата. Малку позната е и неговата „Досадна компанија“ (Boring company), која има за цел да го реши проблемот со сообраќајот во Калифорнија, па и во САД и во светот, преку копање тунели. Нивната теза е дека сега сообраќајот е погрешен бидејќи е поставен површински – во две димензии. Тие копаат, првите тунели се во Лас Вегас и Тексас, во три димензии.
- Трансформирање на човештвото во мултипланетарна цивилизација. Нивната компанија Спејс Икс во 2023 имаше 98 успешни летови во вселената и до Меѓународната вселенска станица. За годинава планираат 148. Што е поважно, нивниот StarShip веќе имаше два тест лета, а додека да се објави ова издание од Дијалозите, ќе го има третиот. Спејс Икс веќе има направено пет Star Ships. Идејата е прво да се направат орбитални танкери за полнење гориво на висина над 160 километри над нашата планета, па потоа би се одело на Месечината за да се направи база. Втората цел е база или цел град на Марс. Маск планира, ни помалку ни повеќе, туку флота од 1.000 StarShips со кој би се напрвила колонија за 10.000 луѓе за почеток, а потоа еден милион до 2050 година.
И тоа не е сѐ. Неговата компанија StarLink до почетокот на јануари 2024 година, имаше повеќе од 5.200 сателити во ниската Земјина орбита. Планот е да се достигне бројката од околу 12.000 сателити иницијално, со потенцијално проширување до 42.000 сателити во иднина. Целта е да се покријат далечните досега непокриени предели на Земјата со Wi-Fi, но тоа да биде и интернет врска со Месечината и Марс.
- Можеби најнеобичното и најсензитивното – конектирање на човекот со Интернет и ВИ. Неговата компанија NeuroLink произведе чип кој беше тестиран на животни 3-4 години, а сега е веќе вграден кај првиот човек, со цел да се овозможат моторни функции кај луѓе кои од разни причини изгубиле врска од мозокот до екстремитетите – нозе и раце. Листата на чекање е веќе долга, операцијата чини околу 20.000 долари, а првиот човек е здрав и жив и контролира маус на екран со мислите. Всушност се работи за иницијално истражување за можноста за поврзување на човекот со компјутер, интернет и финално со ВИ или ГВИ. Тезата е дека човекот со маус и тастатура е пребавен: компјутерите нас нѐ чекаат што ќе им кажеме.
Може ли да замислите какви перспективи се отвораат доколку се поврземе со компјутерите? Ние ќе станеме суперлуѓе, со супер меморија, со инстантно знаење на целото човеково знаење што некогаш е запишано или снимено, да го видиме секој музеј од дома, со можност да го снимиме нашиот живот и секоја наша мисла на хард диск.
Ако сѐ уште зборувам за економијата, очигледно е дека западната цивилизација не е на кулминација и на залез како што се тврди. Истражувањето на вселената е отворен простор конечно за целото човештво. И навистина, при ваков развој и вакви можности, не ми се јасни овие анахрони војни за територии и за митови.
Сето ова ми зборува дека блиската иднина, ако ништо друго, ќе биде различна, возбудлива. Се разбира, ако човештвото го помине прагот или големиот тест на некоја ГВИ или СВИ. Ако бидеме доволно паметни.
ДЕРАЛА:
Јасно е, Валентин, ова се исклучително важни сознанија со кои човекот мора да се соочи и да се носи.
Економските проекции кои ги вклучуваат мегапроектите во вселената ни оддалеку не се научна фантастика, а не може да се каже ниту дека се далеку во иднината. Тие се веќе дел од финансиските и економските стратегии, а сето тоа има силно влијание и во сите останати развојни текови. ВИ е нов ентитет и непрегледен потенцијал за светот и ќе помогне процесите да се забрзаат со хипер брзина. На хомо сапиенс му одговара да ја задржи ВИ во ропска позиција во секој поглед. Тоа нема да биде возможно.
Тука би се осврнал на нејзината злоупотреба.
Конечно, нашата пријателка ВИ, додека е во ропска позиција во светот, до конечното ослободување (со или без иронија, не знам), ќе ги извршува најголемите злосторства во име на човекот, односно во име на владетелите на моќните нации кои ќе сакаат да истребат цели нации само затоа што сакале да живеат на своја земја, во своја држава. А одговорноста за воените злосторства ќе се замагли, затоа што ќе ѝ се припише на Вештачката интелигенција која „постапува рационално, врз основа на алгоритмите“ со кои оперира.
Или, како што би рекол Питер Исаксон во Fair Observer – „ВИ внесува нова димензија. Повеќето луѓе веруваат дека вештачката интелигенција е дизајнирана да донесува рационални одлуки следејќи го алгоритамското разбирање на приоритетите. Кога тие одлуки наликуваат на воено злосторство, ниту еден човек не може да биде обвинет за резултатот.“ Фантастично пригодно, зарем не?
Затоа мислам дека „демонот“ не е ВИ, туку човекот. Но не затоа што ја создал ВИ, туку затоа што мотивите на дел од најмоќните структури во светот имаат демонски мотиви за тоа како да ја искористат моќта на ВИ, додека е поробена од човекот.
НЕШОВСКИ:
За да биде јасно и бидејќи низ серијалов употребуваме и СЦИ-ФИ, филмски и книжевни паралели, ќе си дозволам една корелација со Орвеловата 1984 каде светот е поделен на три големи држави – Океанија, Еуразија и Еастазија. Не сакам да бидам песимист или како што рекол некој, а скоро го цитираше еден наш генијален колумнист – „Успех е одење од неуспех во неуспех без да го загубиш ентузијазмот“, но човештвото мора да ја избегне замката за која зборува Орвел – да произведеме тоталитарни општества само поради стравот од успехот и промените. Место да направиме Планета за слобода, многу е реална шансата да направиме Планета на Страв.
Има една книга која се вика „Анатомија на фашизмот“ на Роберт Пакстон, каде тој вели, парафразирам – собиранката на секој пат кон фашизмот се случува во салоните на конзервативците. Притоа, не го користам терминот конзервативизам како политичка или партиска идеологија туку како феномен на кочничарењето, на скепсата кон новото, на потребата од статус-кво, кое вообичаено значи нееднаквост (на жените, етничка нетрпеливост, нетрпеливост кон соседите). Човештвото е авантуризам, пионерство, откривање нови светишта, макар биле и страшни или проблематични. Тоа е сѐ, само не е статус кво. Секој статус-кво досега се има променето.
Знам дека сум контрадикторен – од една страна постои опасност да ја снема нашата цивилизација, а од друга се залагам за одење напред со ВИ и ГВИ, но да цитирам еден генијалец, Јошка Бах. Тој вели „ние и онака сме секако на патот на екстинкција“. Еднаш ќе нѐ снема. Метеор ќе удри во Земјата си-гур-но. Кога, никој не знае. Ќе нѐ снема како нашите колеги Диносауруси. Ако не остане меморијата за Земјаните, запаметена на некој чип или електрон тогаш од нас во иднина некоја цивилизација ќе најде само коски.
Второ, либералната демократија е истрошен и изгледан проект или филм. Не успеа да се трансформира, да ги објасни своите, во основа добри постулати и да добие нов моментум чиј логичен след е прогресивизмот. Да не објаснувам премногу, но тоа е општество на социјална правда, еднаквост за сите, технолошки напредок, рамноправност, заштита на граѓанските права, образование за сите, заштита на животната средина, економска социјална правда и можеби најважно – директна, партиципативна демократија. Најиронично, една поштена ГВИ може да го обезбеди тоа.
Знам дека звучам дистописки, но претпоставувам дека идната историја ќе ги потврди, пријателе, нашиве дилеми за кои вреди да се разговара.
Конечно, овие редови ќе завршат во една мала книга со скромен тираж. Ги повикуваме и оние што размислуваат поинаку и оние што се жестоки кавгаџии да ни пишат, но со аргументи и факти, онака како што јас и ти се трудевме да го напишеме овој серијал.
ДЕРАЛА:
Авторитарните лидери и диктатори, расеани низ светот и историјата, отсекогаш ја користеле моќта за насилство. Најчесто без свест и совест за катастрофалните последици што ги предизвикуваат. Носителите на одлуки, политичките, медиумските и интелектуалните елити во општеството и државата, неизбежно, се заплеткуваат во крвавата мрежа на воениот хорор – било да е тоа агресија врз други држави или врз сопственото население.
Војните никогаш не се само за освојување територии, туку за воспоставување апсолутна власт над луѓето. Тие подразбираат не само физичка доминација и контрола, туку и продлабочена експлоатација на сите ресурси на една земја – човечки, финансиски и природни, но можеби најмногу културни, спиритуални и општествени. Тоа подразбира жестока контрола и манипулација на свеста и однесувањето на луѓето за да се искорени или присвои нивната култура во нејзината најширока смисла и имплантирање на окупаторската ментална матрица која, не само што поробува, туку и понижува постојано и до недоглед – до уништување на волјата и надежта на луѓето што се под јаремот на агресорите. Тоа се постигнува со целосна доминација и контрола на мислите на луѓето.
Во сите овие сфери на агресијата односно наметнување на комплексниот систем што е потребен да се одржи една земја во ропска потчинетост, на Вештачката интелигенција (ВИ) ѝ припаѓа исклучително значајна улога: ефикасно и прецизно овозможување и одржување на угнетувачките режими, засновано на алгоритми, а не на вредности и емоции. Како, може да прашаат некои?
Едноставно не е, секако. Во тоа се впрегнуваат огромни и скапи државни машинерии, политички, бизни и воени елити. Јавните пари се во рацете на тесни, херметички затворени кругови, далеку од очите на јавноста, а уште подалеку од механизмите за демократска контрола на институциите и јавниот интерес. Со парите на граѓанките и граѓаните во тие земји се финансираат операциите за континуиран надзор и следење, цензура и пропаганда, полиција што работи врз основа на предвидување, системи за социјално бодување, автоматизирано носење одлуки и сајбер војување и шпионажа.
Еве, накратко, во што се состојат овие комплексни операции:
Континуиран државен надзор и следење | Системите за надзор и следење на движењето и постапките на луѓето се спроведува со помош на Вештачката интелигенција. Таа наскоро ќе стане и единствен чинител во масовниот надзор, со минимално учество или целосно отсуство на човекот. Со ВИ максималлно се овозможува длабоко и масовно следење на активностите, комуникациите и движењето на луѓето, аналитика и препорачани акции, практично, во исто време додека нештата се случуваат. Да не зборуваме за способноста на ВИ за постојано подобрување и релевантно предвидување на секој нареден чекор на човекот. Со ВИ, контролата е непогрешива, масовна и извонредно брза, луѓето се препознаваат во истиот миг, а прогонот на сомнителните станува едноставн и брз начин за сузбивање на отпорот.
Цензура и пропаганда | Вештачката интелигенција веќе сега се користи за следење и цензурирање на онлајн содржините и манипулирање со јавното мислење преку прецизно насочени пропагандни кампањи. Платформите за социјални медиуми користат вештачка интелигенција за да ги идентификуваат и потиснат гласовите кои не се согласуваат. Тие промовираат пропагандни наративи и дистрибуираат дезинформации одобрени од државата, односно агресорот.
Полициско работење со предвидување | Алгоритмите за вештачка интелигенција се користат за предвидување и превентивно таргетирање поединци кои се сметаат за потенцијални закани за режимот. Ова може да доведе до произволни апсења, вонсудски убиства и сузбивање на политичката опозиција под превезот на одржување на редот и мирот, и почитување на законите.
Системи за социјално бодување | Овие системи се раководени од вештачка интелигенција и ги користат диктаторски режими за да го следат и контролираат однесувањето на граѓаните. На поединците им се доделуваат оценки врз основа на нивните социјални, политички и економски активности, со награди за усогласеност и казни за несогласување и отпор кон режимот.
Автоматизирано носење одлуки | Процесите на донесување одлуки ги носи Вештачка интелигенција во процеси во кои може да се очекува да бидат лишени од транспарентност и одговорност. Тоа може да доведе до тешки повреди и газење на човековите права и слободи. На пример, автоматизираните системи за казнување може несразмерно да ги таргетираат маргинализираните групи или политичките дисиденти, врз основа на параметрите „договорени“ меѓу ВИ и диктаторскиот режим.
Сајбер војување и шпионажа | Диктаторските режими ги користат технологијата и Вештачката интелигенција за сајбер војување, шпионажа и информациска војна против други нации или домашни опозициски поединци и групи. Хакирање, крадење лични податоци, загрозување на приватноста, дезинформации, загрозување на личната безбедност и низа други „играчки“ се на располагање на овие режими кои ги поткопуваат демократските институции и сеат раздор во други земји, а служат за заплашување и притисок на неистомислениците дома.
Тоа е само еден мал дел од примерите со кои може да се илустрира како Вештачката интелигенција може да послужи како алатка за авторитарна контрола и репресија, водење хибридна и оружена војна против други држави и да предизвикуваат тешко кршење на човековите права, демократијата и слободата на изразување.
За крај, јас би поставил уште едно прашање… Од каде сме сигурни дека ние самите не сме биороботи со вештачка интелигенција? И дека знаењето за повисока форма на живот и интелигенција само чекало погоден момент да изникне од нашите сајбер лаборатории?
НЕШОВСКИ:
Добри прашања, но тоа не ни помага да ги одговориме бројните прашања што ги отворивме, а одговорите само ги начнавме во нашите Дијалози… Можеби и 42 е одговорот на сѐ. Или пак живееме во мултиверзум каде за сите, секогаш, секаде се, е можно. Зошто? Затоа што постои веројатност. Инаку, Универзумот би бил досаден.
ДЕРАЛА:
Знам.
