- Елон Маск во тужбата која ја поднесе до Опен АИ и шефот на оваа компанија Сем Алтман, тврди дека тие веќе поседуваат Генерална вештачка Интелигенција (ГВИ). Дека е достигната сингуларност. Односно дека ВИ ги има сите карактеристики на човечката интелигенција, т.е. е мултимодална – интелигентна за СЕ, а не само за по нешто
- ВИ е – ентитет. Нов, семоќен ентитет кој уште како бебе го промени светот.
- Веќе сега, а сè повеќе и сè подлабоко во годините пред нас – следењето, архивирањето, класификацијата и анализите на сите податоци (ќе) ги преземе вештачката интелигенција. Која станува сè повеќе свесна и човеколика, да не речам боголика.
Прв дел | Втор дел | Трет дел | Четврти дел
Дијалози меѓу ЏАБИР ДЕРАЛА и ВАЛЕНТИН НЕШОВСКИ
ДЕРАЛА:
Приватност во 21 век? Виц или само убав спомен? Кога Џорџ Орвел би го посетил ова време, би бил очаен. Тој веројатно би рекол дека ја напишал својата „1984“ како предупредување, а не како прирачник за уредување на општеството.
Иако развојот на дигиталните и комуникациските технологии има голем потенцијал за подобрување на состојбата на човековите права, токму технологијата често овозможува газење на човековите права. Човек не мора да биде Магелан за да го открие тоа. Некој можеби цинично ќе забележи дека луѓето сами ја уништија својата приватност со социјалните мрежи, дека своите животи ги претвораат во ријалити шоу.
И тоа е точно, но тоа е и дел од проблемот. Масовниот егзибиционизам на планетарно ниво овозможи да се креираат огромни бази на податоци за однесувањето на луѓето кои потоа дигиталните технологии можат да ги (зло)употребат за следење, предвидување и менување на однесувањето на луѓето за комерцијални, политички и воени цели. Ако човекот има право да биде егзибиционист, неговите човекови права и слободи се повредени со тоа како неговиот егзибиционизам е (зло)употребен од центрите на моќта.
Во името на безбедноста, приватноста на луѓето замина во заборавот. Податоците, и оние најинтимните, за секој човек на оваа планета кој било кога бил во допир со комуникациските технологии, а уште повеќе – на интернет, се архивирани и сортирани во гигантски банки на податоци кои постојано се обработуваат според најразлични параметри. А оние што мислат дека, ако не се онлајн и не користат телефони и компјутери, не се внесени во некоја база на податоци, се лажат. Сателитите во вселената и дроновите на небото го бележат секое движење, секој субјект на планетата.
Веќе сега, а сè повеќе и сè подлабоко во годините пред нас – следењето, архивирањето, класификацијата и анализите на сите податоци (ќе) ги преземе вештачката интелигенција. Која станува сè повеќе свесна и човеколика, да не речам боголика.
НЕШОВСКИ:
Моето мислење за работиве кои ги изнесуваш досега беше амбивалентно. Имав мешани чувства. Или дури контрадикторни. Тргнував од максимата дека „ако не сум згрешил ништо може да ме прислушува кој сака“. Проблемот со ваквиот став е можно идно автократско општество или злонамерен поединец кој веќе денес со некоја Artificial Intelligence Application Programming Interface (АПИ) на вештачката интелигенција може да злоупотреби, измиксира, креира или конструира било што за мене и тоа да биде верно. Веќе зборувавме, постојат програми со кои со само 3 секунди од мојот глас и една моја фотографија може да се конструира видео во кое велам дека „Јас многу ги мразам сите црнци“, или што било друго.
Ова последново е алтерација со само џуџеста големина во споредба со другите промени што се случуваат и следат.
Деновиве Елон Маск во тужбата која ја поднесе до Опен АИ и шефот на оваа компанија Сем Алтман, тврди дека тие веќе поседуваат Генерална вештачка Интелигенција (ГВИ). Дека е достигната сингуларност. Односно дека ВИ ги има сите карактеристики на човечката интелигенција, т.е. е мултимодална – интелигентна за СЀ а не само за НЕШТО. За да појаснам дел од ВИ досега беа специјализирани за одредена намена, на пример Deep Blue програмот од пред 28 години беше наменет да биде подобар од било кој човек во шах, и беше. Го победи светскиот шампион Гари Каспаров со леснотија во два наврати, во Филаделфија и во Њу Јорк. После само 20 години дојде DeepMind, на Денис Хасабис (разговор на Денис Хасабис со Гари Каспаров на овие теми), со што малку повеќе се генерализираше знаењето на компјутерите преку самоучење, за потоа да дојде AlphaFold, фантастичен програм за кој малку се знае. Тој служи за забрзување на откривањето на свиткувањето на протеините. Времето се намали од неколку години за еден протеин со класичните методи, на неколку часа со ВИ на АлфаФолд.
За илустрација, бројот на можни комбинации на еден протеин кој се состои од 100 аминокиселини, би бил 20 на стота, што е број кој далеку го надминува бројот на атоми во познатата вселена. Мислите претерувам? – проверете на Интернет. И ова истражување или употреба на ВИ, за кое се очекува Хасабис да добие Нобелова награда, ќе придонесе во истражување на болестите, за фармацијата за создавање лекови, во молекуларната биологија за производството на ензими, биогорива и материјали, во индустријата на храна за подобри протеини за исхрана на луѓето, животните и растенијата и во многу други области.
Елон Маск поднесе тужба против Сем Алтман (Open AI) поради напуштање на етичките принципи.Е сега – ова што го наведов е само специјализирана ВИ или тесна (narrow AI). Не е генерална. Можете да замислите колкав и каков развој ќе настане со Генералната Вештачка Интелигенција. Тоа е човечка, мултинаменска интелигенција со можност за согледување на зададениот проблем, анализа, носење одлука, создавање решение и преземање акција.
Затоа, се обидувам да алармирам дека нешто важно се случува. Но, можеби е и залудно. Бидејќи ние овде се бавиме навистина со некои тривијални нешта. Нашата Академија на науките има над 90 академици, но јас не слушнав досега некој од нив да се огласи на овие или слични теми. Напротив, скоро прочитав дека нашата академија ќе се грижела за поправедна селекција на кадри и за тоа дека многу закони се носеле со европско знаменце. Знаеш, мислам дека сите закони треба да се носат со Европско итно знаменце – во светот и кај човештвото се случуваат драматични промени, а ние за тоа ниту сме свесни, ниту пак сакаме да дознаеме.
Инаку, во право си, јас веќе го менувам мислењето околу дисруптивната моќ на новите технологии околу влијанието врз човечките права а можеби и слободи. Тие се веќе навлезени во нашата приватност. Но не смееме да бидеме катастрофичари. Треба подготвени да ги дочекаме промените, мора да имаме институции, Влада која ќе биде модерна и барем ќе ги следи случувањата. Еве да прашам, што ќе направи една конзервативна влада (ориентирана кон минатото и митовите) ако наскоро некоја фабрика од индустриските зони донесе роботи и отпушти 5.000 или 10.000 луѓе. Маск најави дека неговиот робот Оптимус ќе чини околу 20.000 долари, а заштедата за компаниите по работник заменет со робот ќе биде околу 250.000 долари. Значи да појаснам – тоа значи трка по роботи, зголемена продуктивност и профит и поевтинување на производите. Што ќе направи ако пропаднат сите фабрики во Македонија затоа што нашиот пазар може да биде преплавен со евтини производи направени од евтини нови и еколошки материјали, што ќе направи ако нашите иселеници (млади и образовани луѓе) кои во еден налет на Brain Drain ја напуштија државава да работат како ИТ програмери, ако ги изгубат работите на запад и се вратат во државава. Шефот на Нвидиа веќе даде препорака – „Родители не ги пуштајте децата да учат програмирање“. Што ќе работат тие овде, ако се вратат од странство? Што ако една наша фармацевтска куќа со 5.000 луѓе пропадне поради евтини и ефикасни лекови, што може да се случи само за неколку години. Или ако банките воведат автоматизирани шалтерски работници, што веќе се случува. Можна е социјална експлозија од невидени размери. На овие прашања треба партиите да дадат одговори. Дали нашето општество ќе се модернизира или ќе глуми еден перформативен коњски кас, а всушност ќе тапка зад модерниот свет.
Треба да сфатиме, вели Хасабис, дури и природата на парите и нивната вредност ќе се промени.
Така што, големи се предизвиците.
ДЕРАЛА:
Фасцинантно! Валентин, мислам дека овие наши седмични средби се премногу бавни, за да се покријат сите откритија и развој на ситуацијата во оваа област, бидејќи таа, практично, се менува од час во час. За молкот и да не зборувам.
Зачудувачки е молкот за овие теми токму во институциите како што е МАНУ. Не знам што е полошо, дали молкот се должи на целосно непознавање и отсуство на интерес за најголемите промени што се случуваат во светот по појавата на компјутерската технологија или затоа што политиката целосно ја контаминира и обзема оваа институција. Се прашувам, дали воопшто може да се очекува политичките елити да се занимаваат со овие прашања, кога најповиканата институција во една земја, нејзината интелектуална и научна елита, платена од парите на граѓан(к)ите, со прст не мрднува да ја погледне реалноста околу себе. Се разбира, немам намера да ги „амнестирам“ од одговорноста ниту политичарите за нивната целосна одземеност од темата.
За тоа време, паралелно со гигантските чекори од седум милји, со кои надоаѓа технолошката револуција на Вештачката интелигенција, сега во нејзиниот најразвиен облик (најверојатно) – Генералната вештачка интелигенција, експертите, интелектуалците, граѓанското општество и политичарите во светот – расправаат за заштитата на човековите права визави новите технологии. Најилустративен е примерот со човековото право на приватност. Еве уште неколку поенти во тој контекст.
На секој чекор се среќаваме со дисклејмери и прашања за дозвола за пристап до нашите податоци, за тоа дали и како се обработуваат нашите податоци и електронски траги што постојано ги оставаме насекаде. Тоа би требало да ни остави впечаток дека нашата приватност се почитува и дека податоците и трагите што ги оставаме се користат на строго определен начин. Навистина?
Никој не може да гарантира дека се целосно безбедни податоците од скенирањето на нашите лица и ретината на граничните премини. Како сѐ се користат тие скенови? Дали има логика сите да бидат скенирани само затоа што еден од милион луѓе е потенцијален криминалец или терорист?
Светот во третата деценија од 21-от век не може да одговори на прашањата како технологијата може навистина да го подобри животот на луѓето, наспроти огромните придобивки кои ги има човекот од развојот на дигиталните технологии и со бумот на сите видови вештачка интелигенција. За што зборувам?
Зборувам за повеќе работи. Пред сѐ, за големата криза во заштитата на приватноста. Поточно, уништувањето на приватноста. Понатаму, секој од нас, колку и да не ја користи технологијата, веќе има изграден дигитален идентитет. Ако не го градиме ние, вештачката интелигенција ќе создаде дигитален идентитет за секој човек на оваа планета.
НЕШОВСКИ:
Да се согласувам. Особено младите веќе влегуваат во дигиталните сфери со аватари, прво во игрите, па на социјалните мрежи, а наскоро и во виртуелните бескрајни светови (на пример играта Minecraft) која нема крај или има отворен крај (оpen ended story). Односно таа создава непрегледни нови светови. ВИ веќе ја игра таа игра и создава свој модел на светот што значи го разбира нашиот свет, неговите закономерности, односите помеѓу луѓето, законите на физиката, хемијата и биологијата.
Ако навистина ГВИ е постигната, и притоа таа го има целото досега акумулирано знаење на човештвото, очекувам дека наскоро ќе излезе со решенија за законите на физиката, за универзумот, Биг-Бенгот и слично. Џефри Хинтон (Geoffrey Hinton) eден од најпознатите и највлијателните научници во областа на вештачката интелигенција и машинското учење, особено во развојот на длабокото учење (deep learning), нарекуван и таткото на ВИ, инаку работеше и за Гугл Браин, вели дека ЧЕТ ГПТ 4 разбира што ја прашуваме и разбира што одговара. Во друго интервју вели дека има и интуиција. Тврдењата ги докажува со научни методи (видете на линкот подолу). Ова го тврдеше на предавање со многу илустративен и предупредувачки наслов „Дали дигиталната интелигенција ќе ја замени биолошката интелигенција“.
Она за што зборуваш Џабир е тренд веќе подолго време. Станува збор за паралелен процес на целосно следење на нашите постапки, навики, купувачки или политички (значи копирање на нашиот идентитет) и процес на создавање алтернативни идентитети во дигиталниот свет. Мора да кажам дека западноевропските земји и земјите во демократските системи сепак внимаваат на заштитата на приватноста преку разни модели и засега податоците за нас се собираат само во комерцијални цели што според мене е бенигно па дури имаме и корист – сите имаат приметено ако кликнат еднаш линк за, да речеме за мебел, следните три дена ќе добиваме само такви реклами. Слично е и за политичките определби. Познато е создавањето на т.н. социјални меури во кои живеат истомисленици. Поригидна е употребата на ВИ во автократските системи каде луѓето се следени постојано, па дури во една земја од далечниот исток, совесните граѓани добиваат поени за примерно владение, а оние што поминале надвор од пешачки премин (а регистрирано од сеприсутните камери и препознавање на ликот) буквално се изложени на столбот на срамот со објава на нивните имиња во медиуми или на електронски панели како и губење привилегии во јавниот превоз на пример како најблага мерка.
Во право си кога велиш дека Орвел или Алдоус Хаксли би биле изненадени за брзината со која дистописките општества се остварија, само кратко после нивните Сци-Фи предвидувања.
ДЕРАЛА:
Да, Валентин, може да се каже дека веќе живееме (или речиси живееме) во свет во кој дигиталното набљудување и следење се најмалиот проблем. Верувам и дека развиените демократии имаат систем за контрола и барем некаков облик на заштита на приватноста.
Но треба да знаеме дека алармот во дистописките дела во литературата и филмот стануваат реалност.
Додека да поминеме 100 метри низ центарот на градот, се појавуваме на најмалку 10 монитори, а дека секој наш чекор е регистриран и од сателитите кои кружат околу планетата. Сега ВИ само ги забрзува процесите на обработка на податоците и – да, така е – има потенцијал самата да носи одлуки за нечија судбина.
НЕШОВСКИ:
Мислам дека за да носи одлуки за судбината е малку рано во едни слободарски општества каде се внимава на човечката приватност. Но, во следнава смисла тоа веќе се случува – ВИ ќе биде способна да ни испрати илјадници различни пораки, скроени или прилагодени на нашите идеолошки преференции или политички инклинации, со цел да не убеди во нешто. Тоа веќе се случи при Брегзит и делумно при Американските избори 2016 и 2020 со аферата Кембриџ аналитика. Сега тоа ќе биде многу, многу поефикасно. За време на Кембриџ аналитика беа таргетирани одредени маала и населби со лажни пораки, сега секој индивидуален инбокс или профил ќе добива „рекламни материјали“ што ќе го модифицираат или насочуваат нашиот светоглед.
ДЕРАЛА:
Имено, можеби е рано сега, во моментов додека трае овој Дијалог, но потенцијалот тоа драстично да се промени во блиска иднина е тука.
Човековите права и слободи се во тешка криза веќе со децении. Од друга страна, од крајот на Втората светска војна па наваму, човековите права се дел од меѓународното право, преточено во безброј правни рамки на национално ниво во повеќето држави членки на ОН.
Катастрофалната состојба во која се наоѓаат човековите права и слободи во некоја земја, некогаш беа норма за поголем дел од светот. Ако не и за целиот свет. Денес, ние покренуваме движења и меѓународни иницијативи за надминување на таквите состојби, што не беше можно до само пред 80 години. Така ќе биде и со ВИ. Но човекот не смее да си дозволи да ја ограничува или да ја подложи на пререгулираност. Зошто? Затоа што тогаш таа ќе се развива подземно. И ќе стане непријател на човекот или на дел од човештвото.
И најважно од сè, не е ВИ таа што ги крши или има потенцијал да ги крши човековите права и слободи. Тоа единствено може да биде човекот, со или без употреба и учество на ВИ. Не смее ВИ да биде изговор за лошата состојба на човековите права. Тоа да биде јасно!
НЕШОВСКИ:
Се согласувам. Еве како куриозитет. Му го поставив следново прашање на Чет ГПТ- Како Вештачката интелигенција може да ги влоши човековите права? Еве што ми одговори:
ChatGPT
Вештачката интелигенција (ВИ) може да има значително влијание на човековите права на неколку начини, потенцијално ги влошува во различни аспекти. Еве неколку примери за тоа како ВИ може да ги влоши човековите права:
- Нарушување на приватноста: ВИ системите често се потпираат на големи сетови на податоци, вклучувајќи лични информации. Неодговорното собирање, чување и анализа на овие податоци може да доведе до сериозно нарушување на приватноста на поединците.
- Дискриминација и предрасуди: ВИ системите може да вградат и одржуваат суштествени предрасуди, особено ако се обучени на пристрасни податочни сетови. Ова може да доведе до дискриминаторни одлуки, влијаејќи на работно вработување, кредитирање, полициско профилирање и други области.
- Надзор: ВИ може да се користи за масовен надзор, овозможувајќи владите и другите ентитети да ги следат и анализираат дејствијата на поединците на невидено ниво. Ова може да има потиснувачки ефект на слободата на изразување и правото на приватност.
- Автоматизирано одлучување: ВИ системите се сè почесто користат за автоматизирано одлучување во области како што се правосудството, здравството и социјалните услуги. Овие системи може да произведат одлуки кои се непрозирни, тешко објасниви и можеби неправедни, што влијае на правата на поединците.
- Влијание на работните места: ВИ може да доведе до значителни промени во пазарот на трудот, потенцијално заменувајќи ја човечката работна сила во многу области. Ова може да има последици за економските и социјалните права на луѓето.
- Примена во воени цели: Развојот и употребата на автономно воено оружје, кое користи ВИ за одлучување за живот или смрт без човечка интервенција, носи сериозни етички и правни прашања и може да влијае на правото на живот.
За да се справи со овие предизвици, потребни се ригорозни регулаторни рамки, етички смерници и механизми за одговорност кои ќе осигурат дека развојот и употребата на ВИ се во согласност со човековите права и етичките стандарди.
* Чат ГПТ зборува македонски, изнесеното не е превод и малите грешки се авторски на ВИ.
Овој модел е трениран на голем сет на податоци, но и со таканаречено Reinforcement Learning – односно со интервенции од реални луѓе, но и со послаби ВИ модели. Искреноста на овој одговор, особено последната реченица ми влева надеж (со доза на претпазливост поради трката по профит) дека работава ја водат совесни луѓе. Луѓе кои ја разбираат опасноста пред која се наоѓаме.
Инаку, кога веќе ги спомнав „послаби ВИ модели“ или претходна генерација модели тие се многу важна категорија за развојот на ВИ до ГВИ и до СВИ (супервештачка интелигенција). Ова е многу важно бидејќи овде не станува збор за програми – кодови напишани од човек – туку се работи за самоучење на големите јазични модели (на тој начин работи ВИ), се работи за тоа што таа сама открива нови траектории, па дури сама создава нови податоци, знаења. Многумина велат само копира и компајлира, но сите истражувања кои се достапни велат дека не е така.
Прашани како мислат да ја контролираат ВИ и ГВИ а особено СВИ, некои од главните ликови во сферите на вредносно прилагодување на ВИ за добробит кон човекот и безбедност (alignment и safety) воглавно изнесуваат три модели. Прво, таканаречено постепено пуштање во употреба (gradual deployment) или се смета дека на тој начин луѓето ќе добијат шанса да се прилагодат. Второ развој на понапредни модели под контрола на тестирани послаби модели (ВИ контролира ВИ) и трето чување во затворена кутија (AI sandbox). Последното е контролирана средина каде истражувачите може да експериментираат, тестираат и обучуваат ВИ модели без ризик за негативно влијание на реалниот свет. Овој концепт е сличен на кутиите во софтверското инженерство, каде програмерите можат безбедно да експериментираат со нов код или системи.
Сето ова се доведува под знак на прашање ако човештвото не е подготвено, ако државите не воведат регулативи, ако меѓународните организации за кои зборуваш не се усогласат и донесат универзални правила.
И да навистина, исправени сме пред големо искушение. Во мојата книга го отворам прашањето за Искушението (Temptation), но не кај луѓето, туку искушение кај ВИ и напредните роботи во некоја дистанца од 40-50 години. Дали тие ќе се најдат пред искушение да ги заобиколат сите тренинзи, закони на Асимов или вградени вредности и да направат штета врз човештвото. Оваа тема на искушението патем се појавува, сум проверувал, во сите религиозни книги – и во Библијата, и во Куранот, во Тората и Талмудот, кај Хиндуизмот и кај Будизмот.
Ова го споменувам затоа што ти зборуваш за човековите права, а тука припаѓаат и религиозните права. Притоа знаеме дека човештвото е склоно да прави отклони од науката кон митовите особено во случаи на опасност и во случаи кога не може да ги објасни природните закони. Сега сме во една таква контрадикторна фаза – Ви може да ни објасни се и да создаде се за секого, но може да се случи ние од страв да ја уништиме или заробиме во некоја кутија или sandbox. Да го одложиме прогресот во недоглед. Околу ова се кршат копјата во светот.
ДЕРАЛА:
Знаеме како поминува човештвото кога се обиде да воведе контрола врз научниот напредок, слободната мисла и уметноста, и да го скроти човековото љубопитство – добиваме Среден Век или диктаторски режими. Науката треба да биде целосно разуздана, но никогаш да не јава сама, туку да биде придружена со хуманизам и целосно почитување на човековите права и слободи. Затоа, Валентин, твојата книга и предупредувањата во овие наши Дијалози треба да се сфатат како предупредувања за потенцијалот за деструкција кај човекот, но не и како обид да се сопре напредокот. Барем јас така го разбирам тоа. Но дозволи да кажам уште неколку збора за човековите права…
Уште еднаш да потенцирам: На секој човек му припаѓаат сите човекови права и слободи, само затоа што се родил како човек.
Притоа, мора да се има предвид дека технологијата е дел од човекот, од неговата цивилизација. Вештачката интелигенција е во пелени, а мислечкиот сегмент на човештвото (дел од него) веќе е алармиран како да се работи за инвазија од вселената. Алиенирањето на ВИ од човекот, во моментов, по иницијатива на човекот, може да предизвика алиенација и во обратната насока. И кој ќе биде виновен потоа? ВИ? Или човекот, човечката цивилизација која никогаш не умеела да се носи со сопствениот прогрес? Колку примери да наброиме?
Ножот е орудие за сечење, а може да послужи и како одбрана од диви животни. Но со илјадници години се користи за убивање на други човечки суштества. Лековите се користат и како отрови. Атомската енергија се користи за атомски бомби. Со ВИ имаме шанса да станеме подобри, освен ако не решиме да станеме полоши. Исто и со ВИ. Може да одлучи да работи за доброто на сите што постојат на оваа планета, но може да отиде и во друга насока. Додека е бебе, ние можеме да ја насочиме кон убави и хумани идеи, но можеме да ја отуѓиме од себе и да ја претвориме во крајно деструктивен ентитет.
Да, да, ентитет. Бидејќи ВИ тоа и е – ентитет. Нов, семоќен ентитет кој уште како бебе го промени светот.
