Објавувањето на Сора, „со текст до видео“ генераторот на ОПЕН АИ ја возбуди ВИ заедницата како никогаш досега, дури повеќе од појавата на Чет ГПТ 3. Сите егзалтирани што Сора произведува конзистентно реално видео од околу една минута, да речеме од промпт „Направи ми видео од два лабрадори како влечат жена“ малкумина сфатија дека тоа е речиси ГВИ, ако не и ГВИ односно еднакво на човечката интелигенција. Сора има модел за светот, анализира, размислува, предвидува што ќе се случи, планира, реализира. Токму затоа во ова продолжение разговараме за најопасните сценарија што може да се случат. Прашањето за ВОЈНА или МИР со ВИ.
Прв дел | Втор дел | Трет дел
Дијалози меѓу Џабир Дерала и Валентин Нешовски
ДЕРАЛА: Во својата еволуција од 200.000 години, време во кое, за разлика од сите други живи суштества на планетата Земја, Хомо Сапиенс има способност за свесно создавање – од уметност, наука и голем број индустрии, до оружје за тотална деструкција. Сето тоа, во изминатите 200.000 години, а особено во последниот миг на окото на историјата, кој трае околу 6.000 години, сето тоа е под контролата на човекот.
По сите илјадници години кога контролата на тоа што го создава е во неговите раце (и ум), човекот дојде до преломна точка. Човекот е на прагот на нова ера кога е состојба да создаде битие или (еве, да бидеме повеќе антропоцентрични) ентитет кој е подобар од него – машина која самостојно размислува и донесува автономни одлуки. В ред, тоа сѐ уште не се случило, но е на добар пат да се случи.
Некои велат дека за развој на генералната вештачка интелигенција ќе бидат потребни само уште неколку години, некои велат можеби и 100 години (песимистите велат никогаш, но не се во право).
Но што е тоа во споредба со еволуцијата на „мудриот човек“ како што гласи преводот од латинскиот израз што ни го даде таткото на модерната класификација во биологијата Каролус Линаус во 1758 година? Малку претерал со тоа „мудар“, но тоа е, ние сме Хомо Сапиенс, неспоредливо супериорниот облик на живот на планетата и во познатиот дел од вселената. Со конечно заминување на второто место. Или на третото, доколку нашата креација реши да создаде нешто што е помалку совршено од неа, а секако подобро од нас…
НЕШОВСКИ: Знаеш Џабир во право си, страшна е дефиницијата „помалку совршено од неа, а подобра од нас“. И мислам дека во лабораториите на ОПЕН АИ, тоа веќе постои. Многу сериозни луѓе и аналитичари, кои немаат пристап до оваа компанија од Сан Франциско се исплашија од Сора, објавена пред четири дена (18 февруари). Некои се радуваа, некои велеа дека „тоа не е ништо, ние го достигнавме тоа пред 2 година“ (Тесла), а некои веќе се длабоко уплашени дека е достигната не ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА (ВИ), туку ГЕНЕРАЛНА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА (ГВИ), што е на чекор до ВЕШТАЧКА СУПЕР ИНТЕЛИГЕНЦИЈА (ВСИ). Сора всушност може да разбере задача, да ја анализира, да испланира, да предвиди и да реализира. Сето прикажано во едноминутно реално видео, како јас или ти, да сме го снимале со камера. Тезата на неколкумина е дека штом ова било развивано речиси една година и сега е пуштено, тогаш кој знае што има необјавено. Впрочем еден од вработените имаше ТВИТ „Сора и ГВИ“ а малку потоа и твитот подолу кај што кажува дека работеле на Сора веќе една година.
Sora is here! It’s a diffusion transformer that can generate up to a minute of 1080p video with great coherence and quality. @_tim_brooks and I have been working on this at @openai for a year, and we’re pumped about pursuing AGI by simulating everything! https://t.co/DzbyReLJEc pic.twitter.com/IFqfh8H6FW
— Bill Peebles (@billpeeb) February 15, 2024
Вчера, пак, се појави твит од вработен во Опен АИ кој инсинуираше дека ГВИ е достигнато. Твитот го снема по неколку часа…
Затоа се плашам дека ВИ сите ги изненадува и тоа отворено го признаваат, иако одамна знаат дека ВИ ќе се развива по експоненцијална крива. На пример главниот научник на Мета, Јан Лекан, на светскиот самит на влади во Саудиска Арабија изјави: „Лесно е да се предвиди следниот кадар (од видео, н.з.), но проблем е како да се предвидат следните повеќе кадри. Во основа, ние не знаеме како да го направиме тоа“, но еве Сора на Опен АИ го направи. А за растот на ВИ веќе пишувавме – дека „тишината“ односно ГВИ ќе биде само 5 минути потоа сѐ ќе отиде во небеса – илјадници пати поинтелигентна конфигурација од онаа човечката. Всушност, се тврди дека ова е достигнато само со едноставно зголемување на компјутерската моќ (scaling of computing). И сега пази, интересен е податокот дека Опен АИ е во потрага од инвестиции од седум трилиони долари, за да ги вложи во зголемување на компјутерската моќ, во GPUs.
Всушност, најважното кај Сора е што таа веќе има „Модел на светот“- знае како изгледа нашиот свет и сѐ за нас (сега и со видео) и тоа го има научено сама, како што учат децата. Односно, знае дека има иднина, пат кој претстои пред нас (асфалтен или земјен), дека има сенки од сонцето, дека јапонските цреши цветаат, дека луѓето може да шетаат, да врне и да вее. Дека луѓето водат војни и дека може да се испотепаат меѓу себе. Тоа е страшното, како што рекоа и многу наши читатели – зависи кој ја учи и што ја учи. Проблемот е што таа сама учи (self-learning training), а веќе и на синтетички податоци кои сама ги создава. Нашите ги потроши.
ДЕРАЛА: „Трката во вооружување со вештачка интелигенција менува сè“ е насловна тема на престижниот „Тајм“ магазин пред една година (“The AI Arms Race Is Changing Everything”, Time, Feb. 16, 2023). Нештата се развиваат со вртоглава брзина. Ако пред само една година, авторите на „Тајм“ напишаа „Start worrying“ (почнете да се грижите), за една година светот на ВИ успеа да ги надмине прогнозите и на најхрабрите „проектанти“ на иднината.
Многумина се загрижени, од оние што коментираат под нашите објави на Фејсбук со линкови до нашите Дијалози, до Елон Маск и Јувал Ноа Харари (секој од нив на различен начин). Развојот на Вештачката интелигенција и автономните роботи често се споредува со Армагедон за човечкиот вид.
Јас, сепак, мислам дека нема ВИ да биде таа што ќе ни го свири цивилизациското повечерие, туку ние самите.
Трката во вооружување со Вештачката интелигенција е во полн ек. И колку помалку добиваме конкретни податоци за тоа што се случува зад безбедносните протоколи на воените истражувачки центри, толку пострашна ќе биде реалноста кога новите „играчки“ на генералите во армиите на супер силите во светот ќе се појават над нашите глави или ќе тропнат (буквално или во преносна смисла на зборот) на нашите врати.
За што зборувам? Зборувам за роеви од дронови и нано роботи кои денот можат да го претворат во ноќ, а ноќта во заслепувачки светол ден. Но тие не се управувани од „пилоти“ во оддалечените подземни бункери. Нив ги раководи Вештачката интелигенција. Тие имаат пристап до непрегледни бази на податоци и можат да ги препознаат нашите лица од огромна далечина и да одлучуваат за нашата судбина, за нашиот живот или нашата смрт во дел од секунда.
Високо на небото ќе патролираат авиони кои ќе се судираат во жестоки воздушни дуели какви што нема ни во најдинамичните видео игри денес. Пилотите во тие авиони нема да бидат луѓе, туку различни генерации на Вештачка интелигенција, креирани во антагонизирани воени лаборатории. Нема човечко суштество кое ги поседува тие перформанси на пилот, како ВИ. Не ќе може ни физички да ги издржи тие движења и маневри на авионот.
На копното, тенкови без војници ќе се судираат во брутални тенковски битки какви што не можеме ни да замислиме. Последиците што ќе ги остават зад себе ќе ги надминат и најужасните сцени на разурнати градови што ги гледаме овие години – Алепо, Мариупољ, Бахмут, Газа… Или Хирошима, 1945.
Оклопните транспортери ќе превезуваат непобедливи хуманоидни роботи кои ќе окупираат држави и ќе ги заземаат стратешките точки непогрешливо, подобро и од најискусниот човечки генерал.
Како тоа? Па затоа што искуствата на сите генерали во историјата на човештвото ќе им бидат на располагање истовремено, а нивото на интелигенција ќе им биде толку високо што во дел од секунда ќе донесат најдобро можно решение – за победа на фронтот.
НЕШОВСКИ: Црно ти е сценариово. Свесен сум за тоа. Најголемиот ум на минатиот милениум, на чии научни постулати почиваат и атомската бомба, па и ВИ, Алберт Ајнштајн, рекол: „Творбите на нашиот ум мора да се благослов, а не проклетство“.
Ни испратил порака и нам, па ни рекол – „Драги идни генерации, ако не сте поправедни, помирољубиви и порационални од што бевме ние, одете по ѓаволите“. И веројатно кога го мислел тоа, го исплазил јазикот. Се шалам, друга е приказната зад таа фотографија.
Но како и да е, се согласувам со тебе, можен е таков исход. Но те молам доразвиј ја тезата. Како би изгледало такво сценарио од општествен аспект. Ќе бидеме ли окупирани? Како ќе изгледа тоа?
ДЕРАЛА: Како ќе изгледа една таква окупација?
На улиците ќе патролираат полициски возила без возачи. Ако треба да бидеме уапсени, милозвучен глас од возилото ќе ни го соопшти тоа и љубезно ќе нѐ замоли да се самоуапсиме. Ако ја игнорираме „љубезната покана“, ВИ ќе ги искористи најблиските и најефективни средства (роботи) да нѐ втурнат во возилото кое веќе ги отворило своите врати. Во возилото, ВИ ќе ни даде правни поуки, додека со полна брзина се упатува кон ВИ судот каде што ќе добиеме повеќе детали за обвинението од ВИ тужителот, а ВИ судијата ќе ни додели ВИ адвокат да нѐ брани.
НЕШОВСКИ: Гледај, јас сум непоправлив оптимист. Но не поради оптимизмот како чувство, туку втемелено на факти и историја. Тврдам дека човечката раса е прилично жилава творба. Нашата еволуција го покажува тоа – приматите се појавиле во доцниот миоцен пред околу 6 милиони години (палци за фаќање), племињата/чопори (алатки, оружје) во Плеистоценот – 2.3 милиони години, до пред 12.000 години, најстарите черепи со човекова големина (Homo Sapiens) се најдени пред 300.000 години (говор, комуникација)… Само 12.000 години пред денес, кога разговараме јас и ти, во светот имало само 4 милиони луѓе. Тезата ми е – сме преживеале сешто, вклучувајќи ледено доба, и многу ПРАГОВИ на постоењето или непостоењето. За ова зборуваат многу теоретичари. Имаме среќа на пример во констелацијата на небесните тела. Земјата е на идеална далечина од Сонцето за да не е претопло или преладно, Месечината е на идеална позиција од Земјата. Нашиот Сончев систем е на идеална позиција, во раката Орион, во однос на Млечниот пат и неговата Црна Дупка, Сагитариус.
Сакам да илустрирам и да кажам дека овие прагови или ФИЛТРИ ако сакаш – палец, говор, племиња, јазици, писмо се – или коинциденција или отпорност. Коинциденциите се можни, ама се сепак само статистички модели на ентропијата. На пример, нашиот поглед кон универзумот (астрономијата, математиката) и желбата да се отиде таму (авантуризмот) не би била можен доколку Месечината не беше тука, на идеална далечина од погледот на нашите предци. Или, ние во минатиот век имавме точно таква технологија (ракетно гориво) само колку што е потребно да се победи гравитацијата. Да беше Земјата само малку поголема, односно со само малку повеќе гравитација, ние никогаш, ама никогаш, немаше да се одлепиме од почвата и немаше да сонуваме за Марс или за мултипланетарна цивилизација. Тоа се праговите кои човештвото ги има поминато.
Нашиот изум – ВИ – е таков ПРАГ и ФИЛТЕР. Или ќе нѐ убие или ќе нѐ направи семожни. Јас типувам на второто. Да, ќе има транзиционен период – на пример, отпуштања од работа, реални, а лажни вести. Влегуваме во таков период, но мислам дека многумина во светот, во Европа и овде не се свесни.
ДЕРАЛА: Не сум ни јас песимист (премногу). На крајот на краиштата, еден правосуден систем раководен од ВИ, веројатно ќе биде далеку поправеден од системот во кој го минуваме животот. If you see what I mean. Секако, се согласувам дека тезата треба да се доразвие.
Но да се осврнам на тоа што го спомена пред малку. Како што пишувавме и во претходните продолженија, ВИ веќе сега може да креира вести и анализи, но и дезинформации и пропагандни наративи кои далеку ги надминуваат вештините на просечните новинари или дезинформатори (зависи кој од која страна се наоѓа). Веќе сега имаме случаи кога во кампањите е вклучена ВИ која креира и дистрибуира deep fake продукти кои некогаш изгледаат поуверливо од реалноста. Слободни избори? Наскоро, тоа ќе биде невозможно да се замисли без силна одбрана. Се разбира, повторно со помош на ВИ.
НЕШОВСКИ: Тоа е проблем. Посебно кога и кај нас доаѓаат избори. Ќе бидат тест за отпорноста. Ќе бидат ФИЛТЕР за нечесните. Дел од компаниите, посебно оние кои се во кланот ВИ од затворен тип (closed source) осмислуваат начини за спречување. Но, игрите се и поголеми на пример во воената индустрија…
ДЕРАЛА: Секако, да. Ако погледнеме кон небото, на пример, комуникациските сателити нема да ги преземе некој супер талентиран хакер во служба на армијата на една или друга супер сила. Во блиска иднина, ако не и (речиси) сегашност, тоа ќе биде овозможено со ВИ, која ќе ги презема комуникациските сателити и ќе емитува такви информации и пораки, какви што ќе ѝ бидат потребни за победа на нејзината страна во конфликтот. Или, едноставно, ќе ги онеспособи сателитите, што ќе предизвика тотално слепило и хаос во земјата што е цел на агресијата.
Цела држава може да се кутне на колена и во неа да завладее целосен терор, без ниту еден испукан куршум, па дури и без да се окупира ниту една педа од територијата. Се наоѓаме на самиот праг на таа нова ера на водење војна, каде што оружјето е супер интелигентно и самото носи одлуки на лице место. Без или со минимално учество на човекот.
Колку и да изгледаат неверојатно или спорно сите овие „проекции“ на новата ера на војувањето, мора да се согласиме дека војувањето, безбедноста и демократијата денес се сосема различни од тоа што беа пред само пет години, а ќе бидат во целосно нова фаза веќе во наредните две до три години, кога ништо од тоа што го гледаме денес, нема да биде исто. Ама баш ништо. Не се согласуваш? Ќе седнат во Брисел и ќе донесат правила, принципи, регулативи и закони? Ахм.
НЕШОВСКИ: Мислам дека институциите на демократскиот систем стануваат геронтократски, ај да не речам опскурни. Не дека владеат постари луѓе (мудроста и искуството е потребно), туку бавни се во процесите. ВИ и ГВИ ќе го потенцираат тоа. Знаете за Черчил, кој рекол „ако не знаеш што да правиш за нешто, направи комисија“. Е тоа денес, со ВИ, не проаѓа. Мора да се носат закони за употреба на ВИ итно, со „европско знаменце“. Затоа што, како што напишав и претходно – духот е надвор од шишето. И не може никој да го врати. На пример, Сем Алтман, ѝ даде пристап до Опен АИ на американската војска. Тоа е и демократски. Кинеската држава, на пример, за разлика од САД, управува со компаниите кои развиваат ВИ.
ДЕРАЛА: Да. Кина е најнапредната во вооружувањето на Вештачката интелигенција. Технолошки, Кина е пред САД, кои важат за технолошки најнапредна земја во светот. Според едно истражување на МИТ во 2019 година, во периодот 2017-2020 година, Кина одвојува многу повеќе во военоистражувачки проекти во доменот на Вештачката интелигенција отколку САД.
До слични констатации доаѓа В. Хартунг, експерт за воена индустрија и воени буџети, во декември, 2023 година, кога пишува дека „САД се во опасност да заостанат зад Кина во развојот и распоредувањето на системи од следната генерација, како што се беспилотни возила контролирани од вештачка интелигенција“ (Responsible Statecraft).
За да одговори на предизвикот од Кина, која изгледа како да е во незапирлив подем во вооружувањето со ВИ, и Австралија, близок сојузник на САД и НАТО членка, почна да произведува напредна технологија за подморници, со употреба на ВИ. Паралелно со скапите нуклеарни подморници, Австралија ги разви и т.н. Ghost Shark (ајкула дух) подморници кои се без човечки персонал и кои ги управува Вештачка интелигенција. Три од овие подморници „вооружени“ со ВИ ќе бидат ставени во функција веќе во средината на 2025 година.
Ова покажува дека, всушност, вооружувањето со ВИ и не мора да биде скапо. Скапо е истражувањето, но потоа производството е далеку поевтино отколку она за кое е потребен човечки персонал. Но тоа може да биде само уште една причина повеќе за загриженост.
НЕШОВСКИ: Не знам што да додадам, само би рекол – во човечката историја за жал важи – Војната може да се добие, но мирот НЕ. Ова мора да го промениме. Да бидеме барем малку поморални, посрдечни, попонизни кон луѓето, околината, природата…
ДЕРАЛА: Се мислам, Валентин, како ќе изгледаат овие Дијалози веќе само за десетина години во студените електронски „очи“ на некој автономен робот кому нема да му биде потребно читање од монитор. Тоа, впрочем, не му е потребно ни сега на ChatGPT. На ВИ ѝ е потребно само да „помисли“ на нешто и веќе го има во својата „глава“. Како Нео, кога му вбризгуваат знаења во ховеркрафтот на Морфеус, „Набукаднезар“, кога вели: „Знам Кунг-фу!“
Многу е веројатно – на ВИ и на напредните млади генерации овие дијалози ќе им изгледаат како археолошки пронајдоци, списи на древни автори кои биле на самиот брег од океанот на сознанијата. Да се надеваме дека ќе ги оценат онака како што ние денес ги оценуваме списите од пред две илјади години.
НЕШОВСКИ: Древни автори – хахахаха – да видиме што ново ќе се случи до идната недела.
