Моделите на вештачка интелигенција (AI) се развиваат со огромна брзина, толку брзо што наскоро би можеле да почнат самите да се усовршуваат без никакво човечко вклучување. Поради ова, компанијата „Антропик“ (Anthropic) испрати сериозно предупредување до целата индустрија дека мора да се изгради „кочница“, бидејќи во спротивно компаниите ризикуваат целосно да ја загубат контролата врз сопствените креации, пренесува Си-Ен-Ен (CNN).
Системите на вештачка интелигенција кои можат самите да напредуваат, процес познат како „целосно рекурзивно само-усовршување“, можат да донесат голема корист за науката и здравството, но истовремено носат и огромни ризици за човештвото. Ова се наведува во објавата на блогот чии автори се Марина Фаваро, лидер на Институтот „Антропик“, и Џек Кларк, коосновач на компанијата.
„Целосното рекурзивно само-усовршување исто така може да го зголеми ризикот луѓето да ја загубат контролата врз AI системите. Доколку системите се способни целосно самите да ги градат своите наследници, начините на кои ги обезбедуваме, ги надгледуваме и го обликуваме нивното однесување стануваат многу поважни“, пишуваат тие.
Индустријата е многу поблиску до само-усовршувачка вештачка интелигенција отколку што претходно се очекуваше, предупредуваат од компанијата. Поради тоа, технолошките гиганти треба да размислат за забавување или привремен прекин на развојот на напредната AI, за да им се остави време на истражувачите подобро да ги разберат потенцијалните општествени штети што можат да бидат предизвикани. Истражувачите исто така мора да изградат механизам кој ќе им овозможи на луѓето да интервенираат доколку работите излезат од контрола.
Потребна е „кочница“ во трката со гас
Гостувајќи на Си-Ен-Ен, коосновачот на компанијата Џек Кларк ја повика индустријата да си обезбеди „педала за кочница“.
„Кога ќе погледнам надолу во автомобилот што го возиме, сè што имам е само педала за гас. Немам педала за кочница, а сигурно во некој момент во иднина ќе ја сакаме таа опција“, му изјави Кларк на новинарот Андерсон Купер во интервјуто.
Купер го посочи примерот од научно-фантастичните филмови каде вештачката интелигенција се крева за да ги уништи луѓето, прашувајќи го Кларк дали токму од тоа се плаши.
„Да, и ние тука читаме и гледаме научна фантастика, така што тоа не ни е непознато. Како да одржувате контрола врз флоти од научници кои се многу, многу поголеми и многу побрзи од оние што сте ги имале претходно?“, одговори Кларк, додавајќи дека неможноста да се потврди, верификува и да се има доверба во однесувањето на вештачката интелигенција претставува главен ризик во нејзиниот развој.
Милијарди долари се во игра, но соработката е можна
Ова предупредување доаѓа во време кога „Антропик“ поднесе барање за иницијална јавна понуда (IPO) на своите акции, чекор со кој би можеле да се соберат десетици милијарди долари од инвеститорите за да се забрза изградбата на дата-центри и компјутери потребни за AI. Дополнително, компанијата „СпејсЕкс“ (SpaceX), која покрај бизнисот со ракети и сателити има и свој AI оддел, следната недела се подготвува за најголемото IPO во историјата, со цел да собере 75 милијарди долари.
Идејата големите AI компании како „Антропик“, „СпејсЕкс“ и „ОпенАИ“ (OpenAI) да соработуваат за да создадат „кочници“ може да изгледа спротивно на правилата на конкурентскиот бизнис во кој во игра се милијарди, па дури и трилиони долари. Сепак, Кларк инсистира дека таквата соработка е можна.
„Ова сме го правеле и претходно. Во екот на Студената војна, под крајно тензични ситуации меѓу ривалски земји, тие најдоа начини да стабилизираат одредени аспекти на трката со нуклеарно оружје. Сето ова веќе е направено во други домени, а можеби ќе треба да го направиме и во доменот на вештачката интелигенција“, заклучи Кларк за Си-Ен-Ен.
Редакција Фронтлајн
