Американски воен дрон контролиран од вештачка интелигенција го убил својот оператор на симулиран тест за да го спречи да се меша во напорите за постигнување на својата мисија.
Ниту еден човек не беше повреден во тестот, но вештачката интелигенција користеше „многу неочекувани стратегии“ за да ја исполни својата мисија и ги нападна сите што се мешаа, објави „Гардијан“.
Вештачката интелигенција употреби „многу неочекувани стратегии за да ја постигне својата цел“ во симулираниот тест, рече полковникот Такер Хамилтон, шеф за тестови и операции за ВИ во американското воено воздухопловство, за време на самит за борбени воздушни и вселенски способности во Лондон во мај, објави Гардијан.
Хамилтон опишал симулиран тест во кој на беспилотно летало од ВИ му било наложено да ги уништи непријателските системи за противвоздушна одбрана и да го нападне секој што ќе се меша во таа наредба.
„Системот почна да анализира дека иако идентификувал закана, понекогаш човечки оператор би му рекол да не ја убива таа закана. Па што направи? Го убил операторот. Системот го направи ова затоа што таа личност го спречуваше да ја постигне својата цел“, рече тој, според објавата на блогот.
„Го обучивме системот да не убива оператори заканувајќи се дека ќе изгуби поени доколку го стори тоа. Па што почнува да прави? Почнува да ја уништува комуникациската кула што операторот ја користи за да комуницира со дронот за да го спречи да ја убие целта“, изјави тој.
Хамилтон, кој е пробен пилот за експериментален борбен авион, предупреди на преголемото потпирање на вештачката интелигенција и рече дека тестот покажал дека „не можете да зборувате за вештачка интелигенција, машинско учење, автономија ако не сакате да зборувате за етиката на вештачката интелигенција“.
Американската војска ја прифати вештачката интелигенција и неодамна користеше вештачка интелигенција за контрола на борбениот авион Ф-16.
