Водечките AI компании, Трамп,Пентагон се најдоа во отворен судир откако технолошките фирми поставија црвена линија против масовен надзор и автономно оружје.
Извршниот директор на OpenAI, Сем Алтман, во интерен меморандум до вработените порачал дека компанијата ќе ги задржи истите „црвени линии“ што доведоа до отворен судир меѓу конкурентската фирма Anthropic и Министерство за одбрана на САД.
Според извештај на Axios, Алтман нагласил дека вештачката интелигенција не смее да се користи за масовен надзор на граѓани ниту за смртоносно автономно оружје, како и дека луѓето мора да останат вклучени во донесувањето одлуки со висок ризик.
„Ова повеќе не е прашање само на една компанија, туку на целата AI индустрија“, навел Алтман, дефинирајќи ги овие принципи како темелни за OpenAI.
Пентагон бара модели „за сите законити цели“
Судирот ескалирал откако Пентагон побарал AI моделите да му бидат ставени на располагање „за сите законити цели“. Токму оваа формулација била неприфатлива за Anthropic, бидејќи не ги вклучува нивните внатрешни заштитни механизми што изречно забрануваат употреба за масовен надзор и автономно оружје.
Anthropic минатото лето потпишал договор вреден до 200 милиони долари за интеграција на својот модел Claude во тајни воени мрежи. Во политиката за прифатлива употреба на компанијата јасно се наведува дека технологијата не смее да се користи за масовно следење или автономно смртоносно оружје.
Извршниот директор на Anthropic, Дарио Амодеи, одбил да попушти и покрај притисоците, по што американски официјални лица се заканиле со раскинување на договорот и дополнителни санкции.
Можен пресврт во корист на OpenAI
Доколку Anthropic биде прогласен за „ризик за синџирот на снабдување“, како што наводно се разгледува, тоа би можело да отвори простор OpenAI да ја преземе неговата улога во чувствителни воени системи.
ChatGPT веќе е достапен во не-класифицирани воени системи, а разговорите за негова интеграција во класифицирана средина се интензивирале. Сепак, Пентагон инсистира моделите да можат да се користат без дополнителни ограничувања, што создава ризик од ист тип конфликт каков што настана со Anthropic.
Алтман порачал дека ќе се обиде да „деескалира ситуацијата“ и да најде модел на соработка што ќе овозможи работа во класифицирано опкружување, но ќе ги исклучи незаконските или непримерни примени, како домашен надзор и автономно офанзивно оружје.
Вклучување на Трамп
Претседателот на САД, Доналд Трамп, се огласил на својата платформа Truth Social, порачувајќи дека Anthropic повеќе нема да работи со државата и дека одлуката за начинот на користење на технологијата во војската ѝ припаѓа на владата, а не на приватни компании.
Тој наредил федералните агенции да го прекинат користењето на технологијата на Anthropic, со транзициски период од шест месеци за институциите што веќе ги користат нивните производи.
Преседан за односите меѓу водечки AI компании и Пентагон
Овој спор се смета за потенцијален преседан: првпат водечки AI компании јавно поставуваат граници за тоа како владата може да ја користи нивната технологија. Дел од вработените во OpenAI и други технолошки компании потпишале писмо за поддршка на Anthropic, повикувајќи ги управите да не попуштат под притисок.
Во контекст на технолошката трка со Кина, која Белата куќа ја споредува со вселенската трка од Студената војна, прашањето што останува отворено е дали ќе надвладеат безбедносните приоритети на државата или етичките ограничувања на технолошките компании.
Од исходот на овој конфликт може да зависи не само иднината на односите меѓу Силициумската долина и Пентагон, туку и границите на примена на вештачката интелигенција во демократските општества.
Редакција Фронтлајн
