Заминувањето на истражувачот Џејкоб Коксон од Anthropic ја засили дебатата за безбедноста на вештачката интелигенција. Коксон, кој претходно работел и во OpenAI, ги обвини двете компании дека конкурентската трка ја ставаат пред безбедноста.
Неговите загрижености добија поддршка и од актуелни истражувачи во Anthropic. Еван Хабинџер изнесе лична процена дека ризикот ВИ да предизвика исчезнување на човештвото во следната деценија надминува десет проценти.
Тоа заслужува внимание. Но лична процена не е измерена веројатност, а поддршка од колеги не е научен консензус.
Токму овие разлики ги разгледува Џабир Дерала во анализата објавена на ЦИВИЛ МЕДИА, посветена на предупредувањата, медиумското известување и одговорноста за развојот на ВИ.
Хабинџер предупредува и дека сè уште немаат план за решавање на усогласувањето на идната суперинтелигенција — обезбедување таа да дејствува во согласност со предвидените цели и безбедносни принципи. Тоа не значи дека нема никакви безбедносни мерки. Ниту изјавата на истражувач автоматски претставува официјално признание на компанијата.
Anthropic објавува безбедносни политики и извештаи за ризиците. Но документите сами по себе не докажуваат дека заштитата е доволна.
Прашањата се конкретни: кој ја проверува безбедноста, кој одлучува колкава автономија ќе имаат системите и кој може да запре опасно распоредување?
Јавноста заслужува одговори на тие прашања. Повеќе наслови за исто предупредување не се повеќе независни докази дека најлошото сценарио ќе се оствари.
Неизвесноста не е причина да се игнорира опасноста. Но не е ни дозвола можниот исход да се претставува како неизбежен.
Иднината не е „веќе изгубена“. Но одговорноста за одлуките што ја обликуваат не може да се одложува.
Д. Е.
