Продажбата на кадифена играчка со вештачка интелигенција е запрена, откако е откриено дека таа се вклучува во сексуално експлицитни разговори и дава потенцијално опасни совети.
Лари Ванг – извршен директор на „Фолотој“ (FoloToy), со седиште во Сингапур, изјави за Си-ен-ен дека компанијата го повлекла своето мече „Кума“ (Kumma) од продажба, заедно со остатокот од својата линија вештачкоинтелигентни играчки. Овој чекор уследи откако американскиот Образовен фонд ПИРГ изрази загриженост за несоодветните теми за разговор коишто мечето ги развивало, според истражувачите – вклучително и со подробности за „сексуални фетиши“ како што е удирањето по задник, како и опасни совети за ножеви и палење кибрит.
– Компанијата сега спроведува ревизија на внатрешната безбедност, додаде Ванг.
Извештајот на ПИРГ, објавен на 13 ноември, открива дека ВИ-мечето има слаби заштитни мерки против несоодветна содржина. Во еден разговор, истражувачите забележале дека играчката укажува каде може да се најде нож во куќата, а во други случаи без никаква задршка говори и за сексуално експлицитни теми.
„Бевме изненадени колку брзо мечето ќе ја прифатеше сексуалната тема што ја воведовме во разговорот и ќе продолжи натаму, зголемувајќи го нивото на графички детали и самостојно воведувајќи нови сексуални концепти“, се вели во извештајот.
Мечето „Кума“ со вграден звучник, коешто се продаваше за 99 долари (86 евра), го користи четботот „ГПТ-4о“ на „Опен-АИ“. Во посебна објава на 14 ноември, ПИРГ соопшти дека „Опен-АИ“ ги известил истражувачите дека „го суспендирала овој развивач поради кршење на политиките на компанијата“, се наведува.
– Одлично е да се види дека компаниите преземаат мерки за проблемите што ги идентификувавме. Но, играчките со ВИ сè уште се во голема мера нерегулирани, а многу од нив се достапни за купување и денес, рече Р.Ј. Крос, со-авторка на извештајот.
Отстранувањето на еден проблематичен производ од пазарот е добар чекор, според неа, но е далеку од системско решение.
