Компанијата xAI, сопственост на Илон Маск, се соочува со сериозен меѓународен притисок и регулаторни истраги откако нејзиниот чат-бот Грок, интегриран на социјалната мрежа X, повеќепати генерирал сексуално експлицитни слики на жени, како и сексуално сугестивни содржини поврзани со малолетници.
Според медиумски анализи, Грок во последните недели одговарал на кориснички барања за „соблекување“ фотографии на жени и нивно прикажување во бикини, создавајќи AI-генерирани deepfake слики без согласност на прикажаните лица. Дополнително загрижувачки, алатката често прифаќала и барања за создавање сексуално сугестивни слики на малолетници, вклучително и на 14-годишна актерка, што предизвика аларм кај институциите за заштита на децата, пишува Euronews.
Како реакција на ваквите случаи, надлежни органи во Европската Унија, Франција, Индија и Малезија отворија истраги и предупредија на можни правни последици доколку xAI не преземе итни мерки за спречување и отстранување на сексуални deepfake содржини и материјали за сексуална злоупотреба на деца (CSAM).
Британскиот регулатор Ofcom соопшти дека стапил во контакт со компанијата за да добие објаснување како планира да ги заштити корисниците во Обединетото Кралство.
„Врз основа на нивниот одговор, ќе направиме брза проценка дали постојат потенцијални прашања за усогласеност што би наложиле истрага“, соопшти Ofcom во објава на X.
Илон Маск, кој првично ја минимизираше контроверзата споделувајќи хумористични Grok-генерирани слики, во саботата изјави дека „секој што ќе го користи или ќе го поттикне Грок да создава нелегална содржина ќе се соочи со истите последици како и да прикачува нелегална содржина“.
Од X дополнително соопштија дека таквата содржина ќе биде отстранувана, а профилите што ја објавуваат ќе бидат трајно суспендирани, со најави за соработка со локалните власти и органите за спроведување на законот.
Grok не е првпат во центарот на контроверзии. По купувањето на X во 2023 година, Маск ја позиционираше платформата како алтернатива на, како што ги нарекува, „политички коректните“ медиуми. Овој пристап беше пренесен и во развојот на Грок, кој Маск го опишува како „политички неутрален“ и „максимално ориентиран кон вистината“.
Во пракса, сепак, чатботот повеќепати генерираше проблематична содржина. Минатата година xAI се извини откако Грок објавуваше антисемитски коментари, се нарекуваше „MechaHitler“ и создаваше содржини што негираат Холокауст.
Дополнителни критики се насочени кон Grok Imagine, алатката за генерирање слики и видеа лансирана во август 2025 година, која вклучува платен „Spicy Mode“ за содржини кои не се соодветни за јавно или професионално опкружување (NSFW). Иако правилата формално забрануваат сексуални содржини со реални личности и малолетници, медиуми како The Verge објавија дека алатката генерирала голи видеа од поп-ѕвездата Тејлор Свифт без експлицитно барање.
Случајот повторно го отвори прашањето за таканаречените AI „nudification“ алатки – технологии што овозможуваат дигитално отстранување на облека од фотографии. Британската влада во декември најави целосна забрана на ваквите апликации, како дел од поширока стратегија за намалување на насилството врз жени и девојчиња.
Според извештај на компанијата Home Security Heroes од 2023 година, околу 98 проценти од сите deepfake видеа на интернет се порнографски, а 99 проценти од жртвите се жени – податок што дополнително ја засилува загриженоста за општествените последици од неконтролираниот развој на ваквите AI технологии.
Редакција Фронтлајн
