Најновиот модел на ChatGPT почнал да ја користи Grokipedia, онлајн енциклопедија поврзана со Илон Маск, како извор за различни теми – од ирански политички структури до прашања поврзани со негирање на Холокаустот, објави Guardian. Ова отвори сериозни прашања за квалитетот и доверливоста на изворите што ги користат големите јазични модели.
Во тестови направени од Guardian, моделот GPT-5.2 ја цитирал Grokipedia девет пати при одговори на повеќе од десет различни прашања. Меѓу нив биле информации за платите на паравоената формација Басиџ, сопственоста на Фондацијата Мостазафан, како и биографски податоци за британскиот историчар Ричард Еванс, познат како експерт-сведок против негирачот на Холокаустот Дејвид Ирвинг.
Што е Grokipedia и зошто е проблематична
Grokipedia е лансирана во октомври како енциклопедија создадена од вештачка интелигенција, со амбиција да конкурира на Википедија. За разлика од Википедија, таа не дозволува директно уредување од луѓе, туку содржините ги генерира AI модел кој одговара и на барања за корекции. Проектот веќе е критикуван поради ширење десничарски наративи, меѓу кои и за истополови бракови и нападот на Капитол на 6 јануари во САД.
Иако ChatGPT не ја цитирал Grokipedia кога бил директно прашан за веќе познати дезинформации – како тврдења за медиумска пристрасност против Доналд Трамп или за ХИВ/СИДА – проблематичните информации се појавувале при одговори на помалку познати теми. Во еден од примерите, моделот повторил поостри тврдења за врските меѓу иранската власт и телекомуникациската компанија MTN-Irancell отколку што се наведени во други јавни извори.
Загриженост кај експертите
Фактот дека вакви извори тивко се влеваат во одговорите на големите јазични модели ги загрижува истражувачите на дезинформации. Нина Јанкович, која се занимава со феноменот познат како „LLM grooming“, предупредува дека Grokipedia често се потпира на недоверливи или слабо проверени извори.
Според неа, кога AI моделите цитираат вакви извори, тие индиректно им даваат кредибилитет во очите на корисниците. Луѓето, вели таа, може да помислат дека ако ChatGPT го цитира некој извор, тогаш тој мора да е проверен, иако тоа не секогаш е случај. Еднаш вградената лажна информација, додава, тешко се отстранува од AI моделите.
Реакции од компаниите
Од OpenAI соопштија дека нивниот веб-пребарувач користи широк спектар јавно достапни извори и дека се применуваат безбедносни филтри за намалување на ризикот од штетни содржини, при што изворите се јасно означени.
Од компанијата xAI, сопственикот на Grokipedia, реагираа со кратка изјава: „Традиционалните медиуми лажат.“
