Достъпът до изкуствен интелект може да направи хората по-малко склонни да признаят, че не знаят отговора на даден въпрос, като едновременно с това намалява точността на отговорите им и повишава увереността им, показва ново изследване на учени от Франция и Италия.

Според проучването, публикувано от изследователи от Университета "Милано-Бикока", École Normale Supérieure и римския университет "Сапиенца", готовността на участниците да кажат "Не знам" е спаднала от 44% до едва 3%, когато са имали възможност да се консултират с AI. В същото време делът на верните отговори е намалял от 27% на 9%, докато увереността на участниците в собствените им отговори е нараснала от 30% до 76%.

"Хората станаха много по-неточни – точността им спадна до една трета от първоначалната, но същевременно бяха два пъти по-уверени в отговорите си", коментира доц. Валерио Капраро от Университета "Милано-Бикока", един от авторите на изследването.

AI подвежда дори хората, които първоначално знаят верния отговор

За да проверят доколко хората се доверяват на изкуствения интелект, учените умишлено подбрали въпроси, на които езиковите модели често грешат. Сред тях били дребни визуални детайли от филми - например какъв е цветът на спортните екипи в лентата Bend It Like Beckham.

Изследователите използвали модела Step 3.5 Flash, именно защото той обикновено дава грешни отговори на подобни въпроси. Така те изключили възможността хората просто да разчитат на по-надежден източник.

Оказало се, че част от участниците, които първоначално биха дали правилен отговор, след консултация с AI сменили мнението си и посочили грешния.

Пари не решават проблема

Екипът проверил и дали финансов стимул може да насърчи хората да бъдат по-внимателни.

Резултатът показва известен ефект, но далеч не достатъчен. Делът на хората, които признават, че не знаят отговора, се увеличил от 3% на 8%, а точността – от 9% на 16%. И двата показателя обаче остават значително под нивата при участниците, които не са използвали AI.

Авторите отбелязват, че резултатите съвпадат с по-ранни изследвания на учени от Wharton School, които по-рано тази година въведоха понятието "когнитивна капитулация" (cognitive surrender).

Според тях хората приемат грешните отговори на изкуствения интелект в около 80% от случаите, като същевременно са по-уверени в преценката си, отколкото участници, работили без AI.

Новото изследване добавя още един важен извод – не само че хората се доверяват на погрешните отговори на изкуствения интелект, но и самото наличие на AI потиска навика да осъзнават границите на собственото си знание.

Опасения за децата

"За хората способността да кажат "Не знам" е много важна, защото показва осъзнаване на границите на собствените ни знания", казва Валерио Капраро.

По думите му най-голямото безпокойство е свързано с децата, които израстват с подобни технологии, преди да са изградили критично мислене.

Изследователите посочват, че тенденцията се засилва и от начина, по който големите технологични компании развиват продуктите си. Например Google все по-често заменя традиционните резултати от търсене с автоматично генерирани от AI обобщения. Организацията Common Sense Media вече предупреди, че този подход крие "неприемлив риск" за учениците, тъй като създава впечатление за категорични и безпогрешни отговори, независимо от тяхната достоверност.

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.