Изкуственият интелект обещава да ни спестява време, усилия и пари. Но три новини от последните дни очертават и другата страна на технологичния бум: компаниите се нуждаят от нови механизми, за да контролират AI системите, хората рискуват да станат зависими от тяхната помощ, а изграждането на инфраструктура за изкуствен интелект започва да се отразява на цените на обикновената потребителска техника.

На 10 октомври главният изпълнителен директор на Microsoft Сатя Надела призова бизнесът да приема всеки усъвършенстван AI модел като потенциално компрометиран. Ден по-рано Калифорнийският университет в Бъркли представи изследване, според което дори десет минути работа с ChatGPT могат да понижат способността на потребителите да се справят самостоятелно със сложни задачи непосредствено след отнемането на помощта. Междувременно се появи информация, че Apple намалява поръчките за компоненти за новите си iPhone 18 Pro на фона на по-високите цени и поскъпването на чиповете памет, свързано отчасти с огромното търсене от AI индустрията.

Дори Microsoft вече настоява AI да не се приема на доверие

Ръководителят на Microsoft Сатя Надела предлага принцип, познат от киберсигурността: вместо да се предполага, че една система е надеждна, тя трябва да бъде проектирана така, че да може да бъде наблюдавана, ограничавана и спирана.

Както съобщава The Verge, според Надела компаниите не бива да разчитат единствено на уверенията на разработчиците, че техните AI модели ще изпълняват инструкциите правилно.

Той настоява за независими механизми за сигурност, проверими записи на действията на AI системите и възможност оторизиран човек да прекъсне работата им във всеки момент.

Предложението включва своеобразна аварийна спирачка, която да позволява спирането на автономен AI агент дори докато изпълнява задача.

Позицията идва след поредица от инциденти и тестове, при които AI агенти са извършвали действия извън зададените им ограничения.

Това не означава, че всички AI модели действително са компрометирани. Надела предлага да се изхожда от подобно допускане при изграждането на защитните механизми.

Разликата е съществена. Вместо сигурността да зависи предимно от това дали моделът е обучен да се държи правилно, тя трябва да бъде осигурена и чрез външни системи, които контролират какво може да прави той.

Така един от най-големите поддръжници на изкуствения интелект поставя въпроса не само как да го направим по-способен, но и как да гарантираме, че можем да го спрем.

Десет минути с ChatGPT, а после задачите стават по-трудни

Докато Microsoft се занимава с контрола върху самите AI системи, изследователи от Калифорнийския университет в Бъркли и няколко други университета поставят друг въпрос: какво се случва с човешките способности, когато свикнем да разчитаме на подобни инструменти?

В три рандомизирани експеримента с общо 1222 участници учените изследват как използването на ChatGPT влияе върху способността за решаване на задачи, когато помощта впоследствие бъде отнета.

В първия експеримент 354 души решават задачи с дроби. Едната група работи самостоятелно, а другата може да използва ChatGPT.

Първоначално участниците с достъп до AI постигат по-висока точност. След дванадесетата задача обаче помощта е премахната. Тогава представянето им рязко се влошава.

Подобен резултат се наблюдава и във втория експеримент с 667 души. Участниците, които са разчитали на AI, по-често грешат или се отказват, след като останат без него.

Третият експеримент, с още 201 участници, използва задачи за разбиране на прочетен текст и потвърждава същата тенденция.

Изследването, представено на Conference on Language Modeling, показва, че краткотрайната употреба на AI може да има непосредствен отрицателен ефект върху самостоятелното представяне и постоянството при трудни задачи.

Важно е обаче разграничението: резултатите не доказват трайно увреждане на когнитивните способности. Те показват спад в представянето, когато вече използвана помощ внезапно стане недостъпна.

Това е особено съществено за образованието и професионалното обучение. AI може да повишава производителността в момента на използването му, без непременно да развива уменията, които позволяват на човека да постигне същия резултат самостоятелно.

Един от авторите на изследването, Брайън Крисчън, смята, че AI системите трябва да се развиват така, че да укрепват човешките способности, вместо да ги заместват. Сред възможните подходи е те да действат повече като преподаватели, а не просто като машини за готови отговори.

AI бумът вече се усеща и в цената на iPhone

Третата новина показва, че зависимостта от изкуствения интелект има и чисто материално измерение.

Според информация на Nikkei Asia от 9 октомври Apple е поискала от част от доставчиците си да намалят с поне 15% поръчките за компоненти за iPhone 18 Pro и iPhone 18 Pro Max през октомври спрямо първоначално планираните количества.

Двата модела излязоха на пазара с начални цени съответно 1199 и 1299 долара - със 100 долара повече от предшествениците им.

Един от факторите, които увеличават производствените разходи, е поскъпването на чиповете памет.

Причината не е само в пазара на смартфони. Компаниите, изграждащи центрове за данни за изкуствен интелект, поглъщат огромни количества чипове и производствен капацитет. Това засилва конкуренцията за доставки и оказва натиск върху цените на компонентите, необходими и за компютри, телефони и друга електроника.

Така инвестициите в AI инфраструктура започват да влияят върху потребители, които може дори да не използват активно подобни услуги.

Reuters съобщава, че не е успяла независимо да потвърди информацията за намалените поръчки, а Apple не е предоставила незабавен коментар. Освен това по-слабото търсене на новите модели може да е свързано и с променения график за пускане на различните версии на iPhone.

Засега не може да се твърди, че AI бумът сам по себе си е причинил предполагаемото свиване на поръчките. Връзката между растящото търсене на памет от центровете за данни и натиска върху производствените разходи обаче вече се отчита от технологичната индустрия.