След като стремително нарастващото потребление на електроенергия от системите с изкуствен интелект вече предизвиква тревога сред правителства, енергийни компании и технологичния сектор, ново изследване показва, че следващата стъпка в развитието на технологията може значително да задълбочи проблема.

Учени от Корейския институт за напреднали науки и технологии (KAIST) са публикували анализ, който определят като първото цялостно изследване на енергийните разходи на т.нар. AI агенти – системи с изкуствен интелект, способни самостоятелно да планират, разсъждават и изпълняват задачи.

Според резултатите една заявка към подобен AI агент може да изисква до 136,5 пъти повече електроенергия в сравнение с обикновен генеративен AI модел.

Защо AI агентите харчат толкова повече енергия?

За разлика от познатите чатботове, които генерират един отговор на зададен въпрос, AI агентите извършват поредица от операции. Те многократно извикват големи езикови модели, търсят информация в интернет, изпълняват програмен код, използват калкулатори и взаимодействат с външни приложения, за да решат поставена задача.

Именно тази автономност ги прави значително по-полезни за научна работа, програмиране и автоматизация на бизнес процеси, но същевременно увеличава многократно необходимите изчислителни ресурси.

Екипът, ръководен от проф. Минсу Ру от Факултета по електротехника на KAIST, е анализирал AI агентите като нов тип натоварване за центровете за данни.

До 136,5 пъти по-висок разход на ток

Изследването показва, че AI агентите могат да увеличат времето за изпълнение на една задача до 153,7 пъти спрямо стандартните модели за разсъждение.

Освен това графичните процесори (GPU), които извършват изчисленията, остават неизползвани до 54,5% от времето, докато чакат външни инструменти да приключат работата си. През това време обаче хардуерът продължава да консумира електроенергия.

При езиков модел със 70 милиарда параметъра – размер, сравним със съвременните комерсиални AI системи – средното потребление достига 348,41 ватчаса за една заявка. Това е около 136,5 пъти повече от енергията, необходима на стандартен чатбот за отговор на обикновен въпрос.

Какво би означавало това в глобален мащаб

Авторите са моделирали и сценарий, при който AI агентите обработват около 13,7 милиарда заявки дневно - приблизително колкото са ежедневните търсения в Google.

При подобно натоварване необходимата електрическа мощност би достигнала близо 198,9 гигавата. Според изследователите това е почти половината от средното потребление на електроенергия в Съединените щати и значително над възможностите на сегашната инфраструктура, обслужваща системите с изкуствен интелект.

Не само по-умен, но и по-ефективен AI

Изследването идва в момент, когато компании като OpenAI, Google, Microsoft и Anthropic влагат значителни ресурси в разработването на AI агенти, разглеждайки ги като следващата голяма стъпка след разговорните чатботове.

Според проф. Ру бъдещата конкурентоспособност вече няма да зависи единствено от създаването на по-интелигентни модели, а и от разработването на по-ефективни системи. Това включва по-икономични чипове, по-добро използване на графичните процесори, оптимизирани центрове за данни и развитие на електроенергийната инфраструктура.

Научната статия, озаглавена The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective („Цената на динамичното разсъждение: Разбулване на AI агентите и мащабирането по време на изпълнение от гледна точка на инфраструктурата за изкуствен интелект“), беше представена по-рано тази година на конференцията IEEE International Symposium on High-Performance Computer Architecture (HPCA). Изследователите вече са публикували свободно използвани тестове за AI агенти с надеждата те да помогнат за разработването на по-енергийно ефективни системи с изкуствен интелект.

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.