По данным UBS от 15 июня, внедрение корпоративного ИИ сталкивается с ростом затрат на токены и вычисления, однако увеличение объясняется в первую очередь ростом использования, а не инфляцией удельных цен. Банк опросил примерно 13 руководителей ИТ в компаниях и выяснил, что около 60% организаций рассматривают расходы на токены и вычисления для ИИ как существенную проблему, особенно после перехода от простых чат-ботов к автономным агентам.
Большинство компаний уже внедрили или планируют внедрить ограждения (guardrails), включая пулы токенов, понижение класса моделей, уведомления о перерасходе и ограничения для пользователей, чтобы устранять неэффективность без сокращения внедрения. Руководители подчеркнули, что они хотят ускорить использование ИИ сотрудниками, оптимизируя при этом расходы за счет мер вроде сокращения внешних ИТ-услуг и консолидации затрат на облако.