Разработчики агентов искусственного интеллекта начали переводить клиентов с фиксированных тарифов на оплату по объёму потребляемых токенов, в результате чего цены на эти продукты резко выросли. Вскоре ИИ-помощники могут оказаться дороже состоящих в штате компаний программистов, пишет The Register со ссылкой на исследование Gartner.
Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены
Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»
Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем
72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию
Ryzen и DDR5-6000 на чипах Samsung — G.Skill даёт добро
Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей
Компании, которые занимаются разработкой ПО, столкнулись с резким ростом затрат, указывают аналитики Gartner: если раньше помогающие программистам ИИ-агенты обходились от $20 до $100 в месяц на рабочее место, то теперь цены выросли до $2000–5000, а в некоторых случаях и до $20 000 — тоже в месяц за рабочее место. При этом разработчики ПО не получают достаточно информации о том, как рассчитываются и выставляются счета за потребление токенов, что затрудняет программирование и контроль затрат.
Создатели ИИ-сервисов не предоставляют встроенных функций, позволяющих разработчикам оптимизировать затраты на ИИ-агентов — в результате расходы увеличиваются бесконтрольно. Более того, указывают аналитики, создатели систем ИИ переходят к концепции «максимизации токенов», исходя из тезиса, что это даст более качественный результат в работе, хотя прямой связи между объёмом потребления вычислительных ресурсов и повышением качества работы установить не удалось.
Для решения проблемы аналитики Gartner рекомендуют оптимизировать потребление токенов: повышать качество входного контекста, который подаётся на модели ИИ, а также применять маршрутизацию моделей, отправляя повседневные задачи более простым и используя передовые только для самых сложных задач. Другими словами, если между объёмом потребления вычислительных ресурсов и качеством результата работы прямой связи нет, то между оптимизацией потребления и качеством результатов она есть.
В отсутствие штатных средств оптимизации некоторые компании стали тратить больше средств на ИИ, чем зарабатывать, и если так пойдёт дальше, то уже к 2028 году затраты на используемых в написании кода ИИ-агентов превысят уровень зарплаты программистов. Учитывая, что стоимость работы ИИ-агентов одинакова во всех регионах, за те же деньги в Индии можно будет нанять инженера с опытом работы от четырёх до шести лет, делают неутешительный вывод аналитики Gartner.
Добавить комментарий