Прекратите отправлять JSON в вашу программу LLM. Вместо этого сделайте следующее.
Автор: Kristian
Загружено: 2026-01-29
Просмотров: 326
Описание:
Результаты работы инструментов — одна из самых больших скрытых статей расходов в приложениях ИИ. В этом видео я покажу, почему JSON тратит токены впустую, как на самом деле работает контекст LLM и как сократить размер результатов работы инструментов до 80 процентов, используя AI SDK v6 и улучшенные форматы вывода.
Временные метки
0:00 Почему результаты работы инструментов так дороги
0:41 Как LLM без состояния увеличивают использование токенов
1:19 Проблема с возвратом JSON из инструментов
1:52 Возврат только того, что действительно нужно модели
2:06 Использование выходных данных модели AI SDK v6
2:48 Удобные для токенов форматы с Tune
3:34 Возврат изображений непосредственно из инструментов
4:38 Заключительные мысли
Повторяем попытку...
Доступные форматы для скачивания:
Скачать видео
-
Информация по загрузке:
