Насколько выгоден инференс LLM? Считаем экономику Kimi k3

Описание: 00:00 Основы вывода ИИ
00:22 Модель Kimi K3 и требования к GPU
01:16 Объяснение ценообразования токенов
01:56 Входные токены, выходные токены и кэш ключ-значение
03:14 Стоимость GPU и точка безубыточности
04:26 Пропускная способность: токены в час работы GPU
05:01 Размер пакета, задержка и пропускная способность
06:43 Масштабирование GPU: скорость против стоимости
08:02 Почему более быстрый вывод обходится дороже
08:31 Формула от задержки к стоимости
09:34 Анализ прибыльности Kimi K3
10:46 Расчет стоимости за миллион токенов
11:28 Скрытые затраты и использование GPU
12:58 Оптимизация вывода и устойчивость
13:56 Заключительные выводы