Как кэш ключ-значение влияет на производительность ИИ: Solidigm объясняет скрытый путь каждого за...

Описание: Узнайте больше о Solidigm на AI Field Day: https://techfieldday.com/event/aifd8/
Что на самом деле происходит после того, как вы нажимаете Enter в подсказке ИИ? На AI Field Day 8 Стивен Фоскетт беседует со Скоттом Шэдли из Solidigm, чтобы разобрать путь данных ИИ от подсказки пользователя до аппаратной инфраструктуры. Узнайте, как токены перемещаются по памяти, хранилищу и кэшу ключ-значение, почему графические процессоры тратят так много времени на ожидание и как современные SSD-накопители помогают снизить затраты, одновременно повышая производительность ИИ. В ходе обсуждения рассматриваются инфраструктура ИИ, оптимизация памяти, хранилище как уровень памяти, использование графических процессоров и реальное влияние архитектурных решений на большие языковые модели, агентов ИИ и корпоративные развертывания ИИ.


Представитель Solidigm: Скотт Шэдли, директор по развитию лидерских качеств и евангелист
LinkedIn:   / scottshadley  

Узнайте больше на www.Solidigm.com/

Ведущий:
Стивен Фоскетт, президент и организатор Tech Field Day
Tech Field Day: https://techfieldday.com/people/steph...
LinkedIn:   / sfoskett  

Следите за Tech Field Day:
Веб-сайт: https://techfieldday.com/
LinkedIn:   / tech-field-day  
X/Twitter: https://x.com/TechFieldDay
Bluesky: https://bsky.app/profile/techfieldday...

Подкаст:
Веб-сайт: https://www.techfieldday.com/podcast
X/Twitter:   / techfielddaypod  
Bluesky: https://bsky.app/profile/techfieldday...

#TechTalks #AIFD8 #ИскусственныйИнтеллект #ИнфраструктураИИ #LLM #ГенеративныйИИ #ЦентрОбработкиДанные #Хранение #NVMe #МашинноеОбучение