Интуитивное понимание Mamba и моделей пространства состояний | Улучшаем LLM!

Описание: Mamba — это захватывающая архитектура LLM, которая в сочетании с Transformers может открыть новые возможности, ранее невиданные. В этом видео вы в доступной форме познакомитесь с основными принципами работы этих технологий.


Хронология
0:00 Введение
0:36 Обзор
1:33 Недостатки трансформеров
2:47 Состояния, пространства состояний и представления состояний
4:27 Модели пространства состояний
7:43 Поток данных в SSM
9:35 Преобразование непрерывного сигнала в дискретный
11:11 Рекуррентное представление
12:51 Сверточное представление
13:48 Три представления
15:04 Важность матрицы A
16:29 Mamba
23:40 Заключение

Подпишитесь на мою рассылку, чтобы получать больше наглядных руководств:
✉️ Рассылка https://newsletter.maartengrootendors...

Я написал книгу!

📚 Практическое руководство по большим языковым моделям https://llm-book.com/

#datascience #machinelearning #ai #llm