Программы LLM, такие как ChatGPT, наглядное объяснение — как они на самом деле работают?

Описание: #llm #chatgpt
Большая языковая модель (LLM) — это продвинутая система искусственного интеллекта, обученная на больших объёмах текстовых данных для понимания и генерации речи, подобной человеческой.

В этом видео вы получите базовое представление о работе больших языковых моделей, таких как ChatGPT, от обучения на огромных наборах данных до генерации ответов в режиме реального времени.

Главы:

0:00 — Введение
1:02 — Общая тематика ИИ
2:12 — Архитектура Transformer и GPT
3:09 — Как LLM генерирует следующий токен
5:28 — Обучающие данные для большой языковой модели
7:45 ​​— LLM как авторегрессионная модель
10:15 — Третий этап обучения LLM
11:02 — Архитектура декодера

Подробное изучение большой языковой модели:
   • Deep Dive into LLMs like ChatGPT  

Всё, что вам нужно — это внимание: https://arxiv.org/abs/1706.03762
GPT2: https://cdn.openai.com/better-languag...

аудио: http://elevenlabs.io/