Понимание рассуждений LLM (o1/o3, DeepSeek-R1, Gemini Thinking, Grok 3, Claude 3.7)

Описание: Модели рассуждений LLM стали одной из самых обсуждаемых тем в GenAI. Модель o1 от OpenAI, запущенная в конце 2024 года, породила заявления о фундаментальном сдвиге в рассуждениях ИИ. Но вскоре последовали Gemini Thinking от Google, R1 от DeepSeek, Grok 3 от xAI, а теперь и Claude 3.7 от Anthropic.

Итак, o1 был настоящим прорывом или просто очередным шагом вперёд? В этом видео я разбираю модели рассуждений — что они собой представляют, как они обучаются и, что особенно важно, чем они принципиально не отличаются от универсальных LLM. Несмотря на улучшенную производительность при решении структурированных многошаговых задач, эти модели по-прежнему являются предикторами следующего токена, следуя тем же принципам, основанным на трансформаторах, что и другие LLM. Их преимущество заключается в специфических методах обучения, а не в прорыве в обработке информации.

Скачать холст/ментальную карту:
https://llm-chronicles.com/pdfs/llm-c...

⏱ Временные метки:
00:00 — Введение
02:42 — Что такое модели рассуждения?
03:56 - Четыре подхода к построению LLM-программ с «рассуждением»
04:31 - Масштабирование времени вывода
06:46 - Стандартный конвейер обучения LLM
08:26 - Чистое обучение с подкреплением (DeepSeek R1-Zero)
12:21 - Контролируемая тонкая настройка + обучение с подкреплением (DeepSeek R1)
17:20 - Краткое изложение подхода STF+RF (DeepSeek R1)
18:18 - Выжимка
21:55 - Ограничения и сложности LLM-программ с рассуждением

Сайт серии: https://llm-chronicles.com

Ссылки и источники:

Статья Себастьяна Рашки «Понимание рассуждений LLM»
https://sebastianraschka.com/blog/202...

DeepSeek R1 Обзор:
https://aipapersacademy.com/deepseek-r1/

Джереми Ховард о методе интерполяции LLM:
https://x.com/jeremyphoward/status/18...

Ограничения и сложности LLM:
   • LLM Chronicles #5.6: Limitations & Challen...  

Если это видео оказалось вам полезным, поставьте лайк, подпишитесь и оставьте комментарий. Это поможет продвинуть технические дискуссии об ИИ в сфере, где часто царит ажиотаж.