RAG умер, верно?? — Куба Рогут, Turbopuffer

Описание: Cursor добавил семантический поиск и зафиксировал увеличение точности ответов на 24% в своей модели компоновщика, повышение удержания кода на 2,6% в больших кодовых базах и снижение количества недовольных запросов пользователей на 2,2%. Эти цифры кажутся небольшими, пока не учтешь, что семантический поиск срабатывает не на каждом запросе. Тем временем объем поисковых запросов RAG в Google достиг новой точки перегиба в середине 2025 года и взлетел до небес. Дискуссии в Твиттере о том, что «RAG мертв», и фактическая кривая использования движутся в противоположных направлениях.

Аргумент Кубы Рогута заключается в том, что проблема заключалась не в поиске, а в его узком определении. RAG — это не просто вызов векторного поиска. Это векторный поиск, полнотекстовый поиск, глоб-поиск, регулярные выражения и фильтры, используемые итеративно агентом, который продолжает поиск до тех пор, пока не получит то, что ему нужно. Он противопоставляет Claude Code (grep за сессию, без индекса, стоимость повтора при каждом запуске) Cursor (однократное предварительное индексирование, легковесные вызовы инструментов во время выполнения). Подход Клода Кода не является ошибочным, это преднамеренный компромисс. Его поясняет следующее: эмбеддинги — это кэшированные вычисления, и решение о кэшировании зависит от объема запросов. Версия Джеффа Дина: вам не нужен триллион токенов одновременно, вам нужен нужный миллион.


Информация о докладчике:
  / kubarogut  
https://x.com/rogutkuba

Временные метки:
0:00 Введение в дискуссию о том, что «RAG мертв»
1:12 Тенденции объема поисковых запросов Google по RAG
1:39 Определение RAG и агентного поиска
3:15 Индексирование и семантический поиск с помощью Cursor
6:10 Сравнение Claude Code (grep) и Cursor (индексированный)
6:40 Концепция эмбеддингов как кэшированных вычислительных ресурсов
8:38 Переход от простого RAG к агентному поиску
9:44 Джефф Дин о контекстных окнах и поэтапном поиске