Локальная LLM для поиска в сети и в документах. LM Studio

Описание: LM Studio позволяет не только запустить модель локально для отработки промпта и локальной разработки программ, использующих LLM. С развитой системой плагинов в студии можно расширить функциональность модели с помощью плагинов, дающих возможность ей делать запросы к поисковым движкам, к сайтам и подключить простую RAG систему

Полноценной заменой того же Perplexity такая связка, конечно же, не будет. Но отработать какие-то интеграции или tools при выборе модели, подходящей к вашим задачам, данный инструмент определенно может помочь.

LM Studio документация по плагинам:
https://lmstudio.ai/docs/typescript/p...

LM Studio hub. Страница lmstudio:
https://lmstudio.ai/lmstudio

Плагины в lm studio hub:
duck-duck-go: https://lmstudio.ai/vadimfedenko/duck...
visit-website: https://lmstudio.ai/vadimfedenko/visi...
big-rag: https://lmstudio.ai/mindstudio/big-rag

Поисковик DuckDuckGo:
https://duckduckgo.com/

Отчёт об уязвимостях плагинов:
https://docs.google.com/document/d/1A...

Предыдущее видео о LM Studio:
   • Запуск LLM локально для разработки. LM Studio  


Поддержать проект
➡ На кофеёк автору https://pay.cloudtips.ru/p/ddefc8df
➡ Sponsr https://sponsr.ru/letscode/

➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖

➡ Второй канал:    / geekchatdru  
➡ Канал в Telegram: https://t.me/letsCode_dru
➡ Чат в Telegram: https://t.me/joinchat/FeiP9xEhqHajfqh...