Runpod + Ollama: Self hosted LLMs

Автор: Bphil

Загружено: 2024-07-29

Просмотров: 1087

Описание: Today we're going to check out how you can self host the slightly larger models, 70b - 123b. If you're looking to get started with something very simple, check this video out.

Не удается загрузить Youtube-плеер. Проверьте блокировку Youtube в вашей сети.
Повторяем попытку...

Runpod + Ollama: Self hosted LLMs

Доступные форматы для скачивания:

Скачать видео

Информация по загрузке:

Скачать аудио

Похожие видео

КАК СОЗДАТЬ ИИ ассистента ЗА 20 МИНУТ без кода С НУЛЯ и заработать на этом

КАК СОЗДАТЬ ИИ ассистента ЗА 20 МИНУТ без кода С НУЛЯ и заработать на этом

Claude AI is Now My Personal Assistant (Google Calendar MCP SETUP)

Claude AI is Now My Personal Assistant (Google Calendar MCP SETUP)

How to Self-Host DeepSeek on RunPod in 10 Minutes

How to Self-Host DeepSeek on RunPod in 10 Minutes

LightRAG - Function Calling

LightRAG - Function Calling

Mage - Build Youtube Data Pipeline

Mage - Build Youtube Data Pipeline

Deploying open source LLM models 🚀 (serverless)

Deploying open source LLM models 🚀 (serverless)

Как MCP улучшает Cursor AI в 10x раз? И что вообще это такое?

Как MCP улучшает Cursor AI в 10x раз? И что вообще это такое?

Open Source LLMS - JSON Evals

Open Source LLMS - JSON Evals

Create fine-tuned models with NO-CODE for Ollama & LMStudio!

Create fine-tuned models with NO-CODE for Ollama & LMStudio!

Ollama + Langfuse - Track your local experiments

Ollama + Langfuse - Track your local experiments