Ускоряем локальную LLM. Ollama vs llama.cpp

Описание: Чат про LLM тут, можете задавать свои вопросы - https://t.me/homelabru/1067

https://t.me/johenews - мой основной канал в телеграме
https://t.me/ergosplits - мой канал с клавиатурами
https://t.me/ergokeyboards - мой чат с клавиатурами
https://t.me/aliexpressgeeks - мой канал с покупками

johe.ru - тут можете купить токены в моей локальной LLM
https://ergosplits.ru - А тут можете купить клавиатуру

Моя рефералка для DigitalOcean (Вы получите $100, я получу $20) - https://m.do.co/c/41bb5762da9a