LangChain Chat with Flan20B

Автор: Sam Witteveen

Загружено: 2023-03-07

Просмотров: 15386

Описание: Colab: https://rli.to/Q44Lm

The Flan20B-UL2 model turns out to be surprisingly better at conversation than expected when you take into account it wasn’t trained as a purely Chatbot system. In this video I go through how to set up the Flan20B using HuggingFace Hub and then create a simple conversational chain with memory and how to track the tokens being used.

My Links:
Twitter - / sam_witteveen
Linkedin - / samwitteveen

Github:
https://github.com/samwit/langchain-t...
https://github.com/samwit/llm-tutorials

00:00 Intro
00:44 Setting up the Flan20b using HuggingFace Hub
01:13 Start chatting
02:40 Counting Tokens
03:08 Understanding the Tokenizer
04:24 Accessing the memory
05:40 Putting it together in a function
07:00 Fixing the bug
07:27 Chatting to the models
10:00 Summary Memory

#LangChain #BuildingAppswithLLMs

Не удается загрузить Youtube-плеер. Проверьте блокировку Youtube в вашей сети.
Повторяем попытку...

LangChain Chat with Flan20B

Доступные форматы для скачивания:

Скачать видео

Информация по загрузке:

Скачать аудио

Похожие видео

LangChain - Using Hugging Face Models locally (code walkthrough)

LangChain - Using Hugging Face Models locally (code walkthrough)

Improve your BabyAGI with LangChain

Improve your BabyAGI with LangChain

Comparing LLMs with LangChain

Comparing LLMs with LangChain

I Reverse Engineered Affinity to Fix Text Rendering

I Reverse Engineered Affinity to Fix Text Rendering

Почему работает теория шести рукопожатий? [Veritasium]

Почему работает теория шести рукопожатий? [Veritasium]

LLM fine-tuning или ОБУЧЕНИЕ малой модели? Мы проверили!

LLM fine-tuning или ОБУЧЕНИЕ малой модели? Мы проверили!

Когда газовая промышленность потерпела крах, мы выживали на солевых газах.

Когда газовая промышленность потерпела крах, мы выживали на солевых газах.

Microsoft's Visual ChatGPT using LangChain

Microsoft's Visual ChatGPT using LangChain

Доработайте свою степень магистра права за 13 минут. Вот как

Доработайте свою степень магистра права за 13 минут. Вот как

Chat with OpenAI in LangChain - #5

Chat with OpenAI in LangChain - #5

Нейронка, которая УНИЧТОЖИЛА ChatGPT 5! / Обзор бесплатной нейросети и ее возможности

Нейронка, которая УНИЧТОЖИЛА ChatGPT 5! / Обзор бесплатной нейросети и ее возможности

Квантовый ИИ закончил перевод запретной шумерской таблички — предупреждение пугает

Квантовый ИИ закончил перевод запретной шумерской таблички — предупреждение пугает

Information Extraction with LangChain & Kor

Information Extraction with LangChain & Kor

YouTube Chatbot Using LangChain: Chat with Any YouTube Video!

YouTube Chatbot Using LangChain: Chat with Any YouTube Video!

Qwen3 Multimodal Embeddings: Finally, RAG That Sees

Qwen3 Multimodal Embeddings: Finally, RAG That Sees

What can you do with 16K tokens in LangChain? | OpenAI | LangChain Tutorial Series

What can you do with 16K tokens in LangChain? | OpenAI | LangChain Tutorial Series

RAG + Langchain Python Project: Easy AI/Chat For Your Docs

RAG + Langchain Python Project: Easy AI/Chat For Your Docs

I Played with Clawdbot all Weekend - it's insane.

I Played with Clawdbot all Weekend - it's insane.

Using LangChain Output Parsers to get what you want out of LLMs

Using LangChain Output Parsers to get what you want out of LLMs

Build a Private Chatbot with Local LLM (Falcon 7B) and LangChain

Build a Private Chatbot with Local LLM (Falcon 7B) and LangChain