10. Google ADK: как уменьшить задержку, выполняя вызовы инструментов параллельно?

Описание: В этом видео мы рассмотрим распространённое узкое место производительности при использовании инструментов с LLM-агентом: последовательные вызовы инструментов. Хотя простой вызов инструмента работает нормально, запрос агента на обработку нескольких фрагментов информации (например, погоды в пяти разных городах) может привести к замедлению выполнения, поскольку вызовы инструментов происходят один за другим. Мы покажем, как преобразовать ваш существующий синхронный инструмент в асинхронный, используя async/await Python и библиотеку aiohttp. Внеся эти изменения, мы позволяем LLM-агенту выполнять все необходимые вызовы инструментов параллельно, что значительно сокращает общее время выполнения и повышает общую эффективность вашего агента!

Главы:
***************************************************************
[00:00:00] Введение в проблему: Последовательные вызовы инструментов
[00:00:30] Настройка демонстрации последовательного выполнения
[00:00:51] Отправка запроса погоды в нескольких городах
[00:01:26] Анализ трассировки: Наблюдение за последовательным выполнением
[00:02:20] Необходимость параллельных вызовов инструментов
[00:02:43] Запуск реализации параллельного инструмента
[00:03:08] Ключевое изменение: Асинхронизация инструмента (async def)
[00:03:41] Установка и использование библиотеки aiohttp
[00:04:14] Изменение HTTP-вызова на асинхронный
[00:05:04] Настройка и запуск параллельного кода
[00:05:20] Отправка одного и того же запроса на несколько городов
[00:05:28] Анализ трассировки: наблюдение за параллельным выполнением
[00:05:44] Сравнение производительности последовательного и параллельного выполнения

См. код здесь:
*******************************************************
https://github.com/PraveenKS30/google...

Если хотите узнать больше, посмотрите эти плейлисты:
*******************************************************
Серия видео Google ADK:    • Getting started with Google's ADK !  

Серия видео OpenAI Agent SDK:    • Getting started with OpenAI Agents SDK !  

Весна Учебные пособия по ИИ: Генеративный ИИ для разработчиков Java:    • Spring AI  Tutorials : Generative AI for J...  

Генеративный ИИ с использованием моделей с открытым исходным кодом:    • Gen AI using Open Source Models !  

Генеративный ИИ с использованием собственных API:    • Generative AI using OpenAI API !  

Начало работы со службами Azure AI:    • Getting Started with Azure AI Foundary !