Встреча ClickHouse в Бангкоке - Агентные системы искусственного интеллекта: оптимизация производи...

Описание: Этот доклад был прочитан в прямом эфире на встрече ClickHouse Bangkok Meetup 19 марта в Common Ground, Бангкок, Сиддхантом Агарвалом, старшим специалистом по связям с разработчиками в Азиатско-Тихоокеанском регионе @ ClickHouse.

Полная программа доступна по ссылке: https://www.meetup.com/clickhouse-tha...

Название доклада: Агентные системы ИИ: проектирование производительности для разговорных рабочих нагрузок

Описание доклада: Генеративный ИИ привлек внимание, но агентный ИИ меняет то, как мы работаем на практике. Вместо ожидания подсказок агенты исследуют данные, выполняют итеративные запросы и рассуждают шаг за шагом. Этот сдвиг создает реальные инфраструктурные проблемы, включая непредсказуемые шаблоны запросов, требования к времени ответа менее секунды, смешанные рабочие нагрузки чтения и записи, а также необходимость прозрачности и доверия к результатам, полученным с помощью ИИ.

В этом докладе Сид поделился практическими уроками, полученными при работе с агентными рабочими нагрузками, и тем, что это означает для современных платформ данных. Мы также расскажем о наших планах развития ИИ, в том числе о том, как недавние приобретения, такие как LibreChat и Langfuse, укрепляют интерфейсы агентов, улучшают наблюдаемость и оценку, а также о том, как мы создаем системы ИИ, которые не просто отвечают на вопросы, но и активно помогают вам находить более качественные ответы.