Что сложного в разработке приложений на базе LLM?

Описание: Театр ИИ, науки о данных и MLOps
Четверг, 25 сентября
16:00–16:30
В этом докладе вы узнаете о некоторых распространённых проблемах, с которыми вы можете столкнуться при разработке содержательных приложений с использованием больших языковых моделей.
Использование недетерминированных систем в качестве основы для важных приложений, безусловно, является «интересным» новым горизонтом в разработке программного обеспечения, но надежда не потеряна. В этом докладе мы рассмотрим некоторые известные (и менее известные) проблемы при разработке приложений на основе API, предоставляемых поставщиками программ LLM, и на «открытых» программах LLM, таких как Mistral, Llama или DeepSeek.

Иан Массингем
Специалист по работе с разработчиками, Griptape.ai
Иан Массингем — старший технолог с обширным опытом в области инфраструктуры данных и облачных вычислений.

В настоящее время он работает в Griptape, стартапе, находящемся на ранней стадии развития и сосредоточенном на разработке приложений агентного ИИ и LLM. До этого Ян занимал должность директора по маркетингу в финском стартапе Aiven, занимающемся разработкой инфраструктуры данных с открытым исходным кодом, а до этого — вице-президента по связям с разработчиками в MongoDB.

До 2021 года Ян проработал в AWS 8 лет, присоединившись к компании в декабре 2013 года, где занимал различные должности в отделе по связям с разработчиками и, в конечном итоге, руководил отделом архитектуры глобальных решений для клиентов стартапов.
Мы также (конечно же) подробно рассмотрим некоторые подходы, которые можно использовать для решения этих проблем, и смягчим некоторые присущие LLM особенности поведения, что позволит вам создавать более надёжные и устойчивые системы на основе LLM, раскрывая потенциал этой новой парадигмы разработки.