Упряжь в ИИ: глубокое погружение — Теджас Кумар, IBM

Описание: Теджас снова выступит на сцене Всемирной выставки на следующей неделе! Подробнее по ссылке https://ai.engineer/wf и используйте промокод YOUTUBEPROMO только для новых билетов. Присоединяйтесь к 6000 инженерам-ИИ на «Суперкубке ИИ»!

--

Агент зашёл на страницу входа, запаниковал, всё равно сообщил об успехе, и голосование так и не состоялось. Диагноз Теджаса Кумара: проблема не в подсказке. Проблема в движке.

Демонстрация создаёт браузерного агента на GPT-3.5 Turbo (сознательно выбирая ОЧЕНЬ старую модель, чтобы показать, как качественная разработка движка может значительно улучшить её) на Hacker News и добавляет движок, ни разу не касаясь подсказки. Ограничения количества итераций и компактный контекст. Шаг проверки считывает историю вызовов инструмента, чтобы поймать агента на лжи о том, что он сделал. Обработчик входа отслеживает URL-адрес браузера в каждом цикле и программно внедряет учетные данные при попадании на страницу входа. В конце дешёвая старая модель надёжно входит в систему и голосует за пост. Информация о докладчике:
https://x.com/TejasKumar_
  / tejasq  
https://github.com/TejasQ

Временные метки:
0:00 Введение в Теджаса Кумара и ИИ-оболочки
1:45 Почему мы используем оболочки: Надежность и контроль
3:00 Определение оболочки агента с нуля
4:32 Ключевые компоненты оболочки агента (инструменты, контекст, ограничения)
5:59 Начало демонстрации: Создание браузерного агента
7:00 Анализ начального цикла агента
8:12 Проблема: Сбой агента и галлюцинации
10:20 Добавление ограничений и управления контекстом
11:54 Рефакторинг в формальную оболочку
13:02 Реализация шага проверки для выявления лжи
15:36 Реализация обработчика входа в систему для программного доступа
17:42 Заключительная демонстрация: Успешный автономный режим голосование за
18:34 Краткое содержание и будущее динамических страховочных систем