Разработка эффективных агентов с использованием семантической маршрутизации и комбинации инструме... скачать в хорошем качестве

Разработка эффективных агентов с использованием семантической маршрутизации и комбинации инструме...

Название: Создание эффективных агентов с использованием семантической маршрутизации и комбинации инструментов Докладчик(и): Винсент Кальдейра --- Давайте будем честны: агентный ИИ прекрасно работает в 30-секундных демонстрациях, но часто разваливается в момент запуска в производство. Мы все это видели: агенты, которые путаются в собственных контекстных окнах, используют «кувалду» (модели рассуждений), чтобы расколоть орех (простые запросы), или галлюцинируют параметры инструментов, потому что их перегружают JSON-схемы. Проблема обычно не в интеллекте модели, а в архитектуре агентной системы. В этом докладе мы выйдем за рамки базовых агентных шаблонов и рассмотрим системную архитектуру, необходимую для надежных корпоративных агентов. Опираясь на последние передовые исследования, мы разберем, почему единая «модель Бога» терпит неудачу и как подход с использованием комбинации агентов (MoA) оказывается успешным. Мы рассмотрим: Проблема «Когда рассуждать»: Как использовать семантическую маршрутизацию для классификации намерений пользователя, динамически направляя запросы к наиболее экономичной модели (например, маршрутизация логических головоломок к моделям рассуждений, а не фактических запросов к стандартным LLM) для сокращения задержки и затрат на токены. Проблема «Ящика для хлама»: Почему размещение более 90 инструментов в контекстном окне ухудшает производительность агента. Это включает в себя использование стратегий «смешивания инструментов», где мы используем разнообразных экспертов-агентов со специализированным доступом к инструментам, а не одного перегруженного универсала. «Внутренний монолог»: Как реализовать метакогницию и циклы управления в интеграции с протоколом контекста модели (MCP). Мы продемонстрируем, как агенты могут «думать о своем мышлении», самостоятельно корректируя свои планы и проверяя факты, прежде чем представить ответ пользователю. Прекратите строить «черные ящики». Приходите и узнайте, как проектировать агентов, которые поддаются аудиту, эффективны и действительно знают, какой инструмент использовать. --- Full schedule, including slides and other resources: https://pretalx.devconf.info/devconf-...