Проектирование систем для эпохи GenAI | Доклад на конференции Ai Heroes 2024 скачать в хорошем качестве

Проектирование систем для эпохи GenAI | Доклад на конференции Ai Heroes 2024

🎟️ Конференция 2025 года 27 мая: https://aiheroes.it/2025/tickets/ ⏩ Разделы: 00:00 Введение 02:50 Две проблемы при создании собственного чат-бота 08:10 Одно решение: GROUNDING 09:03 Архитектура RAG 11:50 Проектирование систем для GenAI 16:55 Как использовать LLM 28:30 ЖИВАЯ ДЕМОНСТРАЦИЯ Мы все изучили основные модули проектирования систем. Реляционные базы данных, хранилище BLOB-объектов, API-шлюз и распределенное логирование — знакомые понятия. Однако развитие приложений генеративного ИИ приносит новый набор проблем и инструментов для их решения. В этом докладе мы рассмотрим новые модули, необходимые для разработки приложений генеративного ИИ (GenAI), и рассмотрим их уникальные проблемы. Мы начнем с обсуждения того, почему использование больших языковых моделей (LLM) недостаточно. Далее мы представим механизмы контроля, которые имеют решающее значение для очистки как входных, так и выходных данных линейных моделей искусственного интеллекта (ЛМ) и моделей диффузии. Затем мы рассмотрим методы сжатия подсказок, разработанные для снижения стоимости генерации. После этого мы представим реестры подсказок, которые позволяют проводить A/B-тестирование и обновление подсказок по беспроводной сети, а также роль наблюдаемости, выделив такие инструменты, как openllmetry, новый стандарт, основанный на opentelemetry. Мы также рассмотрим, как расширить возможности ЛМ с помощью вызовов функций, позволяя ЛМ взаимодействовать как агенты и обмениваться данными с другими внешними системами. В ходе обсуждения мы покажем примеры кода на Python. К концу доклада участники получат четкое понимание основных модулей, используемых при создании приложений GenAI, и приобретут ценные знания для проектирования собственных приложений. 🎤 ЭМАНУЭЛЕ ФАББИАНИ, руководитель направления ИИ и профессор 📍AI Heroes — это итальянская конференция по искусственному интеллекту для разработчиков, инженеров, специалистов по обработке данных и менеджеров по продуктам. — Новый рабочий процесс, формирующий будущее бизнеса — Искусственный интеллект в рабочей силе следующего поколения — Ключевые технологии, приложения и тенденции ℹ️ Информация: https://aiheroes.it/ ✅ Твит:   / aiheroes_it   ✅ Связь:   / aiheroes-it   ✅ Читать: https://t.me/aiheroes #GenAI #SystemDesign #AIDevelopment #LLMArchitecture #AIEngineering #PromptEngineering #OpenLLMetry #AIBuilders #TechTalk #AIHeroes2025