Обеспечьте безопасность ваших ИИ-агентов для производственных нагрузок. скачать в хорошем качестве

Обеспечьте безопасность ваших ИИ-агентов для производственных нагрузок.

Codelab → https://goo.gle/4atfPdd Видео для разработчиков → https://goo.gle/3ZJ6dor Видео для инженеров данных → https://goo.gle/4tRO4CO Как защитить ваших ИИ-агентов от вредоносных атак, обеспечив при этом их масштабируемость в условиях высокой нагрузки? В этом эпизоде ​​Agentverse мы выйдем за рамки принципа «у меня всё работает» и построим надежную инфраструктуру в Google Cloud. Вы узнаете, как развертывать модели с открытым исходным кодом с помощью Ollama и vLLM, защитить свой конвейер с помощью Model Armor и реализовать полную наблюдаемость — и всё это, оптимизируя архитектуру для максимальной производительности при использовании ресурсов графических процессоров. Разделы: 0:00 - Введение: Хранитель, инженер платформы 02:05 - Самостоятельно размещенные LLM: Развертывание Ollama 05:07 - Развертывание vLLM 08:48 - Настройка Model Armor 12:04 - Создание конвейера агентов 15:00 - Наблюдаемость: Метрики и трассировка 17:06 - Заключение 🔔 Подпишитесь на Google Cloud Tech → https://goo.gle/GoogleCloudTech #Gemini #GoogleCloud #Agentverse Спикер: Деби Кабрера Упомянутые продукты: Agentverse, Gemini, Agent Development Kit, Model Armor, Ollama, vLLM, Cloud Run