AI Red Teaming — Зачем и как делать джейлбрейк агентов LLM | Алекс Комбесси, Жискар Л. Следующая ... скачать в хорошем качестве

AI Red Teaming — Зачем и как делать джейлбрейк агентов LLM | Алекс Комбесси, Жискар Л. Следующая ...

🎥 Запись прямой трансляции с конференции MLOps World | GenAI Summit 2025 — Остин, Техас (9 октября 2025 г.) Название сессии: AI Red Teaming: зачем и как делать джейлбрейк агентов LLM Докладчик: Алекс Комбесси, соучредитель и согенеральный директор компании Giskard Аннотация: По мере того, как ИИ-агенты становятся более эффективными, они также становятся более уязвимыми. В этой сессии Алекс Комбесси из компании Giskard рассматривает, как адаптивные многоходовые атаки могут делать джейлбрейк агентов LLM, и как защититься от них. В этом докладе будут представлены основы AI Red Teaming, а также показано, как злоумышленники используют согласованность диалога и краткосрочный контекст для манипулирования моделями. Участники узнают, почему статического разового тестирования уже недостаточно, и как непрерывное автоматизированное взаимодействие с мониторингом «человек-в-контуре» (HITL) позволяет выявлять и нейтрализовывать возникающие угрозы безопасности до того, как они попадут в эксплуатацию. Что вы узнаете: • Как адаптивные многоходовые атаки компрометируют ИИ-агентов • Почему статическое взаимодействие неэффективно в борьбе с меняющимися угрозами • Как злоумышленники используют зависимость LLM от контекста и хода разговора • Практические стратегии непрерывного взаимодействия с «человеком-в-контуре» и автоматизированного обнаружения угроз • Как интегрировать контроль HITL для обеспечения надежной безопасности ИИ 📍 Запись: 9 октября 2025 г. — Очная сессия, MLOps World | GenAI Summit 2025, Остин, Техас 🔗 Узнайте больше: https://mlopsworld.com #MLOpsWorld #GenAISummit #Giskard #AlexCombessie #AIinProduction #AIsecurity #RedTeaming #AgenticAI #LLMOps #AItrustworthiness #MLOps #TheNextWaveofAI #GenAI #AIAgents #CyberAI #AICommunity