HOPE_16 (2025): Использование возникающих уязвимостей на основе свойств в больших языковых моделях скачать в хорошем качестве

HOPE_16 (2025): Использование возникающих уязвимостей на основе свойств в больших языковых моделях

Дэвид Кузмар Воскресенье, 17 августа 2025 г., 14:00 (Тобин 201/202): По мере распространения технологий ИИ как в безобидных, так и в вредоносных приложениях, наше понимание поверхности атаки должно развиваться с учетом возникающих свойств в сложных системах. В больших языковых моделях это возникающее поведение создает новые классы уязвимостей, которые не только не устраняются, но и в значительной степени остаются незамеченными. Систематически манипулируя ограниченным восприятием реальности моделью, злоумышленники могут вызывать каскадные сбои, выходящие далеко за рамки традиционного обхода фильтров, выявляя фундаментальные слабые места во внутренней логике и контекстной привязке этих систем. В этой сессии будет подробно рассмотрено, как работают эти уязвимости, приведены реальные примеры и исследованы далеко идущие последствия для безопасности, управления и защиты ИИ.