USENIX Security '24 — Формализация и сравнительный анализ атак и защит от быстрых инъекций скачать в хорошем качестве

USENIX Security '24 — Формализация и сравнительный анализ атак и защит от быстрых инъекций

Формализация и сравнительный анализ атак с использованием инъекций и средств защиты Юпэй Лю, Университет штата Пенсильвания; Юци Цзя, Университет Дьюка; Жуньпэн Гэн и Цзиньюань Цзя, Университет штата Пенсильвания; Нил Чжэньцян Гун, Университет Дьюка Атака с использованием инъекций заключается во внедрении вредоносных инструкций/данных во входные данные интегрированного приложения с LLM-программой, что приводит к желаемым злоумышленником результатам. Существующие работы ограничены практическими исследованиями. В результате в литературе отсутствует систематическое понимание атак с использованием инъекций и средств защиты от них. Мы стремимся восполнить этот пробел в данной работе. В частности, мы предлагаем фреймворк для формализации атак с использованием инъекций. Существующие атаки являются частными случаями в нашем фреймворке. Более того, на основе нашего фреймворка мы разрабатываем новую атаку, комбинируя существующие. Используя наш фреймворк, мы проводим систематическую оценку 5 атак с использованием инъекций и 10 средств защиты с 10 LLM-программами и 7 задачами. Наша работа предоставляет общий ориентир для количественной оценки будущих атак с использованием мгновенных инъекций и мер защиты от них. Для содействия исследованиям по этой теме мы публикуем нашу платформу по адресу https://github.com/liu00222/Open-Prom.... С полной программой конференции USENIX Security '24 можно ознакомиться по адресу https://www.usenix.org/conference/use...