Реальные эксплойты и способы их устранения в приложениях LLM (37c3) скачать в хорошем качестве

Реальные эксплойты и способы их устранения в приложениях LLM (37c3)

Видеозапись моего доклада на 37-м конгрессе Chaos Communication в Гамбурге под названием «НОВЫЕ ВАЖНЫЕ ИНСТРУКЦИИ: Реальные эксплойты и способы их устранения в приложениях с большими языковыми моделями» о безопасности приложений LLM и, в частности, о внедрении Prompt Injection. Большое спасибо организаторам CCC и всем волонтёрам за организацию такого замечательного мероприятия! Источник видео: https://media.ccc.de/v/37c3-12292-new... Запись в блоге: https://embracethered.com/blog/posts/... Аннотация: В связи с быстрым развитием искусственного интеллекта и больших языковых моделей (LLM) пользователи сталкиваются с повышенным риском мошенничества, кражи данных, потери персональных данных и даже удалённого выполнения кода. В докладе будут продемонстрированы многочисленные реальные эксплойты, обнаруженные докладчиком, а также будут рассмотрены меры по снижению рисков и исправления, которые поставщики предлагают для наиболее известных приложений LLM, включая ChatGPT, Bing Chat и Google Bard. Доклад посвящен безопасности LLM в целом, с особым акцентом на последствиях внедрения быстрых инъекций.