Correctness-Guaranteed Code Generation via Constrained Decoding скачать в хорошем качестве

Correctness-Guaranteed Code Generation via Constrained Decoding

Генерация кода с гарантированной корректностью через ограниченное декодирование Данный документ посвящен критической проблеме обеспечения корректности кода, генерируемого языковыми моделями (LM), особенно для приложений, критичных ко времени выполнения, таких как видеоигры и робототехника. Существующие методы ограниченного декодирования гарантируют грамматическую корректность, но не обеспечивают семантических гарантий и гарантий корректности во время выполнения. Авторы предлагают новый алгоритм ограниченного декодирования, который генерирует семантически корректные программы путем включения контекстно-зависимого парсера. Этот парсер, построенный на основе динамической структуры «Дерево Парсеров» (ToP), на каждом шаге выдает контекстно-зависимое регулярное выражение для направления генерации токенов LM, обеспечивая немедленную семантическую обратную связь. ToP объединяет модульные контекстно-свободные грамматики с контекстной информацией, такой как области видимости переменных и ограничения типов, а алгоритм включает процедуру «исправления токенов» для согласования токенов LM с терминалами парсера. Метод демонстрируется на sLua, строго типизированном варианте Lua, успешно генерируя семантически корректный код, соответствующий заданным API. Более того, при тщательном проектировании эти семантические гарантии распространяются на корректность во время выполнения, что подтверждается при генерации игровой механики для roguelike видеоигры, открывая новые возможности для безошибочного кода в производственных средах. #ГенерацияКода #ЯзыковыеМодели #ОграниченноеДекодирование #СемантическаяКорректность #КорректностьВоВремяВыполнения #ДеревоПарсеров #sLua #ИИПрограммирование #РазработкаПО #COLM2025 Поддержка: https://boosty.to/krastykovyaz документ - https://research.netflix.com/publicat... подписаться - https://t.me/arxivpaperu создано с помощью NotebookLM