EBFT: Тонкая настройка LLM с использованием сопоставления признаков скачать в хорошем качестве

EBFT: Тонкая настройка LLM с использованием сопоставления признаков

В этом выпуске обзора исследований в области ИИ Алекс обсуждает статью: «Сопоставление признаков, а не токенов: тонкая настройка языковых моделей на основе энергии». Стандартное обучение с использованием кросс-энтропии фокусируется на предсказании следующего токена при принудительном воздействии учителя, но часто не учитывает поведение на уровне последовательности во время фактического развертывания модели. В этой статье представлен метод тонкой настройки на основе энергии (EBFT), который использует целевую функцию сопоставления признаков для достижения статистических показателей на уровне последовательности. Используя пошаговую блочно-параллельную выборку, EBFT генерирует несколько развертываний одновременно, обеспечивая плотную семантическую обратную связь без верификатора, специфичного для задачи. Этот подход связывает моделирование на основе энергии с сопоставлением признаков с KL-регуляризацией, повышая точность в задачах кодирования и перевода. Эмпирически EBFT превосходит стандартную контролируемую тонкую настройку, сохраняя при этом более низкую кросс-энтропию при валидации. Ссылка на статью: https://arxiv.org/pdf/2603.12248 #AI #MachineLearning #DeepLearning #LLM #FineTuning #EnergyBasedModels #FeatureMatching #NLP