OEL: Магистратура по направлению «Уроки, извлеченные из реального опыта» скачать в хорошем качестве

OEL: Магистратура по направлению «Уроки, извлеченные из реального опыта»

В этом выпуске обзора исследований в области ИИ Алекс обсуждает статью «Онлайн-обучение на основе опыта для языковых моделей». В этой статье представлено онлайн-обучение на основе опыта (OEL), фреймворк, позволяющий языковым моделям постоянно совершенствоваться, используя данные, собранные в ходе реального развертывания. Процесс включает в себя извлечение передаваемых знаний из взаимодействий с пользователями и их консолидацию в параметры модели посредством контекстной дистилляции на основе политики. Это создает итеративный цикл, в котором улучшенная модель генерирует более качественные траектории для дальнейшего повышения собственной производительности. Тестирование в текстовых игровых средах показывает, что OEL значительно повышает точность выполнения задач и эффективность использования токенов, сохраняя при этом производительность в новых задачах. Используя реальный опыт, а не только офлайн-наборы данных, языковые модели могут динамически развиваться после начальной фазы обучения. URL статьи: https://arxiv.org/pdf/2603.16856 #AI #MachineLearning #DeepLearning #LLMs #OnlineLearning #NLP #MicrosoftResearch