Как я обучил модель, которая понимает русский лучше GPT-3.5 Turbo | файнтюнинг Llama 3 скачать в хорошем качестве

Как я обучил модель, которая понимает русский лучше GPT-3.5 Turbo | файнтюнинг Llama 3

Моя последняя модель обошла GPT-3.5-turbo на русскоязычном MT-Bench. Для ее обучения я, как и обещал в прошлом видео, расширил свой датасет ответов GPT-4o русскоязычной выборкой из 8K примеров, итого получилось 10K (есть еще примеры на англ и китайском). В качестве базовой модели я взял в этот раз оригинальную meta-llama/Meta-Llama-3-8B-Instruct. Модель: https://huggingface.co/ruslandev/llam... GGUF: https://huggingface.co/ruslandev/llam... Датасет: https://huggingface.co/datasets/rusla... Установка gptchain и консольные команды для файнтюнинга - https://vk.com/@immers.cloud-faintuni... Бенчмарк MT-Bench - https://vk.com/@immers.cloud-benchmar... 💻 immers.cloud – широкий выбор карт для обучения и инференса нейронных сетей: https://immers.cloud/signup/r/2024042... Один из ведущих поставщиков услуг IaaS (Infrastructure as a Service) в России, специализирующийся на использовании графических процессоров (GPU). Сервис предлагает конкурентоспособные цены и интуитивно понятный интерфейс, который даже начинающие пользователи могут легко освоить и начать работу с необходимым программным обеспечением. 💻 gptchain – фреймворк для быстрого развертывания AI-ассистентов: https://github.com/RuslanPeresy/gptchain Поддерживает интеграцию с Telegram-ботом, Retrieval Augmented Generation (RAG), деплой моделей на LLM сервер и файнтюнинг LLM на собственных данных. Телеграм-канал: https://t.me/ruslandevlive Дискорд:   / discord   Это описание содержит реферальные ссылки.