У нас вы можете посмотреть бесплатно NeurIPS Hacker Cup AI: FineTuning или скачать в максимальном доступном качестве, видео которое было загружено на ютуб. Для загрузки выберите вариант из формы ниже:
Если кнопки скачивания не
загрузились
НАЖМИТЕ ЗДЕСЬ или обновите страницу
Если возникают проблемы со скачиванием видео, пожалуйста напишите в поддержку по адресу внизу
страницы.
Спасибо за использование сервиса ClipSaver.ru
In this live session, Joe Cunnings from the torchtune team at Meta delves into the challenges and strategies for fine-tuning large language models under constrained resources, particularly in the context of the Hacker Cup competition. Joe covers the intricacies of optimizing memory, using techniques like gradient accumulation, activation checkpointing, and LoRa. He also discusses the importance of high-quality datasets and shares practical advice on navigating the limitations of a 40 GB VRAM GPU. Ideal for developers aiming to maximize model performance within tight hardware constraints. link to trochtune: https://github.com/pytorch/torchtune