DeepSeek R1: Uczenie modeli myślenia przez Reinforcement Learning | Deep Dive скачать в хорошем качестве

DeepSeek R1: Uczenie modeli myślenia przez Reinforcement Learning | Deep Dive

🎙️ DeepSeek-R1 rewolucjonizuje podejście do rozumowania w modelach językowych - zamiast uczyć się z przykładów, model sam odkrywa jak myśleć, używając czystego Reinforcement Learning. W tym odcinku omawiamy: • Wyzwanie prawdziwego rozumowania w AI - dlaczego tradycyjne SFT nie wystarcza • R1-Zero - przełomowy eksperyment z czystym RL, bez supervised fine-tuning • Mechanizm nagród - jak model uczy się poprawności i formatu jednocześnie • Spektakularne wyniki - 71% na AIME 2024, przewyższając OpenAI O1-preview • Wyłonione zachowania - samo-ewolucja, refleksja i samo-korekcja • Pipeline inżynieryjny - od cold start do finalnego modelu w 4 krokach • Destylacja wiedzy - modele 7B-70B osiągające wyniki większych konkurentów • Ograniczenia R1 - mniejsza wszechstronność, problemy z językami poza angielskim 📄 Oryginalny artykuł: https://arxiv.org/abs/2501.12948 Autorzy: DeepSeek-AI 💡 Masz propozycję artykułu? Zgłoś: https://github.com/Automaat/youtube-w...