Lokale LLMs mit Docker: So geht's! // deutsch скачать в хорошем качестве

Lokale LLMs mit Docker: So geht's! // deutsch

Vergangene Woche hat Docker mit dem Docker Model Runner ein neues Feature angekündigt, das Docker um Fähigkeiten für Künstliche Intelligenz (KI) und Large Languagde Models (LLM) erweitern soll. Obwohl die Ankündigung dazu am 1. April veröffentlicht wurde, war es kein Aprilscherz. Doch was genau verbirgt sich hinter dem Docker Model Runner? Wie funktioniert das Ausführen von LLMs auf Basis von Docker, was gibt es dabei zu wissen und zu beachten, und wie ist die neue Funktion zu bewerten? Golo Roden, Gründer und CTO der the native web GmbH, beantwortet all diese und noch viele weitere Fragen in diesem Video. Planst Du mit Deinem Team ein neues Softwareprojekt? Wir beraten Euch bei der Konzeption, Architektur und Entwicklung. Gemeinsam mit Euch stellen wir Leitplanken und Wegweiser auf und sorgen für eine gemeinsame Sprache zwischen Fachlichkeit und Technologie – damit Eure Softwareentwicklung von Anfang an den richtigen Kurs einschlägt und nachhaltige Erfolge erzielt. Interesse? Dann melde Dich gerne bei uns: 🌍 https://www.thenativeweb.io ✉️ [email protected] ──────────────────── Willst Du wissen, welche Videos es noch von uns gibt oder suchst Du eines zu einem bestimmten Thema? Hier findest Du die perfekte Übersicht über alle unsere Videos: 🎬 https://app.thenativeweb.io/ ──────────────────── Möchtest Du demnächst den Job wechseln, hast aber Angst vor den technischen Fragen im Bewerbungsgespräch? Wir können Dir helfen! Werde Mitglied in unserem Coding-Circle und erhalte jede Woche exklusive Videos:    / @thenativeweb   ──────────────────── Hast Du Fragen zu diesem Video oder willst Du Dich mit Gleichgesinnten aus der Community austauschen? Dann komm auf unseren Discord-Server:   / discord   ──────────────────── 00:00 – Einleitung 00:27 – Docker als Software – und als Unternehmen 01:33 – Was Docker angekündigt hat 02:27 – Das ist der Docker Model Runner 03:02 – Spezielle Befehle für Large Language Models (LLMs) 03:58 – Interaktive und nicht-interaktiv Ausführung 04:26 – Es funktioniert out of the box, wenn … 05:22 – Eine altbekannte und vertraute Umgebung 06:33 – Nicht alles, was glänzt, ist Gold 07:30 – Finetuning und Anpassung der Modelle 08:17 – Wie der Model Runner unter der Haube funktioniert 09:25 – Kein Deployment außerhalb der lokalen Maschine 10:12 – Docker vs Ollama, LM Studio & Co. 10:53 – Meine Einschätzung des KI-Features 11:53 – Stabilität, Bugs & Co. 13:03 – "Lass mal irgendwas mit KI machen …" 14:16 – Evaluieren und vergessen ──────────────────── Impressum: https://www.thenativeweb.io/company/l...