Основы Foundry Local: выберите правильную локальную модель ИИ для вашего ноутбука (Phi-4 Mini, Qw... скачать в хорошем качестве

Основы Foundry Local: выберите правильную локальную модель ИИ для вашего ноутбука (Phi-4 Mini, Qw...

Узнайте, как запускать модели ИИ локально с помощью Microsoft Foundry Local и выбрать правильную модель графического процессора для вашего ноутбука, не вызывая сбоя системы. В этом видео мы рассмотрим: Почему нужны локальные модели ИИ (конфиденциальность, задержка, стоимость) Что такое Foundry Local и как он работает на ноутбуках с Windows Основы командной строки Foundry Local: список моделей Foundry, список кэшей, удаление кэша, команда service ps Названия моделей: Phi‑4‑mini‑instruct‑cuda‑gpu, Qwen2.5‑7B/14B, теги времени выполнения (CUDA, TensorRT, OpenVINO, generic) Модели CHAT и TOOLS и когда их использовать для агентов и инструментов MCP Проверка оборудования (графический процессор, видеопамять) и почему ноутбуки с 8 ГБ видеопамяти должны отдавать предпочтение мини-моделям Почему более крупные модели работают медленно: параметры, нагрузка на видеопамять, кэш KV, контекстное окно, температурный троттлинг Рекомендуемая конфигурация для ноутбуков с RTX 4070: Phi‑4‑mini‑instruct‑cuda‑gpu как основная модель TOOLS Рекомендации по предотвращению зависаний: профилирование задержек, мониторинг памяти и выбор оптимального размера моделей Идеально подходит для разработчиков Power BI, SQL и .NET, которым нужно практичное и понятное руководство для начинающих по локальному ИИ с Foundry Local. #FoundryLocal #LocalAI #Phi4 #PowerBI #SQL #MCP #ONNXRuntime #AzureAI #DotNet #RTX4070 #Qwen2_5 #LLM #AIOnLaptop #EdgeAI