Quantizei e rodei o Qwen 3.5 LOCALMENTE (e o resultado me impressionou) скачать в хорошем качестве

Quantizei e rodei o Qwen 3.5 LOCALMENTE (e o resultado me impressionou)

Quando o Qwen 3.5 foi lançado, a primeira coisa que pensei foi: preciso rodar isso aqui. A segunda coisa que pensei foi: matematicamente, isso é impossível. Um modelo com 397B parâmetros ocupa quase 800 GB, e meu Mac M3 Ultra tem 256 GB de RAM unificada. Mas existe a quantização. Comprimindo os pesos do modelo de 16 bits para 3 bits no formato MLX, eu consegui chegar a 174 GB e carregar tudo no LM Studio. Fiz quatro testes pra entender o que ainda funciona depois dessa compressão toda: escrita, código, visão e até geração de imagem via Nano Banana usando um prompt gerado pelo próprio Qwen 3.5. O resultado foi razoável, tem coisas que impressionam e coisas que decepcionam. E acho que você vai querer saber exatamente quais são quais antes de passar horas baixando 174 GB na sua máquina. 📌 Se quiser acompanhar o que anda passando pela minha cabeça, me segue lá no Substack: https://progbr.substack.com/ 👉 E se você ainda tá por fora sobre LLMs, dá uma olhada nesse vídeo onde eu explico tudo o que você precisa saber para dar o primeiro passo nesse universo:    • O Que São LLM’s? (Large Language Models)   _______ 🔹 Quer aprender a criar apps do zero até a publicação comigo? Então dá uma olhada no meu curso: https://programadorbr.com/flutter?src... _______ 0:00 Intro 0:15 O problema 3:29 Geração de Descrição para YouTube 6:01 Jogo Peg Solitaire (Resta Um) 8:40 Jogo Flappy Bird 9:26 OCR de Texto Manuscrito 10:54 Descrição de Imagem _______ 👀 Se tiver curiosidade, dá uma olhada em alguns dos meus apps publicados: ⏵ Teleprompter: https://apps.apple.com/app/apple-stor... ⏵ Pomodoro: https://apps.apple.com/app/apple-stor... ⏵ Jogo da Velha Infinito iOS: https://apps.apple.com/app/apple-stor... Android: https://play.google.com/store/apps/de... _______ ✴️ Segue também meus outros canais: ⏵ Canal sobre o universo Apple:    / @iprogbr   ⏵ Canal de programação:    / @programadorbr   ⏵ Perfil no Instagram:   / progbr