OpenAIの完全無料、ローカル動作LLM「gpt-oss」をCPU内蔵GPUで使ってみる【ウン十万円のGPUなしでも動きます】 скачать в хорошем качестве

OpenAIの完全無料、ローカル動作LLM「gpt-oss」をCPU内蔵GPUで使ってみる【ウン十万円のGPUなしでも動きます】

OpenAIがリリースしたローカルPC上で動作する完全無料のLLM（大規模言語モデル）「gpt-oss」のレポートをお届けします。 このgpt-ossは高価なビデオカードがなくても動くところもポイント。今回は一般的なノートPC上で20bのコンパクトなモデルを動作させるほか、Core UltraやRyzen AIベースのミニPCに大量のメモリを搭載して120bの大型モデルを動作させてみます。 どんな速度、精度なのか？どんなことができるのか？身近になったローカル動作LLMをご確認ください。 解説は西川和久さんです。 ■関連リンク OpenAI　gpt-oss-20b (約12GB)　https://huggingface.co/openai/gpt-oss... OpenAI　gpt-oss-120b (約63GB)　https://huggingface.co/openai/gpt-oss... Apple Silicon、NVIDIA、AMDのGPUでgpt-oss-120bを動かす適正値を掲載 https://github.com/ggml-org/llama.cpp... ■番組内でテストした暗号解読問題 パズル：言語パターン認識 以下の暗号文を解読してください： XQFR UXEN MXQK DXMC QXOD XQEN VXED XQER QXOD XQFR ヒント： 各単語は4文字 日本語の文章を特定のルールでアルファベットに変換 パターンは一貫している 元の文章は日常的な内容 ■出演 西川和久 劉堯（PC Watchデスク） 佐々木修司（PADプロデューサー） 【本チャンネル “PAD” について】 PC Watch、AKIBA PC Hotline!、DOS/V POWER REPORTが共同でお届けするPCハードウェアと関連情報の専門チャンネルです。完成品PC、自作PC、パーツ、周辺機器などを専門媒体ならではの視点で掘り下げます。コンテンツを続々追加予定。チャンネル登録をお願いします！ ［PC Watch公式］［AKIBA PC Hotline!公式］ #llm #chatgpt #gemini