2026年11月4日

LOCAL LLM

GMKtec EVO-X2 96GB(Strix Halo)でQwen3.8 Flash NextをUnsloth Desktop(PaoAI軽量版Q3_K_M+Q8_0)からSTRATA(UD-IQ4_XS)へ移行。VRAM 48GiBの実測でデコード中央値26.9→31.2 tok/s(+16%)、プリフィル約3倍、VRAMエキスパートキャッシュ命中率94.9%だった記録。
AMD Ryzen AI Max+ 395 × 96GB統一メモリ × Unsloth Desktop(llama.cpp)。2026年10月時点の本稼働環境の実測性能(prefill 241 tok/s、decode 29 tok/s、MTP採択率63%)と、BIOSのVRAM割当48GB上限やGTT対応といった落とし穴を公開します。