ローカルAI(9ページ目)
-
GlydによるLLM重みの無損失圧縮技術がGPUメモリを33%削減
-
llama.cppのn-gramキャッシュ最適化でドラフト速度が最大140倍向上
-
Jevスタイル確率推論ラッパーをLLMとビジョンモデルに適用する技術
-
Contrastive-LMが公開するローカル推論用スコアリングモデルCLM-v0.1-8Bの特性
-
GLM-5.3-Flash 320B MoEを4枚のCMP 170HXで動かすvLLMレシピ
-
NVIDIAが公開した1億パラメータの音声話者識別モデル
-
vLLMエージェントセッション用GPUサイズ計算ツール「agent-gpu-calculator」公開
-
ローカルAI決定専用ツールSNAPの公開と性能評価
-
XiaomiMiMoがオムニモーダルLLM「MiMo-V2.6」シリーズを公開
-
Qwen-Image-2.1のGGUF化モデルがComfyUIでローカル画像生成に対応