ローカルAI
-
ローカルAIニュース:llama.cpp v1.0移行、RTX 30シリーズで推論高速化
-
llama.cpp v1.0リリースとRTX 30シリーズ環境での推論速度変化
-
ローカルAIニュース:NVIDIAが2台DGX Stationで分散推論
-
2台のDGX Stationで7530億パラメータGLM-5.3を分散推論するvLLMの実測
-
llama.cpp v1.0.0リリースとFP8キャッシュ・UI刷新でローカル推論が成熟
-
100MパラメータのトランスフォーマーがARC-AGI 2で37.08%を達成
-
GTX 1070向け35BパラメータMoEモデル推論エンジン公開
-
ローカルAIニュース:コンシューマーGPU向け低メモリLLM学習ツールttf公開
-
コンシューマーGPU向け低メモリLLM学習変換ツール「ttf」公開
-
ローカルAIニュース:Linux向け音声アシスタントUltron公開、Macで177Bモデル駆動