dwarfstar.sh

DwarfStar 4 (ds4): Local DeepSeek V4.1, Qwen and GLM

译：在本机跑前沿开源权重

  • ds4 是窄的 C 推理引擎，支持 DeepSeek V4 / V4.1 Flash、GLM 5.x、Qwen3.8，走 Metal、CUDA、ROCm。

  • CLI、本地 API 和原生 agent 共用同一份模型；长前缀按 prompt hash 落盘，重启不用整段重算。

  • 代码在 antirez/ds4；ds4-server 提供 OpenAI / Anthropic 风格 API，给本机 coding agent 当底座。