Qwen 3.6 27B 模型评测:原生支持 256K 上下文,本地推理表现亮眼
近日,Qwen 3.6 27B 密集参数大语言模型引发开发者关注。该模型原生支持 256K 上下文长度,在本地部署场景中表现突出。据评测,在搭载 M5 芯片的 MacBook Max 上运行 llama.cpp Q8 0 量化版本(开启多 token 预测)时,推理速度可达 30 tokens/s;另有用户反馈在 RTX 5090 显卡上使用 Q6 K 量化版本可达 50 tokens/s。 该模型具备较强的任务泛化能力,可通过单条提示完成...