qwen/qwen3.6-35b-a3b 私有化部署测试

qwen/qwen3.6-35b-a3b 私有化部署测试
qwen/qwen3.6-35b-a3b 私有化部署测试

两张3090 48G显存
私有化部署35B大模型,
生成速度142.65tokens/s
上下文长度262144

真香

a76f400e8878d80e9912bfdf80a4e2c6

6374c26189a2dfc9a23b671e08d1426f

8 个帖子 - 5 位参与者

阅读完整话题

来源: linux.do查看原文