冲刺!冲刺!SG2042 跑ChatGLM2

纯 CPU 跑大语言模型—ChatGLM2

获新进展

有新突破

「开源社区王贺同学再次向我们阐释了一个开源爱好者的“精益求精”,在压缩线程唤醒时间、优化自旋等一系列操作后,SG2042运行chatglm2的速度达到5token/s」


已发布

分类

作者:

标签

评论

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注