ai 22 四月 2023 折腾 ChatGLM-MNN ChatGLM 本地挺慢的,在它的 readme 中找到一个 cpp 实现的,试试 操作环境:windows 11 python 3.10 经折腾发现,比 python 的还慢。 编译 mnn git clone https://github.com/
chatglm 18 四月 2023 ChatGLM-6B 本地部署下玩玩 同事在玩 gpt4all,不过对中文不怎么支持。回来搜了下,发现国内清华出的 ChatGLM-6B 对中文支持不错。本地部署下,用纯 cpu 玩玩。 操作环境:windows 11 python 3.10 没有多余精力研究,就当感受感受高科技吧 可用量化模型 ChatGLM-6B-INT4 ChatGLM-6B-INT4 是 ChatGLM-6B 量化后的模型权重。