ai 30 四月 2023 继续折腾下 llama.cpp + Chinese-LLaMA-Alpaca 五一有点空,继续折腾下 llama.cpp。 本来应该优先折腾这个的,毕竟更出名,不过同事折腾过 gpt4all,也是 llama,但似乎中文支持不怎么样的,觉得不行就没看。顺便网上找找,看看融合 Chinese-LLaMA-Alpaca 的中文怎么样 操作环境:Windows 11 Python 3.10 下载并生成 llama.cpp
ai 22 四月 2023 折腾 ChatGLM-MNN ChatGLM 本地挺慢的,在它的 readme 中找到一个 cpp 实现的,试试 操作环境:windows 11 python 3.10 经折腾发现,比 python 的还慢。 编译 mnn git clone https://github.com/
chatglm 18 四月 2023 ChatGLM-6B 本地部署下玩玩 同事在玩 gpt4all,不过对中文不怎么支持。回来搜了下,发现国内清华出的 ChatGLM-6B 对中文支持不错。本地部署下,用纯 cpu 玩玩。 操作环境:windows 11 python 3.10 没有多余精力研究,就当感受感受高科技吧 可用量化模型 ChatGLM-6B-INT4 ChatGLM-6B-INT4 是 ChatGLM-6B 量化后的模型权重。