使用Android手机运行AI模型
今天逛 Github,看到一个名为 ChatLM-mini-Chinese 的中文对话小模型项目,规模比较小,参数量为 0.2 B 。介绍写着推理最少只需要 512 MB 显存,而且支持 CPU,顿时吸引了我的兴趣,便想着跑个玩玩。 仓库地址:https://github.com/charent/ChatLM-mini-Chinese 服务器都跑着东西,不太想拿服务器折腾,就拿以前的旧手机...
今天逛 Github,看到一个名为 ChatLM-mini-Chinese 的中文对话小模型项目,规模比较小,参数量为 0.2 B 。介绍写着推理最少只需要 512 MB 显存,而且支持 CPU,顿时吸引了我的兴趣,便想着跑个玩玩。 仓库地址:https://github.com/charent/ChatLM-mini-Chinese 服务器都跑着东西,不太想拿服务器折腾,就拿以前的旧手机...
服务器的默认 Python 版本有点旧,才 3.6.8。 于是打算升级一下,但是升级太麻烦,所以就想直接装个 Anaconda3 来管理 Python 版本,会更方便一些。 参考官方文档:https://docs.anaconda.com/free/anaconda/install/linux/ 文档有不同版本的 Linux 的安装步骤,我的是 CentOS 7.9,按照 RedHat 安装...