使用Android手机运行AI模型
今天逛 Github，看到一个名为 ChatLM-mini-Chinese 的中文对话小模型项目，规模比较小，参数量为 0.2 B 。介绍写着推理最少只需要 512 MB 显存，而且支持 CPU，顿时吸引了我的兴趣，便想着跑个玩玩。 仓库地址：https://github.com/charent/ChatLM-mini-Chinese 服务器都跑着东西，不太想拿服务器折腾，就拿以前的旧手机...
今天逛 Github，看到一个名为 ChatLM-mini-Chinese 的中文对话小模型项目，规模比较小，参数量为 0.2 B 。介绍写着推理最少只需要 512 MB 显存，而且支持 CPU，顿时吸引了我的兴趣，便想着跑个玩玩。 仓库地址：https://github.com/charent/ChatLM-mini-Chinese 服务器都跑着东西，不太想拿服务器折腾，就拿以前的旧手机...
服务器的默认 Python 版本有点旧，才 3.6.8。 于是打算升级一下，但是升级太麻烦，所以就想直接装个 Anaconda3 来管理 Python 版本，会更方便一些。 参考官方文档：https://docs.anaconda.com/free/anaconda/install/linux/ 文档有不同版本的 Linux 的安装步骤，我的是 CentOS 7.9，按照 RedHat 安装...