使用Android手机运行AI模型

今天逛 Github,看到一个名为 ChatLM-mini-Chinese 的中文对话小模型项目,规模比较小,参数量为 0.2 B 。介绍写着推理最少只需要 512 MB 显存,而且支持 CPU,顿时吸引了我的兴趣,便想着跑个玩玩。 仓库地址:https://github.com/charent/ChatLM-mini-Chinese 服务器都跑着东西,不太想拿服务器折腾,就拿以前的旧手机...

发布于 AI