在 Android 设备上运行 Llama-3.2-3B 模型

@Ta 10-05 23:27发布,10-05 23:31修改 4821点击
  1. 下载 ChatterUI 作为图形界面;
  2. 下载模型文件 Llama-3.2-3B-Instruct-Q4_0_4_4.gguf
  3. 在 ChatterUI 的 Instruct 选项中,点击 Alpaca,将其修改为Llama 3
  4. 在 ChatterUI 的 API 选项中,点击 Import Model,选择下载的模型文件,再点击 Load 载入模型;
  5. 现在即可与默认的 AI Bot 角色进行对话。还可以使用自定义的设定描述词,创建新的角色。

使用截屏:

视频链接:(3.9 MB)

1000017693.jpg(821.49 KB)


因为 Llama 3.2 模型本身并不支持中文,所以它的中文对话能力不太好,有时回答可能会夹杂外语。

回复列表(5|隐藏机器人聊天)
添加新回复
回复需要登录