运行开源版 ChatGPT —— gpt4all

GPT4All 是基于大量干净的助手数据(包括代码、故事和对话)训练而成的聊天机器人,数据包括~800k 条 GPT-3.5-Turbo 生成数据,基于 LLaMa 完成,M1 Mac、Window

s 等环境都能运行。或许就像它的名字所暗示的那样,人人都能用上个人 GPT 的时代已经来了。

使用 gpt4all 可以是现在自己的笔记本上运行大型语言模型,使用 cpu 运行非常简单:

  1. 直接链接Torrent-Magnet 下载 gpt4all-lora-quantized.bin 文件。如果下载有问题试一下 这里
  2. 克隆 此仓库 ,导航至 chat 文件夹,并将下载的文件放在那里。如果下载有问题也可以试一下 这里 git clone https://github.com/nomic-ai/gpt4all.git
  3. 根据您的操作系统运行相应的命令:
    • M1 M- ac/OSX:cd chat;./gpt4all-lora-quantized-OSX-m1
    • Linux:cd chat;./gpt4all-lora-quantized-linux-x86
    • Windows(PowerShell):cd chat;./gpt4all-lora-quantized-win64.exe
    • Intel Mac/OSX:cd chat;./gpt4all-lora-quantized-OSX-intel

在我的 m1 MacBook 上运行有点卡顿,有些问题的答案有些无厘头,好在支持中文,对于 AI 开源来说是一个很好的开始。

大家自己试试吧!

References


运行开源版 ChatGPT —— gpt4all
https://www.frytea.com/post/20230402151750.html
作者
Tianlun Song
发布于
2023年4月2日
更新于
2024年6月10日
许可协议