全平台安装部署llm(非常简单,安装使用聊天软件一样)

适用于window,macos(黑苹果也可以使用),使用的是cpu
8b 版本 8g内存基本都可以跑
70b 不建议安装,i7 13700k 64g很慢(可能因为没有使用显卡)

适用于Requires macOS 11 Big Sur以上系统黑苹果也可以

1. 官网下载安装包(默认8b版本)
   官网链接 https://ollama.com/library
2. 双击安装提示移动到应用库
3. 控制台输入启动命令(自动下载模型)
   过程中速度过慢ctrl+c终止,重新输入,支持断点下载

   ollama run llama3 #低配置 模型需要5g空间
   ollama run llama3:70B #高配 模型需要40g空间

4. 已经可以通过控制台对话了