一、API应用:
DeepSeek官方申请
https://www.deepseek.com
硅基流动
https://www.siliconflow.com
二、本地安装 https://ollama.com
1.本地大模型运行框架安装,官方下载,下载后默认一直下一步安装。
修改安装其它盘如D盘:先在D盘新建要安装的文件夹D:\Ollama
下载好ollamasetup.exe文件放到D盘,在当前目录下CMD
ollama安装路径更改代码ollamasetup.exe /DIR=+文件夹路径
d:\> ollamasetup.exe /DIR=D:\Ollama
再双击安装文件
2.选择运行库安装,安装命令如:7b
ollama run deepseek-r1:7b
3.硬件要求:根据自己电脑的显卡配置和需求选择合适的模型下载。

按照以上推荐的显存大小使用模型,推理速度相对较快。如果显存小,想要尝试大一些模型也是可以的,就是慢一些,并不是不能用。
没有显卡也可以尝试1.5b的模型,用CPU进行计算,就是速度慢一些。
4.显卡参数,不知道自己显卡显存和算力多少的。可以查看。

5.常用命令
查看版本:ollama --version
查看命令:ollama list
不想玩了,删除命令:ollama rm deepseek-r1:7b
查看 tokens值:
ollama run deepseek-r1:7b --verbose

三、如果下载比较慢,可以手动安装
1.在下面网站先下载模型库
魔搭社区:https://www.modelscope.cn
hf-mirror:http://hf-mirror.com
2.安装
(1)自定义模型路经修和IP端口改系统环境变量:重起软件或电脑
默认模型下载路经:C:\Users\Administrator\.ollama\models
环境变量:如修改到E:\OllamaModels
OLLAMA_HOST
0.0.0.0:11434
OLLAMA_MODELS
E:\OllamaModels
(2)在E:\OllamaModels下新建文件:Modelfile ,文件内容如下:
FROM E:\OllamaModels\DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf
文件下载:Modelfile
内容如下:
(3)把下载好的库文也复制到此目录
(4)CMd 运行安装
ollama create DeepSeek-R1-7B -f G:\ollamamodels\Modelfile
其中:DeepSeek-R1-7B是模型库名
G:\ollamamodels\Modelfile是Modelfile所在目录
四、奇游电竞加速器,加速Ollama下载deepseek等库
右上角口令:奇游999
可以 获得72小时间免费加速

评论区