侧边栏壁纸
博主头像
简单博客

行动起来,活在当下

  • 累计撰写 86 篇文章
  • 累计创建 24 个标签
  • 累计收到 0 条评论

目 录CONTENT

文章目录

DeepSeek-AI安装应用教程

简单
2025-02-09 / 0 评论 / 0 点赞 / 19 阅读 / 0 字

一、API应用:

DeepSeek官方申请
https://www.deepseek.com

硅基流动
https://www.siliconflow.com

二、本地安装 https://ollama.com

1.本地大模型运行框架安装,官方下载,下载后默认一直下一步安装。

修改安装其它盘如D盘:先在D盘新建要安装的文件夹D:\Ollama
下载好ollamasetup.exe文件放到D盘,在当前目录下CMD

ollama安装路径更改代码ollamasetup.exe /DIR=+文件夹路径

d:\> ollamasetup.exe /DIR=D:\Ollama

再双击安装文件

2.选择运行库安装,安装命令如:7b

ollama run deepseek-r1:7b

3.硬件要求:根据自己电脑的显卡配置和需求选择合适的模型下载。

按照以上推荐的显存大小使用模型,推理速度相对较快。如果显存小,想要尝试大一些模型也是可以的,就是慢一些,并不是不能用。

没有显卡也可以尝试1.5b的模型,用CPU进行计算,就是速度慢一些。

4.显卡参数,不知道自己显卡显存和算力多少的。可以查看。

5.常用命令

查看版本:ollama --version

查看命令:ollama list

不想玩了,删除命令:ollama rm deepseek-r1:7b

查看 tokens值:

ollama run deepseek-r1:7b --verbose

image.png

三、如果下载比较慢,可以手动安装

1.在下面网站先下载模型库

魔搭社区:https://www.modelscope.cn

hf-mirror:http://hf-mirror.com

2.安装

(1)自定义模型路经修和IP端口改系统环境变量:重起软件或电脑

默认模型下载路经:C:\Users\Administrator\.ollama\models

环境变量:如修改到E:\OllamaModels

OLLAMA_HOST

0.0.0.0:11434

OLLAMA_MODELS

E:\OllamaModels

(2)在E:\OllamaModels下新建文件:Modelfile ,文件内容如下:

FROM E:\OllamaModels\DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf

文件下载:Modelfile

内容如下:

(3)把下载好的库文也复制到此目录

(4)CMd 运行安装

ollama create DeepSeek-R1-7B -f G:\ollamamodels\Modelfile

其中:DeepSeek-R1-7B是模型库名

G:\ollamamodels\Modelfile是Modelfile所在目录

四、奇游电竞加速器,加速Ollama下载deepseek等库

右上角口令:奇游999

可以 获得72小时间免费加速

0

评论区