Skip to content
网游世界
网游世界

吾生有涯,而知无涯。

  • 首页
  • PHP
    • ThinkPHP
    • FastAdmin
    • webman
  • JavaScript
    • jQuery
    • AdminLTE
  • Free Pascal
  • Java
    • JeeSite
    • 若依
    • ruoyi-vue-pro
  • 其它
    • 操作系统
    • 树莓派
    • 前端
    • Null
  • 关于
网游世界

吾生有涯,而知无涯。

Ollama DeepSeek R1 环境配置

3Vshej, 2025年2月17日 周一2025年2月19日 周三

想必 DeepSeek 已经被人所熟知,本文就介绍下如何本地部署。


1、下载 Ollama
https://ollama.com/download

快速开始
https://ollama.readthedocs.io/quickstart/

安装示例:
https://cloud.tencent.com/developer/article/2493853

2、配置安装目录

安装在指定目录(Windows 下):
OllamaSetup.exe /DIR=E:\Ollama

复制模型文件

C:\Users\Administrator\.ollama\models

到 E:\Ollama\models

增加环境变量 OLLAMA_MODELS,值为 E:\Ollama\models。

# 允许外网访问
OLLAMA_HOST=0.0.0.0
OLLAMA_ORIGINS=*

# 控制模型在内存中的保留时间,减少重复加载开销(默认 24h)
OLLAMA_KEEP_ALIVE

# 并行处理请求数,提升高并发场景下的吞吐量(默认 2个)
OLLAMA_NUM_PARALLEL

# 启用调试日志,排查服务异常(1 开启)
OLLAMA_DEBUG

# 扩展显存不足时,利用RAM/VRAM混合加载大模型(需手动计算显存值)默认 81920000000(80GB)
OLLAMA_GPU_OVERHEAD   

3、确定要使用的模型
https://ollama.com/search

4、Linux 安装配置安装目录

在 安装脚本中
将

OLLAMA_INSTALL_DIR=$(dirname ${BINDIR})

替换为:

# OLLAMA_INSTALL_DIR=$(dirname ${BINDIR})
OLLAMA_INSTALL_DIR="/www/Ollama"

设置安装位置

vi ~/.bashrc
# 增加以下
export PATH=/www/Ollama:$PATH
export OLLAMA_MODELS=/www/Ollama/models

5、使用 DeepSeek-R1

查看地址:https://ollama.com/library/deepseek-r1

如:

ollama run deepseek-r1:1.5b

ollama run deepseek-r1:7b

6、常用命令

显示所有模型
ollama list

删除模型
ollama rm

显示当前运行的模型
ollama ps

停止模型
ollama stop

7、前端工具

DeepSeek R1 默认使用的端口是:11434

Cherry Studio
Chatbox AI

参考:

本地DeepSeek部署实战:局域网访问与API对外开放技巧

相关文章:

  1. Windows BT 面板伪静态设置不生效 原来是在 Linux 下使用的,近期在 Windows 中安装了 BT 面板,随之的问题也来了。...
  2. BT 面板 MySQL 修复 has the wrong structure or is missing MySQL 未知原因造成停止服务,查看日志时,发现: [Warning] Optional nati......
  3. Windows 下配置 PHP PDO 连接达梦数据库 本文将介绍 Windows 下 PHP PDO 方式连接达梦数据库。...
  4. 使用 wkhtmltopdf 转 PDF 原有业务使用 jsPDF 转 PDF,效果不是很理想。遂查找方案,发现了 wkhtmltopdf,只......
其它 操作系统 AIDeepSeek

文章导航

Previous post
Next post

近期文章

  • Android Studio Gradle 配置国内镜像
  • 为什么重新发明轮子
  • ruoyi-vue-pro 匿名访问
  • VUE 中接收 code 异常
  • 关于 AI

归档

  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月
  • 2024 年 10 月
  • 2024 年 9 月
  • 2024 年 8 月
  • 2024 年 7 月
  • 2024 年 6 月
  • 2024 年 5 月
  • 2024 年 4 月
  • 2024 年 3 月
  • 2024 年 2 月
  • 2024 年 1 月
  • 2023 年 12 月
除非特殊说明,本站作品采用知识共享署名 4.0 国际许可协议进行许可。
豫公网安备 41010402002622号 豫ICP备2020029609号-3
©2025 3Vshej