在本地部署DeepSeek(深度求索)以实现离线与其聊天

深度求索,全称杭州深度求索人工智能基础技术研究有限公司,是一家人工智能与大型语言模型公司。该公司的总部位于杭州市,由中资对冲基金幻方量化创立,创始人和首席执行官为梁文锋。
2025年1月10日,DeepSeek为iOS和安卓系统发布其首款免费的基于DeepSeek-R1模型聊天机器人程序。截止到27日,DeepSeek-R1超过ChatGPT成为美区iOS应用商店免费应用程序榜首,并导致英伟达股股价大跌18%。DeepSeek成功挑战实力更强、更为著名的竞品从而被认为是颠覆人工智能、打响了全球人工智能领域竞赛的第一枪、引领人工智能下边缘政策新纪元。
在本地部署deepseek-r11.5b)后,仅有非常基础的聊天功能,仅供测试、娱乐。

在本地运行的效果

部署的大致步骤

  1. 安装ollama
  2. 部署DeepSeek-R1模型
  3. 安装可视化界面

部署的具体步骤

一、安装ollama

Ollama 是一个基于 Go 语言开发的简单易用的本地大语言模型运行框架。其logo是一只羊驼。
  1. 访问:https://ollama.com/download,下载ollama(Windows安装包「OllamaSetup.exe」的大小:745MB)
  2. 运行后,点击「Install」安装。
    • 会安装在C盘,且无法更改路径

二、部署DeepSeek-R1模型

- 以下命令是最小的模型。安装更高级的模型需要更大的显示内存。
- 更多请参考:https://github.com/deepseek-ai/DeepSeek-R1

在cmd中执行命令:ollama run deepseek-r1:1.5b即可开始部署,其中1.5b大概是指版本,也就是最低级的。以下是相关截图。

正在下载:

安装R1模型成功:

聊天测试:

- 此时,已经具备基本的在本地聊天的功能,但还只能在命令提示符中进行(而并无专门的UI界面)。
- 启动该模型的命令是:ollama run deepseek-r1:1.5b

三、安装ChatBoxai,并连接DeepSeek-R1

安装该工具后,可实现在较好的UI中与AI聊天。
……
Chatbox AI 是一款AI 客户端应用和智能助手,支持众多先进的AI 模型和API,可在Windows、MacOS、Android、iOS、Linux 和网页版上使用。
  1. 下载安装。
  2. 选择AI模型提供方
    • 模型提供方选择ollame api
    • 模型选择其中一个
    • 根据个人需要,设置其他项目,点击保存

参考资料:


关于投喂知识

本文不包含投喂知识的教程。关于在本地搭建知识库并投喂,可参考: