告别限流,阿里云部署DeepSeek R1个人知识库完全指南

告别DeepSeek R1限流!阿里云一键部署个人知识库,轻松实现数据自主掌控和个性化应用。

原文标题:0基础,不限流!满血DeepSeek R1搭建个人知识库

原文作者:阿里云开发者

冷月清谈:

本文介绍了如何在阿里云上部署DeepSeek R1模型,搭建个人知识库,彻底告别官方服务的限流问题。该方案基于阿里云百炼和云应用开发平台(CAP),通过一键部署AgentCraft应用模板即可轻松实现,无需复杂的服务器操作。部署后,用户可以连接自己的数据库,并根据需求灵活配置向量模型。

该方案支持多种应用场景,例如:

1. 搭建家庭医生智能助理:收集健康领域书籍,为家庭成员提供健康咨询建议。
2. 搭建行业资讯平台:收集行业动态信息,结合微信机器人实时掌握行业前沿动态。
3. 搭建AI绘图工具:根据需求绘制图像,助力创意表达与设计工作。

文章详细讲解了部署步骤,包括数据库配置、向量模型部署、AgentCraft配置等,并提供了使用体验示例,包括对话及逻辑推理能力测试、知识库能力测试和UI定制等。此外,文章还提供了常见问题解答和补充说明,例如如何获取数据库、如何配置更多模型、向量模型单独部署配置等。

怜星夜思:

1、除了文章提到的应用场景,大家还能想到DeepSeek R1个人知识库的其他用途吗?
2、文章中提到的AgentCraft平台,与其他类似的平台(如Dify、Coze)相比,有哪些优缺点?
3、对于没有编程经验的用户来说,搭建和使用DeepSeek R1个人知识库的难度大吗?有没有一些更简单的替代方案?

原文内容

DeepSeek R1 推理模型凭借其卓越性能,能够高效解决很多深度问题,然而,官方的服务的限流问题却在我们使用过程带来了诸多不便,导致我们的“使用焦虑”。那么,如何实现真正的“满血、高速、不限流、超长上下文”的运行效果呢?为此,我们特别推出本期教程,教您如何部署专属的 DS 服务,彻底摆脱限流困扰,不仅支持知识库的使用,还可以随时将知识库分享出去,为客服等业务场景提供强大助力。依托阿里云的强大算力,助力您轻松实现“DS 自由”。

本期教程将基于阿里云百炼和云应用开发平台(CAP),详细为您讲解专属满血 R1 模型的部署与调用方法,助力您开启高效 AI 推理之旅。

用途及价值

该方案的优势在于操作简便,即使是普通用户,也能通过应用模板一键完成部署,无需了解复杂的服务器操作流程。部署完成后,用户可结合自身需求,灵活接入个性化数据库,实现多样化应用场景。

例如,用户可以收集健康领域的专业书籍,将其录入知识库,进而搭建家庭医生智能助理,为家庭成员提供便捷的健康咨询与建议;又如,用户可以收集最新的行业动态信息,录入知识库后,结合微信机器人搭建行业资讯平台,实时掌握行业前沿动态;此外,用户还可借助该方案搭建专属的AI绘图工具,让AI根据需求绘制所需图像,助力创意表达与设计工作。

通过这一方案,用户能够快速构建个性化、智能化的应用场景,满足个人不同领域的多样化需求,实现高效、便捷的智能服务体验。

部署方案


部署架构

本次部署架构如下图,整个服务的关联上下游如图所示。使用的服务软件为 AgentCraft[1],AgentCraft 是一个 Serverless 架构的智能体平台,相比于 Dify,Coze 其优势在于高度 Serverless 化,真正的按需服务,完美兼容 Serverless Devs [2]的社区生态,可以复用 Serverless Devs 社区生态的应用及 AI 工具。更多介绍参考AgentCraft文档[3]


部署步骤

  1. 登录阿里云云应用开发平台CAP, 访问《智能体世界》应用 https://cap.console.aliyun.com/template-detail?template=AgentCraft-CAP

  2. 根据指引一键部署

  3. 打开服务

配置

AgentCraft 部署后需要进行简单配置,包含数据库(必填),向量模型(可跳过)。

配置步骤

  1. 数据库配置, 这里快速体验可以选择共享数据库,社区提供了一个独立数据库用于简单测试(测试完可以随时删除个人数据),强烈建议您使用自己的专属数据库,这样所有的数据都会由您专属管理,点击“专属数据库”可以查看指引。

  1. 部署向量模型,AgentCraft 采用的是 large-bge 向量模型,您可以在这里一键部署,如果不需要使用知识库检索能力,可以直接跳过

部署过程可以点击查看

注:使用子账号部署该模型服务的时候,可能会因为权限问题导致失败,此时可以先跳过该步骤,参考《更多补充说明》-向量模型单独部署配置

  1. 部署完成后,点击完成

使用体验

注册登录

  1. 注册一个虚拟账号(可以随时删除配置的资源),然后登录

  1. 两步配置 DeepSeek 满血的 模型服务以及创建体验智能体

模型应用体验

对话及逻辑推理能力测试

对话设置

对话测试

知识库能力测试

新建一个数据集(给模型的上下文参考)

新建及配置知识库智能体

保存后点击右侧“预览”对话测试。

可以看到DS给了非常详细的信息。

定制UI

相信很多同学或企业都希望能够把智能的平台按照自己的方式进行定制,比如我自己定制了自己的“小王同学”后台以及对应的DS ChatBot。

本项目提供完全的视觉定制能力, 基于源码的定制以及通过配置进行简单定制,本次主要介绍简单定制。

清理项目-划重点!!!

如果您使用的是共享数据库, 您一定要及时清理数据,需要删除相关的数据集,LLM 代理,以及智能体,因为这些数据会存在于共享数据库并不安全。

删除数据集

删除LLM代理

删除智能体

更多补充说明

如何获取数据库

如果您需要长期使用该服务,确保所有数据专属化,您需要关注这个部分。AgentCraft 使用的是 PostgreSql 数据库,您可以考虑在您的虚拟主机上,通过镜像方式拉取,这里是镜像地址

registry.cn-hangzhou.aliyuncs.com/agentcraft/agentcraft-pg:v1,虚拟机上装好之后还需要配置网络等等

如果觉得麻烦,不妨考虑直接购买阿里云的数据库服务, 相关教程如下:

1.创建数据库实例 (postgresql)

阿里云postgresql实例购买链接[4]

新用户只需227一年,拥有100G的存储

2.创建管理账号

注意选择高权限账号(账号及密码后续会持续使用,请妥善管理。)

3.创建数据库

实例创建好之后进行数据库创建

注意这里授权账号选择上述创建的账号

4.数据库连接测试

最终配置

数据库连接地址

数据库名

数据库账号

步骤 2 中所设置的高权限账号

数据库密码

步骤 2 中所设置的高权限账号密码

如何配置更多模型

如果您需要体验更多模型可以按照如下步骤:

接下来百炼 deepseek-v3, qwen-max-latest 以及 deepseek官方的v3,r1模型按照同样步骤配置(注意需要到deepseek的开放平台获取apikey)

根据以上步骤完成配置,即可开始准备测试

向量模型单独部署配置

前置步骤中如果您的向量模型服务部署失败,则可以重新部署配置

访问向量模型创建地址 https://fcnext.console.aliyun.com/applications/ai/create?template=55

注意选取对应的region,根据指示配置权限

创建好之后:

配置-> 触发器

获取触发器的公网地址(http/https)皆可以

然后进入刚部署的服务,选择 backend, 环境变量

添加 EMBEDDING_URL=<复制的地址>/embedding

Q&A

Q:访问服务有问题,数据库连不上

A: 数据库如果使用内网链接,需要保证vpn一致,同时确认您的配置使用高权限账号,并且高权限账号授权给您的数据库

如果已配置VPC数据库还是连接不上,建议可以先开放数据库公网连接进行测试。等调通后再去解决网络连接问题。

Q:如何调整模型上下文?

在构建智能体的时候,有max_token 选项,可以根据需要调整

Q: 可以长期使用共享数据库么?

建议不要,共享数据库虽然不会存储敏感信息(您自身的数据集包含敏感信息切勿上传),但是因为公网暴露,不安全,所以建议不要作为长期服务使用


参考链接:

[1]http://agentcraft-docs.serverless-developer.com

[2]https://www.serverless-devs.com/

[3]http://agentcraft-docs.serverless-developer.com/

[4]https://www.aliyun.com/product/rds?spm=5176.28536895.nav-v2-dropdown-menu-1.139.3e18586cAVXbW6&from=agentcraftagentcraft

一些在线知识库平台,比如Notion、语雀等,也提供了一些AI辅助功能,可以用来构建简单的个人知识库,操作起来相对简单,不需要编程经验。

我觉得可以用来做个性化学习助手。收集自己学习过程中遇到的难题、笔记、资料等,构建专属的知识库,以后遇到类似问题可以直接查询,还能根据自己的学习进度和薄弱点进行针对性学习。

如果没有太复杂的需求,其实用一些文档管理软件,比如印象笔记、OneNote等,也能实现类似的功能。关键是要找到适合自己的工具和方法。

文章里提到用阿里云的应用模板可以一键部署,理论上来说难度不大。不过如果要进行更深入的定制和开发,还是需要一定的技术基础。如果完全没有编程经验,可以考虑先学习一些基础知识,或者寻求专业人士的帮助。

Dify和Coze的上手难度感觉更低一些,图形化界面做的比较好,对新手比较友好。AgentCraft的文档看起来比较专业,可能需要一定的技术基础才能玩转。

不同平台的侧重点可能不太一样,AgentCraft更偏向于开发者,Dify和Coze更适合普通用户。选择哪个平台还是要看自己的具体需求和技术水平。

用于代码库管理和检索好像也挺不错?把常用的代码片段、函数库、解决方案等都放进去,需要的时候直接搜索,省去了很多翻文档的时间,效率应该会提升不少。

AgentCraft主打Serverless架构,按需服务,资源利用率更高,也更省钱。而且它兼容Serverless Devs社区生态,可以复用很多现成的应用和AI工具,这一点我觉得很方便。

小说、漫画、电影等二次创作素材库!想想,把喜欢的作品的设定、人物、剧情都整理进去,写同人或者画二创的时候随时可以参考,灵感枯竭的时候说不定还能找到新的突破口。