欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 新闻 > 焦点 > deepseek免费部署及调用教程

deepseek免费部署及调用教程

2025/2/22 16:09:00 来源:https://blog.csdn.net/Guzith/article/details/145782742  浏览:    关键词:deepseek免费部署及调用教程

当前大家对AI的使用热情高涨,deepseek因为其在大模型中的优秀表现而被大家熟知。但最近其官网服务的承载能力显然满足不了大家不断增长的使用需求,经常出现稍后重试的情况。同时也有人希望能自己来部署大模型,使用RAG,满足特定需求。但大模型对服务硬件配置的高要求,使得很多人无法自己在自己电脑上运行一个基本能玩的大模型。那么寻找免费的云服务就是一个很自然的选择,很多云厂商都有免费资源可供短期使用。这里做一个简单的大模型在云端部署教程做参考,目标是完成大模型云端部署并可在本地进行访问,完成个人ai的第一步。

资源选择

寻找云资源是第一步,现在有大模型的服务商如together.ai,老牌云厂商如亚马逊AWS、微软Azure、阿里云等,甚至包括一些模型平台如huggingface都支持大模型的部署使用,也有免费资源可用。

  • huggingface提供空间使用免费硬件资源创建大模型
huggingface空间免费创建运行大模型
  • together.ai提供免费额度可选择任意大模型对话,免费额度1美元。

如果要手动部署模型,显然这些还满足不了我们的要求。那么我们可以尝试使用阿里云作为入门。初期提供500人民币的免费额度。

平台使用注意事项

注册开通PAI

注册阿里云,开通PAI后,即可领取免费额度。

PAI免费试用_人工智能平台 PAI(PAI)-阿里云帮助中心

领取免费资源

在免费试用页面领取PAI-EAS资源使用额度500元,有效期1个月。

阿里云免费试用 - 阿里云

部署模型

  1. 进入Model Gallery页面。

    1. 登录PAI控制台。

    2. 在顶部左上角根据实际情况选择地域。

    3. 在左侧导航栏选择工作空间列表,单击指定工作空间名称,进入对应工作空间。

    4. 在左侧导航栏选择快速开始 > Model Gallery

  2. 在Model Gallery页面右侧的模型列表中,找到需要部署的模型卡片,例如DeepSeek-R1-Distill-Qwen-7B模型,单击卡片下部署按钮,出现如下配置选项。

  3. 将部署资源选择为免费资源,即试用活动下的资源,资源费用会在500的额度中按照运行时长扣除。

  4. 选择后直接部署即可,等待服务器配置完成,即可使用。

使用模型

部署完成后,可以在页面上选择在线调试,按照入参格式来发送请求。接口即参数如下:

接口使用参考链接如下:

​​部署DeepSeek-V3、DeepSeek-R1模型_人工智能平台 PAI(PAI)-阿里云帮助中心

API请求

  • completions 接口:<EAS_ENDPOINT>/v1/completions

  • chat 接口:<EAS_ENDPOINT>/v1/chat/completions

两个接口请求后的响应结果没有区别,只是入参的格式要求不同。

使用接口入参注意deepseek官方建议

如果需要了解所有可用的参数可以看deepseek官方接口文档,包括定义提示词、上下文补全、多轮对话等多个场景。对话补全 | DeepSeek API Docs

本地调用

如果需要在本地启动一个web页面访问部署的大模型,参考WebUI使用这里的内容,链接部署DeepSeek-V3、DeepSeek-R1模型_人工智能平台 PAI(PAI)-阿里云帮助中心

1、首先更加部署方式下载py文件到本地

2、本地启动控制台,保证可以调用python3.10以上的服务。

3、(可选)建一个新目录,建一个虚拟环境,参考(12. Virtual Environments and Packages — Python 3.13.2 documentation)

        1、进入新建目录(目录路径不要带中文字符),在控制台中运行命令。tutorial-env可以改成你希望取的目录名称(最好只有英文字母)

python -m venv tutorial-env 

        2、激活虚拟环境

        On Windows, run:

tutorial-env\Scripts\activate

        On Unix or MacOS, run:

source tutorial-env/bin/activate

        3、取消虚拟环境,控制台运行

deactivate

4、下载好的webui_client.py文件放在刚刚创建的虚拟环境目录下,控制台在此目录路径下运行命令

python webui_client.py --eas_endpoint "<EAS API Endpoint>" --eas_token "<EAS API Token>"

其中,<EAS API Endpoint> 需替换为部署服务的Endpoint,<EAS API Token>需替换为部署服务的Token。您可以在Model Gallery > 任务管理 > 部署任务中单击已部署的服务名称,进入服务详情页,单击查看调用信息获取调用的 Endpoint 和 Token。即下图中的两行数据。

 5、python运行过程中可能会报错无法调用到某个模块,使用pip命令下载即可,运行成果后会生产本地url地址

6、将地址复制到浏览器中,即可访问,注意访问期间不可关闭控制台。

费用问题

资源启动后即开始收费,这里没有计算推理费用,也就是说可以随便用不收token使用费。资源停止就停止计费,因此想要高效利用资源,那么可以多攒一些对话、调用研究等等需求,资源启动后快速使用,不用了立马停掉。具体计费查看:https://billing-cost.console.aliyun.com/finance/month-bill/account

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com

热搜词