快科技2月12日音讯九游体育app官网，DeepSeek抓续火爆，人人王人在体验，但因为管事器承受武艺有限，络续会遭逢无反馈，因此腹地部署体验就成了更好的罗致，具体范围取决于硬件确立。

AMD是最早在x86科罚器鸿沟引入AI武艺的，锐龙7040系列就领先集成了孤苦的NPU AI引擎，而后的锐龙8040系列、锐龙AI 300系列、锐龙AI MAX 300系列王人越发雄伟。

AMD锐龙AI科罚器领有目下行业最强的NPU，算力高达50 TOPS(每秒50万亿次计较)，当然是体验DeepSeek的上佳罗致。

如若你有一台锐龙AI条记本，目下就不错通过LM Studio，大致在腹地部署、体验DeepSeek R1精简版推理模子。

具体操作神色如下：

1、安设AMD Adrenalin 25.1.1或更新版显卡驱动。

2、翻开lmstudio.ai/ryzenai，并下载LM Studio 0.3.8或更新版块。

3、安设启动LM Studio，不错径直跳过指令屏幕。

4、点击“发现”(discover)标签页。

5、罗致合适我方的DeepSeek R1 Distill。具体怎样罗致见后。

6、在软件页面右侧，勾选“Q4 K M”量化状态，然后点击“下载”。

7、下载完成后，复返聊天选项页，从下拉菜单中罗致DeepSeek R1 distill，并确保勾选“手动罗致参数”(manually select parameters)选项。

8、在“GPU卸载”(GPU offload)中，将滑块移到最大值。

9、点击“模子加载”(model load)。

10、好了，不错在腹地体验DeepSeek R1推理模子了！

不同参数范围的大模子，决定了其性能和体积，因此不同的硬件建筑需要罗致最合适我方的参数目。

如若是顶级的锐龙AI MAX+ 395科罚器，搭配64GB、128GB内存，最高不错撑抓DeepSeek-R1-Distill-Llama-70B，在意64GB内存的话需要将可变显存确立为高。

搭配32GB内存，可变显存自界说为24GB，则能撑抓到DeepSeek-R1-Distill-Qwen-32B。

如若是锐龙AI HX 370、AI 365科罚器，搭配24GB、32GB内存，不错撑抓DeepSeek-R1-Distill-Qwen-14B。

如若是锐龙7040/8040系列，需要搭配32GB内存，才能撑抓到DeepSeek-R1-Distill-Qwen-14B。

另外，AMD推选将总共Distill初始在Q4 K M量化状态。

如若你使用的是台式机，AMD RX 7000系列显卡也王人已撑抓腹地部署DeepSeek R1。

其中，RX 7900 XTX旗舰显卡最高撑抓DeepSeek-R1-Distill-Qwen-32B，RX 7900 XT、7900 GRE、7800 XT、7700 XT、7600 XT均不错撑抓到DeepSeek-R1-Distill-Qwen-14B，RX 7600以及新发布的RX 7650 GRE则合适到DeepSeek-R1-Distill-Llama-8B。

【本文适度】如需转载请务必注明出处：快科技

背负裁剪：上方文Q九游体育app官网

著作本色举报

]article_adlist--> 　　声明：新浪网独家稿件，未经授权不容转载。 -->