远程部署deepseek原来这么简单就三句话搞定

[darknightlive]

楔子

• 本地 最近不是deepseek火爆么，官方服务又不给力（服务忙），弄得现在又流行本地部署deepseek R1(甚至还有手机部署的)。哎！可惜啊！贫贱不能移！手里都没一个内存的大点的机器。本地跑不了啊。so!so！因此只能望模型兴叹。
• 远程 刚好过完大年，又要干活了！又要炼丹跑数据了。刚好手里有台远程的机器16u 60G内存 4090d显卡。跑数据的空隙，顺便就来部署一下deepseek R1(都说很简单 ，但是呢！把戏！把戏！总要过过手才知道。今天跑数据的时候，好多命令都忘了，关键这些都是自己以前写的啊)。

部署

• ollama 现在不都是利用ollama一键部署么，而且远程机器带宽更好，速度更快。那就下载ollama，其实就是一句话（linux的好处）：
  • curl -fsSL https://ollama.com/install.sh | sh
• 启动服务 下载好了ollama,首先需要启动一下ollama服务，第二句话：
  • ollama serve

• 拉取模型 现在就可以拉取模型，启动deepseek了，新开一个窗口（老窗口别关）,先跑一个8b模型玩玩（），第三句话：

  • ollama run deepseek-r1:8b

• 愉快对话 现在就可以直接与自己部署deepseek R1 8B愉快的对话了。感觉用起来挺快的，简单问题基本还是能够正常还是能够回答（就部署网页chat端测试，没公网IP，弄了还要本地转发，懒得搞）。不过问了一个朋友名字问认识他不，8b说不知道！哈哈哈！deepseek家满血的大模型认识！哈哈哈！以后就拿这个去判断模型！哈哈哈。正在下载32b的模型，准备准备跑跑.20GB的数据，得下载一个小时吧。等呗！
  

END

• 练手 这次主要是练练手手，过过手。目前还没感觉到有什么具体服务需要自己部署大模型的。其实这玩意成本也不低（相对API来说）,就是现在这个配置2块小时（比现在网吧便宜点），真长期跑还是费钱（还没算微调的成本）。顺便今天也来测试一下inleo.io发帖方便不？

Posted Using INLEO

Comments

[carolin77]

你是从inleo发的贴吗？我还没搞明白呢，哈哈，有点笨

[darknightlive]

对丫，我用钱包keychain登录的，然后进去就是去create post。进入写帖子，就好办！随便选就行了。

[carolin77]

今天试了一直登陆不上，不知道是不是手机问题还是操作问题，都看了大佬的帖子跟着来的，明天我再试试

[darknightlive]

我是用电脑登陆的，不过感觉inlo有点卡。如果是手机好像不能直接用钱包登陆了。没试过。

[hivebuzz]

Congratulations @darknightlive! You have completed the following achievement on the Hive blockchain And have been rewarded with New badge(s)

You received more than 800 upvotes. Your next target is to reach 900 upvotes.

_{You can view your badges on your board and compare yourself to others in the Ranking
If you no longer want to receive notifications, reply to this comment with the word STOP}

Check out our last posts:

Valentine's Day Event – Spread Love with a Special Badge! 💝

[darknightlive]

终于也把deepseek R1 32B模型运行起来了。效果是比8b的要好！

烧的资源也是呵呵哒，内存也吃了20个G