有必要自己将deepseek部署到本地吗?
作者:卡卷网发布时间:2025-02-17 21:00浏览数量:65次评论数量:0次
有的有的。非常有必要。
不要听信那些说“7b/8b是弱智,32b能能用”的鬼话。说这种话的人,要么坏要么蠢。
7/8b的模型,其智能程度,已经够普通人日常使用了,这两个模型最高占用显存5.8g,一张3060都能跑。这个是最适合普通人用的版本。(强调一下,够普通人用,指的是做逻辑分析和辅助理解,并不是能让你把自己的活儿交给大模型替你做)
14b的模型,使用体验更上一层楼,输出的内容会更详细一些。特别是长文本生成方面,已经可以连段成篇,目前最火的deepsex就是基于这一模型。但这个模型在8g显存的显卡用不了,显存需要在12g以上,不然就只能cpu+内存运行。
32b的模型就没什么必要了。除了4(5)090和2080ti魔改卡这种大显存卡,现有民用常见n卡a卡都跑不了,只能用CPU跑内存,一分钟憋不出来十几个字的速度。给普通人推荐这个模型起步,心眼可以说坏到流脓。
至于API,无论是ds官(不能充值),还是硅基,还是其他乱七八糟的,目前都会有高峰期无法正常使用的问题。虽然是满血模型但有内容审核,服务器还会记录你的提问内容。
自己搭建就安全和自由很多。在自己硬盘的才是自己。
我个人推荐,要么ds官免费版用用+等ds官开放充值,要么自搭+第三方满血补充。
END
免责声明:本文由卡卷网编辑并发布,但不代表本站的观点和立场,只提供分享给大家。
相关推荐
最新文章
随机文章
广告位

你 发表评论:
欢迎