如何看待广东佛山石门中学本土化部署 DeepSeek 671B 完整版,属全国首例?
作者:卡卷网发布时间:2025-02-24 21:37浏览数量:59次评论数量:0次
25年2月24日17:58分,小红书已经搜不到本贴当时看到的显卡图了,各网友也可以试着搜“晨曦教育”,“石门星辰”等。
发现了别的内容
分割线
从各平台媒体上收集新闻,基本形成了一个轮廓,就是一个本科毕业三年的人在2月13日花十万注册这家公司后与石门中学达成合作,用八张N卡跑671b模型(根本跑不动无量化的别想了),甚至N卡有没有A100都难说。至于所谓的教育平台,实际上就是chatbox这一开源软件。至此,还希望羊城,南方+等南粤主流媒体能进一步关注石门中学在智慧教育中的下一步!
分割线
671b无量化,16张华为910B或者A100起步,大约240万元,但这个并发数大概六七十,总tokens 1500t/s,大概率不够中学的师生使用,所以推测服务器总投资400万以上。
石门中学虽然是广东省内是著名中学,成绩非常好,但他首先是一个区属公立中学,用的是财政拨款,那么我很好奇这笔几百万砸进去,效果还不如付费API+软件服务的投资,钱是谁出的呢?
其他报道,八卡是不够部署671B的,而公司是2月13日花了10万注册成立的。
进一步收集信息,是n卡
用的是chatbox
用的是chatbox,没有RAG,八卡不可能做微调,甚至跑的是都是最低量化版本,我真不知道一个公司2月13日成立,18年高考本科毕业三年的CEO想搞什么大新闻?
火山引擎API大概20tokens/s,1%上2000tokens/s,100人还是1%,20万tokens/s,你是有多少张卡?
如果就一台服务器就能实现这些功能,这是天顶星科技,对国际都是蓝海,而不只是中学。
免责声明:本文由卡卷网编辑并发布,但不代表本站的观点和立场,只提供分享给大家。
相关推荐

你 发表评论:
欢迎