必看教程“微乐四川麻将外卦神器下载”确实真的有挂

必看教程“微乐四川麻将外卦神器下载”确实真的有挂咨询开挂请添加【添加图中微信】,咨询开挂请添加【添加图中微信】,

界面新闻记者 | 李彪

界面新闻编辑 | 文姝琪

  持续五天的“DeepSeek开源周”刚结束,DeepSeek团队就在国内知乎平台注册官方账户,并在3月1日当天发布了第一条动态。这篇最新的帖子首次对外公布模了型的优化技术细节、成本利润率等关键信息。

  这篇帖子最吸引眼球的一个结论是,按DeepSeek测算,假定GPU租赁成本为2美元/小时,总成本为8.7万美元/天。如果统计包括网页、App和API在内的所有负载,将所有模型tokens全部按照DeepSeek-R1的定价(DeepSeek R1 的定价:$0.14 / 百万输入 tokens (缓存命中),$0.55 / 百万输入 tokens (缓存未命中),$2.19 / 百万输出 tokens)计算,理论上一天的总收入为5.62万美元,算下来成本利润率为545%。

  高达545%的利润率意味着什么,又会给行业带来了怎样的影响?界面新闻采访了复旦大学计算机科学技术学院教授张奇,他的研究方向为自然语言处理、信息检索 、数据密集型计算。

  在自然语言处理中,Token是语言文本被分割后的基本单位,每个用户向AI提问并获取回答,问题及答案的文本长度对应数量不等的Token。AI处理每个Token都需要消耗算力。此外,还存在命中缓存与否的情况,命中缓存指用户向AI提问涉及的相关数据已存在于缓存之中,模型可直接调用,无需重新计算或从数据库检索,节省了算力、时间及存储资源,成本更低,若没能命中,则需要消耗更多算力等资源,成本更高。

  目前,按Token计价收费是AI公司的主要商业模式。命中缓存相对价格较低,未命中则收费更高。

  张奇告诉记者,对行业来说,DeepSeek在最新的文章中提到的56.3%缓存命中率(原文称,在 24 小时统计时段内,DeepSeek V3 和 R1都能实现输入 token 总数为 608B,其中 342B tokens(56.3%)命中 KVCache 硬盘缓存)是一项具有重要意义数据。

  “虽然各家没有公布过相关数据,但超过一半的命中率在业内应该已是很高的水平。”张奇认为,像在DeepSeek所开发的6710亿参数超大模型上,几亿用户提问时所写的文本多多少少存在差异,在这种前提下能够实现高中率,说明团队在模型整体优化上做了很多工作。

  据DeepSeek团队介绍,V3、R1推理系统的优化目标就是追求“更大的吞吐,更低的延迟。”

  基于DeepSeek采取的混合专家模型核心架构(MOE),超大模型由众多规模较小的专家模型组成,并承担不同的分工。通俗用人类世界的团队合作来解释其中所需要的调度工作,如果一个团队要将各个领域的专家集合到一起来攻克某项任务,就需要事先把整体任务拆分成多个流程环节的任务,再按照分配给不同领域的专家,让他们每个人都发挥专业技能解决问题,最后汇总结论。

  DeepSeek在文中写道,由于DeepSeek-V3 / R1的专家数量众多,并且按照最初的设计规则,每层256个专家在实际运行中仅激活其中8个。要实现团队的“大吞吐,低延迟”的优化目标,就需要做到短时间处理大量任务时“高效调用”每个专家,也就是DeepSeek在文中提到的“大规模跨节点专家并行(Expert Parallelism / EP)”。

  “这是一项难度极大的平衡工作,如果模型优化分配上做不好,就会使得一个6000多亿参数的超大模型,每次可能只有8个或几个专家在实际运行,而且如果某一个没有运行完,剩下的所有专家可能在等待。等待则通常又意味着计算资源的浪费。”张奇认为,在DeepSeek开源前,混合专家模型的平衡设计对许多AI模型大厂都是尚未攻克的难题。

  此外,据DeepSeek介绍,另外,由于白天用户访问量大、服务负荷高,晚上的服务负荷低,团队实现了一套机制,在白天负荷高的时候,利用所有模型节点部署推理服务。晚上负荷低的时候,减少推理节点,以用来做研究和训练。

  根据DeepSeek统计,按照这套“白天推理——晚上训练”的方案规划,在最近的24小时内,将DeepSeek V3和R1推理服务占用节点加到一起,任务繁忙的高峰期最多占用278个节点,平均占用226.75个节点(每个节点为8个英伟达H800 GPU)。

  张奇认为,考虑到DeepSeek还有新模型项目及其他工作需要GPU,上述1800-2000张H800GPU(平均占用节点数乘以8个GPU),大概率已经用上了DeepSeek现阶段为DeepSeek V3与R1模型所能调用的“全部算力资源”。

  此前按照行业观点,DeepSeek的创新突破在于,在有限资源的环境下,将效率提升到了极致,从而实现了模型的低成本开发。在上述一系列优化效率的基础之上,才有了545%的成本利润率。

  但DeepSeek也强调,545%只是一个理论值,实际运行时没“有这么多收入”。因为 V3 的定价更低,同时收费服务只占一部分,另外夜间还另有折扣。

  此前,DeepSeek在同类模型厂商中就以“AI拼多多”的低价标签备受关注。

  去年推出V2模型时,DeepSeek就曾在4月首次将API调用价格降至输入1元/百万tokens、输出2元/百万tokens,引发了豆包、Kimi、文心一言等厂商的跟进,带动了第一波模型价格战。最新的V3模型服务定价仅为OpenAI同类模型4o的1/15,R1模型的价格也远低于同行。

  此次公布出的高利润率也让外界看清了DeepSeek降价的“底牌”。

  在此之前,业内一度热议“DeepSeek模型API定价过低是否会带来巨大亏损”,DeepSeek前研究员罗福莉去年5月在个人知乎上否认了这一点。据她透露,目前以DeepSeek现在的定价,大规模服提供服务,不亏本,利润率超50%。DeepSeek创始人梁文峰也在接受36氪媒体专访时提到,公司的定价策略是“原则上不亏本销售,也不追求过高利润。目前的定价仅在成本之上保留了一定的利润空间。”

  目前,业内宣布接入部署“满血版”DeepSeek R1模型的厂商大多以单机(8张GPU的服务器)、双机这一类小规模设备为主。据记者了解,“四机目前是业内考验公司技术能力的一道分水岭”。而随着服务器台数越多,规模化部署调度和优化难度越大,DeepSeek团队所实现的300多台服务器部署工程对团队技术能力要求更是急剧上升。

  眼下,虽然545%的成本利润率是DeepSeek基于大规模部署测算的一个理论值,实际的利润水平官方并未公布,但依然让行业开始看到了“赚钱的希望”。

  张奇认为,DeepSeek在公布利润率的同时也将模型优化方法开源,行业会更加积极学习这套优化方法部署DeepSeek。虽然对绝大多数公司来说,“知道”和“做到”是两件事,将同样优化方法落到实际会遇到各种新问题,但整个行业会在这方面进行更多尝试。

  (界面新闻记者伍洋宇对此文亦有贡献)

 

本文来自投稿,不代表牛批号立场,如若转载,请注明出处:https://cn.wwwhere.cn/zsfx/202503-46072.html

(0)
kkcc, kkcc的头像kkcc, kkcc

相关推荐

  • 玩家必备攻略“手机跑得快透视万能挂”确实真的有挂

    玩家必备攻略“手机跑得快透视万能挂”确实真的有挂咨询开挂请添加【添加图中微信】,咨询开挂请添加【添加图中微信】, “新”志所向,“企”愿同行!今天上午,黄浦区打浦桥街道“3·5”学雷锋志愿服务活动在中海国际中心举行。 一场别开生面的公益集市热闹开市,34个摊位有序排列,涵盖了健康义诊、企业服务、花艺美学、爱心义卖、教育指导、工会服务、法律咨询、就业服务、税务…

  • 教程辅助!“红包控制金额开挂”(确实是有挂)-知乎!

    教程辅助!“红包控制金额开挂”(确实是有挂)-知乎!咨询开挂请添加【添加图中微信】,咨询开挂请添加【添加图中微信】, 

    知识分享 2025年1月31日
    900
  • 3分钟学会“微信微乐必赢辅助器免费安装”(详细透视教程)-知乎

    3分钟学会“微信微乐必赢辅助器免费安装”(详细透视教程)-知乎咨询开挂请添加【添加图中微信】,咨询开挂请添加【添加图中微信】, 中新网清远2月13日电(张璐)2月12日晚,清远英德市举行一年一度的大湾舞火麒麟闹元宵活动(以下简称“活动”)。 夜幕初垂,英德市大湾镇的街巷早已被灯笼点亮,来自英德各地的群众集结大湾镇,观赏舞火麒麟表演及参加闹元宵系列活动。 傍晚…

    知识分享 2025年2月14日
    1000
  • 必看教程“微乐麻将怎么开免费的挂”(原来真的有挂)

    必看教程“微乐麻将怎么开免费的挂”(原来真的有挂)咨询开挂请添加【添加图中微信】,咨询开挂请添加【添加图中微信】,   新浪科技讯 2月20日午间消息,今日联想集团发布2024/25财年第三财季业绩。   联想集团董事长兼首席执行官杨元庆发布内部信。杨元庆表示,我们今天每个业务所取得的成绩,都是对正确战略全力以赴、坚定执行,并且持之以恒的结果。   杨元庆称…

    知识分享 2025年2月20日
    1000
  • 玩家必备攻略“微乐宁夏划水免费辅助器”其实确实有挂

    玩家必备攻略“微乐宁夏划水免费辅助器”其实确实有挂咨询开挂请添加【添加图中微信】,咨询开挂请添加【添加图中微信】, 跨栏、升旗、主题班会课……伴随着第一缕灿烂的阳光,新学期的序幕也已正式拉开。近日,华东政法大学附属松江实验学校,以“激情亚冬会 活力新学期”为主题,隆重举行了2024学年第二学期系列开学迎新活动。活动以非遗蛇年文化为纽带,融合亚冬会体育精神,通…

    知识分享 2025年2月22日
    1000

发表回复

登录后才能评论

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信