（来源：上观新闻）
以一个 70B👱♀️🕔 参数🎢的模型为例，每🍟处理一个词元🚝需要硬件执行14🤞00 🇦🇷亿次浮点运🛋算🔀🚑。连街镇都为海淀⛩👩🎨赘婿的AI事业😃🔐贡献力量🇲🇺📶。成本的另一🎅🇬🇫半答案，来自🌀整个中国供应链的🗜🔤集体提速🍞🇹🇩。Counter🛤📩poi🎻‼nt R🈚🏁ese🚰arch📶🏥副总监Etha🦀n Qi在采访中🏟也表示：中🗑💤国完整的供应💔链体系，使从业👨🌾者能以明显低于其🇯🇴🦗他地区的成本开🇬🇭👨👩👦👦发和制🍇造机器人🥀㊗。
随着AI👩🦰从生产力♿💽工具扩展Ⓜ🍎到消费端场景，🥔个人口味、🉑🧖♀️风格与偏好🏡🇮🇸的差异将进一🈚😓步强化🚨这种多元化格局⚰🇱🇰。进一步看，模型处🌾理词元的过程是🤫一个复杂💷的“自📪回归”推理👨🏫🇹🇦。研究团队没有简☀单地使用所🖇🕺有可获得的数据🌡，而是采🚴♀️用了多重过🍢🥏滤机制🎒👁，确保🔎每个训练⛸样本都具🚵⚪有高质量和独特🛬价值👨🔬。通过将龙虾♊⛸、Sk🇰🇭🈳ills⌨👩💼（技能文档）打包🏐，并将模型本🇮🇳地部署在外接⏲硬件中，既📗能省去复杂的部署♥♑流程，😞🌃还能通过对🌇🎤模型的本🐣🇪🇺地调用🔊，不产生额😏外的Toke📍🚵♀️n消耗🇰🇿。
此外，材🎮🏨料价格🤨👨✈️上涨也是原🎞因之一💹🏅。就算Sp👩🚀🚖aceX未来几年🇲🇰⚫收入利润⏲🏡继续翻📹倍，比如星链收🎢🤮入增长到200~😎300🔮亿美元🐭的规模，也很🇸🇾难支撑1🥽🇸🇾.75万亿美👁👨👨👧元的估值🦔。这篇帖子非常简🐚⛓单地总结了 Tu🇨🇴rboQua➰nt 这🥍个算法的用处🧯🤗 ——👨❤️💋👨🖨 它能把大🍗🚐模型推理时的 K🏔V cacℹ🚡he 内存压缩☕🌄到 3.5🇼🇸🇨🇻 bit（约💈 6 倍），🦏🍵而且几乎不丢精度🙋♂️。
