（来源：上观新闻）
“我们公司在1月0️⃣🥌底开始，基🛢🐮本上每两周我们😮的Token（消🚭🇳🇺耗）量就翻一番🧙♀️🎠，到现在基本翻了🕗黑帮老大和我的365天第二部 未删节10倍🚼💦。图源：YouTu🏢🇲🇺be@Alex💕 Zisk👺ind 将一个🕳🇧🇩120B级🤵🆗别的大模型🔤📘，用消费级👨🍳🍾芯片高效跑起来🇳🇮🤧，背后依赖的技🚎术，是创🔂🇰🇪始团队🏵提出的👨🦲💃推理加速引擎🍾🚴♀️Power🐦Inf👨👩👦👦📶er🇺🇸。
以一个 70B ⛈🔞参数的模型为🧮🇳🇮例，每🧒处理一个词元需👇要硬件🇱🇨🇸🇲执行1400👽🇼🇸 亿次浮点🎊🖐运算❌。“龙虾实现了用♈✔户付费习🔗惯教育，让T🏣oken从行业🌞✉技术指标变为😔⏱前端可🇼🇸感知的价值载体⚒🌭。但热闹过后，真🦗🐆正能留下来的，🍱😬一定是那😉些把交付系统做成🥢壁垒、把🔬成本结构💴控制到极🌒🇽🇰致、把复🍚购率做🤭🚧到可持续的玩家🇹🇲。
△Pamir 🚇AI🔓。数公里范围🍪🇺🇿内，高校、研🇩🇬究机构🤧、AI公司、🇬🇶🈴投资机构密🐖🐁集叠加🔕⚓。从基础设施角🚴🤛度看，资源终究有🔯限，站在“🇺🇾🇦🇸Token工厂”🐖的视角，能否🧧😌持续、稳🎏定、大规😵模地提❇供Token🇹🇴👩🎨，让顶尖模型真正👳♀️长期服务更多⛽😬下游场景，是一个🌶🇭🇳关键问题🧸☂。
