（来源：上观新闻）
财联社3月🕣30日讯（😿🌵编辑 🍢🔺马兰）本🏖🕛月早些时候，美⬇国国防🙊部将人工智能模型🇳🇦服务商Ant🍨☺hropic列👨👩👧👧📦为供应链风👓险，并禁止所有为✂军队服务的机构与⌛⌨Anthrop🔭☸ic合作🧶🥵。Tera🚍6️⃣fab📂🇵🇦未来要产出1T📙W的算力，🐀约相当于当🇸🇧前全球AI算力总🥪🧫产能的🀄50倍✴。” 他们发现📡🇯🇵，尺寸在100B⬆👣左右的模型，已经🌔🇸🇦具备了😠💎推理逻辑，工🍪🧭具调用的能力已👨🏫💝经可以🇹🇫😐满足人们7🚥🐟0%-80🏕五十度灰 无删减%的使用场景🆎。
然而，浪潮👡👨🌾之下，必有水分🧗♀️😂。维修手册👤动辄成千🇪🇪🦒上万页🦟，图文关系极💐🚖其复杂😵⚔。大的思路上，🕠😴要更加注重创新驱🧻🥌动，尽快突破关👨🎤💞键核心技术，💺推动海洋🥅🗿科技实🌕现高水🧚♂️平自立自强🎓🥅。这篇帖🦂子非常简单地总➰🈁结了 Turb🐡🐀oQuant 这☁👆个算法的⏯🚪用处 —— 🇮🇷它能把大模🏜型推理时的🚓🌧 KV🌀🔉 cac🛶🏁he 内存压🇺🇸🏋缩到 🇬🇾🦈3.5 bi🏵t（约 6 倍🇨🇮），而且几乎♻🎩不丢精度🌶。
