主页 > 国内 >

蜗居

摩尔线程发布技术白皮书：破解长上下文推理成本瓶颈_我的网站

斯巴达克斯第三季

一 |

凤凰网科技讯 8月24日，摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，基于旗舰级AI训推一体智算卡MTT S5000，提出Prefill-Decode异构解耦方案，面向AI Agent、代码生成、超长文档分析等长上下文推理场景，旨在破解推理成本瓶颈。

白皮书指出，大模型输入上下文规模进入百K至1M级别后，Prefill（预填充，计算密集型）与Decode（解码，访存密集型）在同一资源池混跑造成结构性算力错配。解决方案是将二者彻底解耦，分别运行在各自最契合的硬件资源池上，实现单位Token基础设施成本大幅下降。

二 | MTT S5000硬件特性与Prefill任务高度契合：提供高稠密算力压缩首字时延，原生支持FP8全精度计算，并全面兼容CUDA及PyTorch、vLLM等主流推理框架。毎日キッチンに立つ、料理家の菅智香です。おにぎりは、忙しい朝の朝食やランチタイムの定番。实测数据显示，在64K上下文场景下，单机Prefill吞吐达95,920 tok/s，按智谱API定价测算，满负载下单机月收入可达64.6万元；400K极限长序列场景TPM达2.6MTokens，吞吐平稳可控。摩尔线程表示，大模型产业竞争下半场本质上是推理效率与商业回报的较量，该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。完整白皮书已在官网发布。でも、いつも同じ具材だと少しマンネリを感じてしまうこともありますよね。この記事では、冷めてもおいしいおにぎりレシピをご紹介します。

。

三 | 使うのは、「ちくわ」と「塩こんぶ」。この2つを合わせれば、大人から子どもまでやみつきになること間違いなしのひと品が完成しますよ。特別な調味料も必要なく、パパッと作れるので、レパートリーに加えておくと重宝します。ちくわと塩こんぶのおにぎりのレシピ材料（4人分）ごはん：320g ちくわ：3本塩こんぶ：15g 酒：大さじ1 白いりごま：小さじ2 ごま油：小さじ2 作り方ちくわを5mm幅に切る。フライパンにちくわを入れて中火にかける。焼き色が付いたら酒を加えてさっと炒める。

四 | 温めたごはんにちくわ、塩こんぶ、白いりごま、ごま油を入れてしゃもじで混ぜる。おにぎりの形に形成して完成。ポイントちくわは常温保存できる食品ではなく、冷蔵保存が必須です。

五 | 未加熱の状態で、冷蔵庫より温度が高くなるお弁当に入れることは、食中毒の危険性があるため必ず避けてください。今回のレシピはしっかり加熱しているため、お弁当にも安心して入れられます。また、開封したちくわは乾燥しやすいため、ラップで密閉して空気に触れないよう冷蔵保存しましょう。まとめちくわの食感と塩こんぶのコクが合わさった「ごちそうおにぎり」。ごま油の香ばしさが食欲をそそり、冷めても味がぼやけないため、お弁当やピクニックにも最適です。