小米大模型上线新模式 推理速度突破1000 tokens/s
6月8日晚,小米型上线新小米MiMo技术团队正式上线Xiaomi MiMo-V2.5-Pro-UltraSpeed模式,大模在通用GPU上推理速度突破1000 tokens/s。模式
MiMo-V2.5-Pro-UltraSpeed通过对模型推理系统的推理突破全链路工程能力优化,在不降低模型能力前提下,速度首次把推理速度提升至1000 tokens/s,小米型上线新且无需定制芯片、大模只使用通用GPU即可达成。模式这一突破打破了“快、推理突破强、速度通用 GPU无法兼得”的小米型上线新行业不可能三角。
小米MiMo技术团队表示,大模该突破是模式基于Xiaomi MiMo-V2.5 Pro的SWA架构,叠加了FP4 Experts、推理突破DFlash解码以及TileRT团队的速度执行系统Co‑design,从模型到推理引擎再到GPU执行路径进行了全链路优化。
即日起至6月23日,MiMo-V2-Pro-UltraSpeed模式将采取申请制限时开放,通过申请的用户可接入API 进行体验。
自4月底以来,小米AI在模型能力、推理成本和推理效率三个维度接连取得突破:4月23日, MiMo-V2.5-Pro在全球权威大模型测评平台Artificial Analysis上,获得综合智能指数与Agent指数全球开源模型并列第一;5月27日,Xiaomi MiMo-V2.5系列模型API因技术优化宣布最高降价99%,并同步调整Token Plan计费体系。6月8日,MiMo-V2.5-Pro-UltraSpeed以1000 tokens/s创下万亿参数旗舰模型推理速度新纪录。
(责任编辑:百科)
-
看起来,4A Games工作室决定孤注一掷,展示真正的"次世代"画面,代价则是性能表现。根据《地铁2039》的首份技术分析报告,这款游戏似乎将展示最高级别的画面,但主机玩家将不得不接受严苛的限制。开发
...[详细]
-
5月21日,爱奇艺发布2025年Q1财报,一季度总收入为71.9亿元,环比增长9%。雷峰网(公众号:雷峰网)雷峰网雷峰网)其中,会员服务收入44亿元,归属于爱奇艺的净利润为1.821亿元,在线广告服务
...[详细]
-
在立法院水火不容的黨派競爭下,賴幸媛如何能贏得跨黨派支持,成功推動法案?
...[详细]
-
近日,演员刘烨的妻子安娜一口气晒出18宫格,分享一家四口在地中海度假的快乐时刻并配文:海、太阳和山,幸福的家庭时间,字里行间都充透露着幸福的氛围。不少网友表示:“这一家人太幸福了,每个人都
...[详细]
-
2018年8月17日浮法玻璃产能利用率为72.29%;环比上周上涨-0.16%,同比去年上涨-0.22%。在产产能94230万重箱,环比上周增加120万重箱,同比去年增加546万重箱。
...[详细]
-
AI摘要:2026年“闽超”第三轮上演闽南德比,泉州队客场对阵厦门队,比赛中泉州队一人被红牌罚下,最终0比2落败。AI摘要及本文部分素材由福建省智能媒体资源库省级平台提供&ld
...[详细]
-
在经历了删减、改名、延期之后,迟到了八个月的《夺冠》(原名《中国女排》)终于来了。有人说它剧情空洞,情感铺垫不到位,没有起承转合,强行煽情。有人说被它燃到飙泪,可以感受到女排精神振奋鼓舞了几个时代的人
...[详细]
-
天下水坊花生原浆植物蛋白饮料,传统工艺酿造,让健康自然流露!
发布者:小川 浏览量:14687发布时间:2018/8/20 17:57:46 近期有很多经销商向小编吐槽:市场上各种各样的产品让人眼花缭乱,特别是植物蛋白饮料更是五花八门,
...[详细]
-
魔怪大咖强化维生素C果味饮料,何以分食国内千亿功能饮料市场?
发布者:沛琦 浏览量:17199发布时间:2018/6/28 16:06:22 在如今功能饮料市场“百家争鸣”的竞争环境中,先来者未必能站稳脚跟,后到者也有机会冲到前面,比如
...[详细]
-
神祕又多金的私募股權投資公司正在全球瘋狂血拼,到處併購企業。正當台灣開始對私募股權投資招手時,歐美等地早已掀起了私募股權究竟是「罪人」還是「救星」的兩極爭議。
...[详细]

蚂蚁灵波开源 LingBot
促进毕业生就业 超半数受访者希望完善在校生实习实训
寒潮、暴雪、冰冻、大风 中央气象台四预警齐发
八部影片半数撤档 春节档为何出现罕见“撤档潮”
可以只买重疾险吗?哪些情况不可以买重疾险
