腾讯混元开源首款混合推理MoE模型，性能优异，激活参数仅13B
6月27日，腾讯推理腾讯混元宣布开源首个混合推理MoE模型 Hunyuan-A13B，混元混合活参总参数80B，开源激活参数仅13B，首款数仅效果比肩同等架构领先开源模型，型性但是异激推理速度更快，性价比更高。腾讯推理这意味着，混元混合活参开发者可以用更低门槛的开源方式获得更好的模型能力。
即日起，首款数仅模型已经在 Github 和 Huggingface 等开源社区上线，型性同时模型API也在腾讯云官网正式上线，异激支持快速接入部署。腾讯推理
这是混元混合活参业界首个13B级别的MoE开源混合推理模型，基于先进的开源模型架构，Hunyuan-A13B表现出强大的通用能力，在多个业内权威数据测试集上获得好成绩，并且在Agent工具调用和长文能力上有突出表现。
*加粗为最高分，下划线表示第二名，数据来源于模型各个公开的测试数据集得分
对于时下热门的大模型Agent能力，腾讯混元建设了一套多Agent数据合成框架，接入了MCP、沙箱、大语言模型模拟等多样的环境，并且通过强化学习让Agent在多种环境里进行自主探索与学习，进一步提升了Hunyuan-A13B的效果。
在长文方面，Hunyuan-A13B支持256K原生上下文窗口，在多个长文数据集中取得了优异的成绩。
在实际使用场景中，Hunyuan-A13B模型可以根据需要选择思考模式，快思考模式提供简洁、高效的输出，适合追求速度和最小计算开销的简单任务；慢思考涉及更深、更全面的推理步骤，如反思和回溯。这种融合推理模式优化了计算资源分配，使用户能够通过加think/no_think切换思考模式，在效率和特定任务准确性之间取得平衡。
Hunyuan-A13B模型对个人开发者较为友好，在严格条件下，只需要1张中低端GPU卡即可部署。目前，Hunyuan-A13B已经融入开源主流推理框架生态，无损支持多种量化格式，在相同输入输出规模上，整体吞吐是前沿开源模型的2倍以上。
Hunyuan-A13B 集合了腾讯混元在模型预训练、后训练等多个环节的创新技术，这些技术共同增强了其推理性能、灵活性和推理效率。
预训练环节，Hunyuan-A13B 训练了20T tokens的语料，覆盖了多个领域。高质量的语料显著提升了模型通用能力。此外，在模型架构上，腾讯混元团队通过系统性分析，建模与验证，构建了适用于 MoE 架构的 Scaling Law 联合公式。这一发现完善了MoE 架构的 Scaling Law 理论体系，并为 MoE 架构设计提供了可量化的工程化指导，也极大的提升了模型预训练的效果。
后训练环节，Hunyuan-A13B采用了多阶段的训练方式，提升了模型的推理能力，同时兼顾了模型创作、理解、Agent等通用能力。
图：Hunyuan-A13B后训练四个步骤
为更好的提升大语言模型能力，腾讯混元也开源了两个新的数据集，以填补行业内相关评估标准的空白。其中，ArtifactsBench用于弥合大语言模型代码生成评估中的视觉与交互鸿沟，构建了一个包含 1825个任务的新基准，涵盖了从网页开发、数据可视化到交互式游戏等九大领域，并按难度分级以全面评估模型的能力；C3-Bench针对Agent场景模型面临的三个关键挑战：规划复杂的工具关系、处理关键的隐藏信息以及动态路径决策，设计了1024条测试数据，以发现模型能力的不足。
Hunyuan-A13B模型是腾讯内部应用和调用量最大的大语言模型之一，有超过 400+ 业务用于精调或者直接调用，日均请求超1.3亿。本次进行升级更新并对外开源 ，是继混元large后混元大语言模型推出的又一重要开源模型，参数更小，但是性能和效果实现了大幅的提升。接下来，腾讯混元也将推出更多尺寸、更多特色的模型，将更多实践技术与社区共享，促进大模型开源生态的繁荣。
腾讯混元坚定拥抱开源，持续推进多尺寸、多场景的全系模型开源，旗下图像、视频、3D、文本等多种模态基础模型已全面开源。未来，混元计划推出多尺寸混合推理模型，从0.5B到32B的dense模型，以及激活13B的MoE模型，适配企业与端侧不同需求，混元图像、视频、3D等多模态基础模型及配套插件模型也将持续开源。
附项目相关链接
l 体验入口：https://hunyuan.tencent.com/
l API地址：https://cloud.tencent.com/product/tclm
l Github ：https://github.com/Tencent-Hunyuan
l HuggingFace：https://huggingface.co/tencent
l C3-Bench：https://github.com/Tencent-Hunyuan/C3-Benchmark
l ArtifactsBench：https://github.com/Tencent-Hunyuan/ArtifactsBenchmark
(责任编辑：焦点)
我市6月份居民消费价格指数同比上涨1.0%_
旋转玻璃门主要构成部件 旋转玻璃门有何结构特点,行业资讯
《方舟：生存飞升》重制生物镰刀龙＆南方巨兽龙爆料
豫逾1600万人受益南水北调 累计供水18亿立方米
颁奖台上直接动手 《反恐精英》选手因袭击对手被禁赛10年-
6月22日，国内网安龙头奇安信宣布启动"AI时代，攻防先行"系列新品发布周。面对黑客开始用AI批量发起攻击的新现实，奇安信率先打出一套AI防御"组合拳"——多款
...[详细]
-
童话冒险游戏《Moss: The Forgotten Relic》今日 正式发售 ，现已登陆 Steam
踏入温暖动人的魔法绘本世界， 陪伴小英雄 Qui l展开勇气与成长的冒险屡获殊荣的独立游戏开发工作室Polyarc今日宣布 ，《Moss》系列重制整合作品《Moss: The Forgotten Re
...[详细]
-
Mariumittu Games 与 Annapurna Interactive 今日正式宣布 ，叙事科幻冒险游戏《D-Topia》现已正式发售。本作将带领玩家探索一个由人工智能成功打造“完美社会”后
...[详细]
-
发布者：梦洁 浏览量：9929发布时间：2021/8/12 17:18:49 在速食食品中，螺蛳粉、红油面皮和火鸡面三类单品备受消费者好评，也是大家心中的网红级食品。网红速食
...[详细]
-
近日，魔法原子与京东正式签署战略合作协议。双方将围绕消费级具身产品，以及教育、巡检、导览等重点场景展开深度合作，以技术共研、产品共创、场景共拓、生态共建为核心，打造覆盖研发创新、产品孵化、场景落地、渠
...[详细]
-
导读： 两全保险作为一种既能保障生命安全，又能获得投资收益的保险产品，更是受到了广大消费者的青睐。然而对于两全保险是否可以质押这一问题，许
...[详细]
-
导读： 意外定期寿险，作为一种基础的风险保障工具，主要提供意外身故和全残保障。理赔范围通常包括因意外伤害造成的死亡或全残，以及因意外产生的
...[详细]
-
导读： 学生意外险是专为在校学生设计的保险产品，旨在保障学生在校期间及日常生活中的意外伤害风险。本文将详细解读学生意外险的报销范围及报销流
...[详细]
-
一位用户在从Windows 10升级至Windows 11后发现，其三星970 Evo NVMe SSD的性能出现严重衰减，顺序读取速度暴跌至897 MB/s，降幅达75%，顺序写入降至859 MB/
...[详细]
-
近日，西班牙语游戏新闻频道eXtas1s爆料了一起针对Rockstar Games的严重网络安全事件。据其报道，黑客组织808 Mafia已从发布零散信息转向大规模泄露Rockstar India分部
...[详细]
