盘古MoGE架构破解混合专家模型负载难题
混合专家模型(MoE)因其能以较低成本支持更大参数规模并实现稀疏激活而备受关注,但实际部署中常面临专家激活严重不均衡的问题,导致效率低下。针对此,盘古团队提出新型分组混合专家模型(MoGE),通过专家分组并约束组内等量激活,成功实现专家负载均衡,显著提升了模型在昇腾平台的部署效率。
基于MoGE架构,盘古Pro MoE模型总参数量达720亿,激活参数量为160亿,并针对昇腾平台进行了深度优化。在昇腾800I A2上,该模型实现了单卡高达1148 tokens/s的推理吞吐,借助投机加速等技术可进一步提升至1528 tokens/s,性能远超同规模稠密模型。同时,在昇腾300I Duo服务器上也实现了高性价比的推理方案。
研究与多项基准测试结果表明,昇腾NPU能够支持盘古Pro MoE的大规模并行训练,且该模型在千亿内总参数模型中处于领先地位,在中文、英文及推理等多个领域均超越了Qwen3-32B、GLM-Z1-32B等先进模型。
论文(英文)
📮投稿 ☘️频道 🧧狗东
混合专家模型(MoE)因其能以较低成本支持更大参数规模并实现稀疏激活而备受关注,但实际部署中常面临专家激活严重不均衡的问题,导致效率低下。针对此,盘古团队提出新型分组混合专家模型(MoGE),通过专家分组并约束组内等量激活,成功实现专家负载均衡,显著提升了模型在昇腾平台的部署效率。
基于MoGE架构,盘古Pro MoE模型总参数量达720亿,激活参数量为160亿,并针对昇腾平台进行了深度优化。在昇腾800I A2上,该模型实现了单卡高达1148 tokens/s的推理吞吐,借助投机加速等技术可进一步提升至1528 tokens/s,性能远超同规模稠密模型。同时,在昇腾300I Duo服务器上也实现了高性价比的推理方案。
研究与多项基准测试结果表明,昇腾NPU能够支持盘古Pro MoE的大规模并行训练,且该模型在千亿内总参数模型中处于领先地位,在中文、英文及推理等多个领域均超越了Qwen3-32B、GLM-Z1-32B等先进模型。
论文(英文)
📮投稿 ☘️频道 🧧狗东
来自频道: @zaihuapd
今天是全国科技工作者日,2024年中国公民科学素质调查结果显示:公民具备高阶科学素质的比例为2.30%,具备科学素质的比例为15.37%,基本具备科学素质的比例为44.07%。上述三类人群大致呈现出1:7:19的金字塔式分布。
调查首次引入并公布了“基本具备科学素质”的公民比例,该比例在2024年达到44.07%,对应18-69岁人口规模约4.4亿。
中国科学技术协会
📮投稿 ☘️频道 🧧狗东
来自频道: @zaihuapd
欧盟将于7月推出年龄验证应用程序以保护未成年人
欧盟计划于2025年7月推出一款新的年龄验证应用程序,用户可在不向平台透露个人信息的情况下验证年龄。该应用将作为2026年欧盟数字身份钱包的前身,协助更严格地执行网络平台保护未成年人的法律义务。欧盟尚未统一年龄验证方式,但要求涉及未成年人或有害内容的平台评估并降低相关风险。欧盟技术主管海娜·维尔库宁表示,平台应主动设计更安全、隐私保护更强的未成年人使用环境。欧盟还计划将儿童账户默认设为私密,并限制可能导致沉迷的功能设计。Meta、TikTok等平台因涉嫌“上瘾性设计”正接受调查,色情网站如Pornhub等也因年龄验证措施不足被立案审查。
Financial Times | AP News
📮投稿 ☘️频道 🧧狗东
欧盟计划于2025年7月推出一款新的年龄验证应用程序,用户可在不向平台透露个人信息的情况下验证年龄。该应用将作为2026年欧盟数字身份钱包的前身,协助更严格地执行网络平台保护未成年人的法律义务。欧盟尚未统一年龄验证方式,但要求涉及未成年人或有害内容的平台评估并降低相关风险。欧盟技术主管海娜·维尔库宁表示,平台应主动设计更安全、隐私保护更强的未成年人使用环境。欧盟还计划将儿童账户默认设为私密,并限制可能导致沉迷的功能设计。Meta、TikTok等平台因涉嫌“上瘾性设计”正接受调查,色情网站如Pornhub等也因年龄验证措施不足被立案审查。
Financial Times | AP News
📮投稿 ☘️频道 🧧狗东
来自频道: @zaihuapd
蔚来汽车5月30日宣布“蔚来世界模型NWM”首个版本正式推送,首批覆盖超40万台Banyan榕车型。此更新旨在通过先进的模型化能力,显著提升车辆的主动安全性能。
新版本重点升级了驾驶员失能时的紧急自主靠边停车、追尾碰撞预防及保护(RCM)以及通用障碍物识别(GOA)等关键安全功能。Cedar雪松车型(含ET9、新ES6等)预计6月底开启推送。
IT之家
📮投稿 ☘️频道 🧧狗东
来自频道: @zaihuapd
开发者上线AI工具,可通过分析YouTube评论推测用户位置与背景
名为“YouTube-Tools”的新网站近日上线,可抓取YouTube用户历史评论并利用AI生成背景分析报告,预测其可能居住地、语言能力和社会政治倾向。该工具基于Mistral公司的大语言模型开发,开发者声称其初衷为协助警方与私家侦探调查,但目前任何人仅需支付约20美元即可注册使用,无需身份验证,引发对隐私泄露和骚扰滥用的担忧。
该网站声称掌握14亿用户和200亿条评论数据。尽管服务条款称仅限执法和专业调查用途,但实际注册过程无须审核,404 Media记者仅凭邮箱和信用卡即成功获取访问权限。该项目源于先前的“LoL-Archiver”,还涵盖Twitch、Kick等平台的聊天与评论记录。
404 Media
📮投稿 ☘️频道 🧧狗东
名为“YouTube-Tools”的新网站近日上线,可抓取YouTube用户历史评论并利用AI生成背景分析报告,预测其可能居住地、语言能力和社会政治倾向。该工具基于Mistral公司的大语言模型开发,开发者声称其初衷为协助警方与私家侦探调查,但目前任何人仅需支付约20美元即可注册使用,无需身份验证,引发对隐私泄露和骚扰滥用的担忧。
该网站声称掌握14亿用户和200亿条评论数据。尽管服务条款称仅限执法和专业调查用途,但实际注册过程无须审核,404 Media记者仅凭邮箱和信用卡即成功获取访问权限。该项目源于先前的“LoL-Archiver”,还涵盖Twitch、Kick等平台的聊天与评论记录。
404 Media
📮投稿 ☘️频道 🧧狗东
来自频道: @zaihuapd
詹姆斯·韦伯太空望远镜(JWST)再次刷新自身纪录,观测到了迄今为止最遥远的星系 MoM-z14。该星系的光迹可追溯至宇宙大爆炸后仅2.8亿年的时期,其红移值高达14.44,超越了此前由 JADES-GS-z14-0 保持的14.18的纪录。
这一发现进一步证实了早期宇宙中存在着比科学家先前预期更多的明亮古老星系,对现有宇宙初期星系形成理论构成了挑战。MoM-z14 虽然体积相对小巧,直径约240光年,但其恒星形成活动异常活跃。其富含氮元素相对于碳元素的特征,与银河系中的古老球状星团相似,暗示了宇宙极早期可能存在着类似的恒星形成机制。研究人员期待未来能发现更多此类高红移星系,以深化对宇宙黎明时期的理解。
LIVESCIENCE
📮投稿 ☘️频道 🧧狗东
来自频道: @zaihuapd
微软暂缓自研Xbox掌机,全力优化Windows 11第三方掌机体验
微软目前已将自研Xbox掌机计划暂时搁置,转而优先提升Windows 11在第三方掌机上的游戏性能,重点支持与华硕合作的“Project Kennan”。该设备硬件已基本完成,预计今年年底发布,微软Xbox团队正与Windows团队密切配合,从系统和Xbox应用层面持续打磨用户体验。
与此同时,Xbox Series X后继机型依旧继续开发,微软对未来原生Xbox掌机技术的投资也未减,并未进行任何裁员。微软还在雷德蒙德总部测试新一代云游戏平台,旨在将延迟控制到与NVIDIA GeForce Now相当,为云游戏市场带来新竞争力。
Windows Central
📮投稿 ☘️频道 🧧狗东
微软目前已将自研Xbox掌机计划暂时搁置,转而优先提升Windows 11在第三方掌机上的游戏性能,重点支持与华硕合作的“Project Kennan”。该设备硬件已基本完成,预计今年年底发布,微软Xbox团队正与Windows团队密切配合,从系统和Xbox应用层面持续打磨用户体验。
与此同时,Xbox Series X后继机型依旧继续开发,微软对未来原生Xbox掌机技术的投资也未减,并未进行任何裁员。微软还在雷德蒙德总部测试新一代云游戏平台,旨在将延迟控制到与NVIDIA GeForce Now相当,为云游戏市场带来新竞争力。
Windows Central
📮投稿 ☘️频道 🧧狗东
来自频道: @zaihuapd