摩尔线程与无问芯穹在国产GPU上首次实现大模型实训
我要评论摩尔线程联合无问芯穹宣布，无问双方在近日正式完成基于国产全功能GPU千卡集群的国产3B规模大模型实训。该模型名为“MT-infini-3B”，上首次实现吸毒图片在摩尔线程夸娥（KUAE）千卡智算集群与无问芯穹AIStudio PaaS平台上完成了高效稳定的大模训练。本次实训充分验证了夸娥千卡智算集群在大模型训练场景下的线程芯穹型实训可靠性，同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的无问新范式。
MT-infini-3B模型训练总用时13.2天，国产经过精度调试，上首次实现实现全程稳定训练不中断，大模集群训练稳定性达到100%，线程芯穹型实训男士刘海发型图片千卡训练和单机相比扩展效率超过90%。无问目前，国产实训出来的上首次实现MT-infini-3B性能在同规模模型中跻身前列，相比在国际主流硬件上训练而成的大模其他模型，在C-Eval，非洲女人露B高清图MMLU，CMMLU等3个测试集上均实现性能领先。
MT-infini-3B性能表现
无问芯穹联合创始人兼CEO夏立雪表示：“国内大模型与国产芯片的软硬件协同发展，最终目标是构建一个成熟的生态系统。无问芯穹正在打造‘M种模型’和‘N种芯片’间的‘M×N’中间层产品，实现多种大模型算法在多元芯片上的高效、统一部署。摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司，妩媚女图片而‘MT-infini-3B’的训练是行业内首次实现基于国产GPU芯片从0到1的端到端大模型实训案例。”
摩尔线程创始人兼CEO张建中表示：“无问芯穹在夸娥千卡智算集群上实现的从零开始的大模型训练，不仅是对摩尔线程技术实力的有力认证，更是实现了国内大模型训练的国产化闭环。摩尔线程夸娥千卡智算集群以全功能GPU为底座，提供软硬一体化的全栈解决方案，具备高兼容性、高稳定性、高扩展性等综合优势，我们致力于成为AGI时代大模型训练坚实可靠的先进基础设施。”
此前，摩尔线程与无问芯穹已达成深度战略合作。无问芯穹大模型开发与服务平台“无穹Infini-AI”和摩尔线程大模型智算千卡集群夸娥已完成系统级融合适配，该平台可以灵活调用夸娥的集群能力以完成大模型的训练、微调与推理任务。未来，双方还将开展更多适配与测试，推动国产大模型技术的快速发展与应用普及，为中国人工智能产业的蓬勃发展贡献力量。
相关文章
《探秘昆仑山：1983 年的神秘事件与传奇之旅》嘿，朋友们！今天咱要来聊聊那神秘无比的昆仑山，尤其是 1983 年发生在那里的一场惊心动魄的事件。传说中的“屠龙”始末，还有那百人科考队变成干尸的惊人一2024-09-22
人说河北三宝是“沧州的狮子定州塔，正定府的大菩萨”——紧挨着“河北三宝”之一定州开元寺塔的定州博物馆，被称为“县级博物馆天花板”，不仅是国家一级博物馆，而且拥有3件国宝级文物，古中山文化、定瓷文化都是2024-09-22
盗用育种亲本材料违法，如何捍卫商业秘密 | 维权日记③_南方+_南方plus创新是引领发展的第一动力，保护知识产权就是保护创新。我国已建立健全植物新品种权、专利权、商业秘密等多重法律制度规定，不断强化2024-09-22
或许是中秋、国庆假期陆续将至的缘故，一块3000多年前的“请假条大合集”古埃及石板，再度被人提起并走红 *** 。这块石板藏于大英博物馆，出土自埃及南部的代尔麦地那，此处考古遗址位于埃及南部的卢克索，2024-09-22
她是溥仪最小的妹妹，活到2004年，临终说了一句溥仪不敢说的话
1906年，溥仪出生在醇亲王府，他是醇亲王载沣的儿子，2年后光绪病重，为了给大清帝国续命，慈禧下令将溥仪抱入宫中抚养，为此，溥仪的奶奶刘佳氏听后直接晕厥过去，她知道，自己的孙子从此注定了悲哀的命运。光2024-09-22
新酷产品第一时间免费试玩，还有众多优质达人分享独到生活经验，快来新浪众测，体验各领域最前沿、最有趣、最好玩的产品吧~！下载客户端还能获得专享福利哦！在如今选购智能手机时，不少朋友倾向于选择高容量版本，2024-09-22
最新评论