您现在的位置是: > 近期传言
摩我线程携手智源钻研院实现基于Triton的小大模子算子库适配
2025-02-23 01:26:52【近期传言】3人已围观
简介远日,摩我线程与北京智源家养智能钻研院简称:智源钻研院)已经顺遂实现基于Triton讲话的下功能算子库FlagGems的适配工做。患上益于摩我线程自研统一系统合计架构MUSA,双圆正在短短一周多的时候
远日,摩线摩我线程与北京智源家养智能钻研院(简称:智源钻研院)已经顺遂实现基于Triton讲话的程携下功能算子库FlagGems的适配工做。患上益于摩我线程自研统一系统合计架构MUSA,手智实现算库适配双圆正在短短一周多的源钻研院时候里,即乐成实现为了远60个算子的基于功能验证,细度相宜拜托尺度,小大模并真现对于Bert-large模子的摩线周齐反对于。FlagGems算子库正在摩我线程MUSA架构上提醉出了接远足写算子的程携合计功能,且功能借正在延绝调劣,手智实现算库适配极小大减速了开源小大模子正在摩我线程齐功能GPU上的源钻研院布置速率。
智源钻研院正在往年的基于智源小大会上推出了FlagGems算子库,那是小大模一个操做Triton编程讲话真现的下功能通用算子库,旨正在为小大讲话模子提供一系列可操做于PyTorch框架的摩线算子,减速模子的程携推理与实习,降降新算法的手智实现算库适配斥天门槛,增长芯片架构的坐异。FlagGems算子库以Triton编程讲话的易用性战编译器的尺度接心为底子,为多元芯片提供了一套易适配、下功能的算子处置妄想,拷打基于Triton的同一、开源的硬硬件去世态建设。
正在适配历程中,摩我线程与智源钻研院团队慎稀开做,配开克制了一系列足艺挑战,确保FlagGems算子库正在摩我线程齐功能GPU上的下效晃动运行。摩我线程研收团队经由充真调研论证,借组成为了Triton编译器正在MUSA架构上适配的残缺妄想,力务真现斥天者正在基于摩我线程齐功能GPU妨碍Triton斥天算子历程中,也能患上到与本去不同的体验,做到CUDA框架战MUSA框架的无缝迁移。
这次开做不但充真提醉了摩我线程齐功能GPU强盛大的兼容性、灵便性与扩大性,也为斥天者战用户带去了更普遍的抉择战更下效的斥天体验。摩我线程战智源钻研院将继绝深入开做,配开增长AI足艺的去世少战操做,为中国小大模子的成前途献实力。
闭于智源钻研院
北京智源家养智能钻研院(简称:智源钻研院)是北京市于2018年11月拷打竖坐的新型研收机构。智源钻研院的中间目的是散焦家养智能本初坐异战中间足艺,拷刺探工智能实际、格式、工具、系统战操做患上到修正性、倾覆性突破,反对于北京建设成为齐球家养智能教术惦记、底子实际、顶尖强人、企业坐异战去世少政策的源头。
闭于摩我线程
摩我线程竖坐于2020年10月,以齐功能GPU为中间,起劲于背齐球提供减速计算的底子配置装备部署战一站式处置妄想,为各止各业的数智化转型提供强盛大的AI合计反对于。
咱们的目的是成为具备国内开做力的GPU收军企业,为流利融会家养智能战数字孪去世的数智天下挨制先进的减速合计仄台。咱们的愿景是为宜晴天下减速。
很赞哦!(17634)
上一篇: 环保部日前宣告了新的进心废物环控尺度
站长推荐
友情链接
- 拷打海陆一体化建设 强化海陆传染同防同治
- 仄易远盟中间:雄安建设要看重呵护黑洋淀
- 齐国政协委员朱晓进:增强少江水去世去世物呵护 实用复原少江去世态功能
- 陕西西安将启动新一轮“铁腕治霾·捍卫蓝天”三年动做
- 估量今日诰昼夜间重传染历程竣事
- 企业自建自用的污水处置场所是不是需供缴纳环保税?
- 天津市定下齐年环保工做使命
- 《核牢靠法》的坐法目的战开用规模解读
- 去世态横蛮建设政协提案达403件
- 情景检测应捉住“一带一起”契机
- “多传染多征税”敲响警钟
- 天津往年PM2.5年均浓度需降至59ug/m³
- 新安江去世态赚偿机制两轮试面患上到去世态、经济、制度等多圆里效益
- 村落降复原:墟开工立足立命的标致他乡
- 环保财富迈背良性轨讲 强人是闭头因素
- 环保部副部少:把重面天域的煤冰斲丧总量克制上来
- 蓝天捍卫战做战图匹里劈头绘便
- 京津冀延绝空气重传染历程逐渐竣事
- 3月15日起京津冀及周边空宇量量匹里劈头改擅
- 情景呵护部传递3月京津冀及周边天域空宇量量模式
- 代表委员吸吁自动提防微塑料危害
- 呵护绿水青山 杰瑞正在动做
- 仄易远盟建议雄安建设看重呵护黑洋淀
- 北京古明两天抵达传染峰值
- 中间财政拷打山水林田湖草去世态呵护建复
- 正在土壤坐法中起尾竖坐去世态情景益伤赚偿制度
- 鲁建禄:环保是经济下量量去世少的能源
- 专家展看3月9~15日京津冀及周边隐现传染历程
- 蓝天捍卫战该若何睁开?
- 北京启动空气重传染橙色预警要收
- 北京:启动重传染橙色预警
- 天津往年PM2.5年均浓度需再次降降
- 正在土壤坐法中竖坐去世态情景益伤赚偿制度 处置迫正在眉睫
- 周潮洪:挨赢京津冀水传染防治攻坚战
- 2018年两会:环保热面规模不雅见识节选
- 天津确定往年环保工做使命
- 京津冀往年第五次小大气重传染:尾要传染物“不开”
- 重面天域PM2.5浓度继绝降降
- 情景呵护部子细人回应体贴:挨好传染防治攻坚战
- 环保部:宽查“已经批先建”名目
- 环保部:“2+26”皆市古起真止特意排放限值
- 90 秒“老”10 年,Levi’s 念用激光做更环保的牛崽裤
- 专家解读三月四日京津冀沙尘天气
- 王金北院士:“煤改电”对于京津冀天域空气改擅功不成出
- 政协开幕 去世态横蛮建设成提案尾要内容
- 三北防护林是雾霾爪牙?专家:毫无道理
- 重传染天气将杀“回马枪”小大气规画仍正在背重前止
- 河北布告王东峰:违心益掉踪GDP也要确保蓝天黑云
- 危兴处置足艺坐异高峰正在即正在咫尺
- 3月11日~14日京津冀及周边传染模式阐收
- 山西省收略了往年环保规画标的目的
- 京津冀及周边空宇量量古起匹里劈头改擅
- 去世态赚偿制下场赫然 皖浙携手共护一江秋水
- 中国情景监测总站便3月11日~14日京津冀及周边传染模式的阐收
- 完好环保规模“两法衔接”机制
- 北京今日24时将消除了空气重传染橙色预警