2024 全球C++及系统软件技术大会
课时介绍
章程瑞东、姜慧强
微软亚洲研究院研发工程师
演讲主题
如何在高度并行化的设备上利用大模型的稀疏性进行优化
漫长的训练与推理过程及其带来的高昂算力成本是当前大语言模型推广所面临的主要挑战之一。大量研究显示,大语言模型的计算负荷呈现出高度稀疏化的特点,这为降低算力成本提供了一定契机。然而,以 GPU 为代表的并行计算基础设施在执行稀疏计算时存在明显的效率问题,如何在并行计算设备上实现高效的稀疏计算是一个普遍存在的难题,稀疏计算的需求对传统的算子编程范式和模型编译系统也提出了新的挑战。
课程介绍
系统级软件是数字世界的基础设施,C++自1985年由Bjarne Stroustrup博士在贝尔实验室发明以来,一直被誉为系统级编程“皇冠上的明珠”。 秉承“全球专家、卓越智慧”的理念,我们特邀全球C++和系统级软件技术领域的大师、专家、学者,汇聚一堂。大会围绕现在C++最佳实践、架构与设计、大模型驱动的软件开发、AI 算力与优化、系统级软件及其他编程语言,深度探讨系统级软件技术领域的最佳工程实践和前沿方法。我们致力于将此次大会打造为系统软件领域规模最大、阵容最强、干货最多的高规格技术盛会!
推荐课程

信息系统项目管理师自考笔记
李明 · 671人在学

python从0到1:期货量化交易系统(CTP实战,高频及合成K线数据
王先生 · 21938人在学

手把手搭建Java超市管理系统【附源码】(毕设)
汤小洋 · 4179人在学

Java毕设springboot外卖点餐系统 毕业设计毕设源码 使用教
黄菊华 · 776人在学

基于SSM酒店管理系统(毕设)
小尼老师 · 827人在学

java项目实战之购物商城(java毕业设计)
Long · 5144人在学

手把手搭建Java求职招聘系统【附源码】(毕设)
汤小洋 · 1495人在学

Python Django 深度学习 小程序
钟翔 · 2302人在学

城管局门前三包管理系统+微信小程序(vue+springboot)
赖国荣 · 572人在学

Vue+Uni-app(uniapp)入门与实战+赠送仿美团点餐小程序
李杰 · 3959人在学