基础模型的根基_2024 11月全球机器学习大会-北京站-CSDN在线视频培训

多模态大模型前沿

基础模型的根基

课时介绍

颜水成  新加坡工程院院士、IEEE Fellow、昆仑万维荣誉顾问


演讲主题
基础模型的根基
在本次分享中，我将基础模型的研究分为三个方面，分别对应三种误差，即近似误差、估计误差和优化误差。在近似误差方面，我将分享最近在模型架构方面取得的两个新进展：MoE++ 和 MoH。关于估计误差，我将分享我们在数据整理如何帮助奖励模型训练方面取得的进展。在优化误差方面，我将分享我们的新优化器 Adan 以及如何优化超级参数的工作。同时，我还将分享我们的两个新产品：SkyMusic 和 SkyReels。

课程介绍

自1936年阿兰· 图灵提出「图灵机」以及机器具备「思维」的可能性以来，以机器学习为代表的人工智能经过飞速发展，深刻地改变着我们的世界。Boolan 秉承“全球专家，卓越智慧”的宗旨，特邀近50位技术领袖和行业应用专家，与1000+来自电商、金融、汽车、智能制造、通信、工业互联网、医疗、教育等众多行业的精英参会听众，共同探讨人工智能领域的前沿发展和行业最佳实践。