课程介绍

• 

  马博士

  研究员/技术专家/教授

  计算机博士，毕业于中国科学院计算技术研究所，主要从事计算机视觉、深度学习、强化学习技术研究与应用。

• 主题说明

  数值优化是机器学习的理论基础与核心内容，在各种机器学习算法中普遍存在。优化方法通过数学公式将目标函数定量表示，便于机器学习灵活地嵌入计算机视觉、自然语言处理等领域知识。本课程介绍机器学习及优化相关的数学基础与思维方式，将数值优化技术定制到特定的机器学习问题中，探讨凸优化（如支持向量机）与非凸优化（如深度学习）算法中的性能与精度等问题。

• 适合对象

  适合对机器学习及深度学习感兴趣的大学生、研究生、程序员等，好熟悉大学数学中的导数，线性代数等数学基础，以及基础的编程经验。

• 学习要点

  本次课程知识点

  ---

  第一课：机器学习与优化方法简介与关系

  1. 机器学习简介

  2. 优化问题求解与凸优化

  3. 典型案例：支持向量机与深度学习

   

  第二课：求解凸优化问题的算法

  1. 传统凸优化求解方法、一阶与二阶优化方法

  2. 机器学习问题求解的现成工具

  3. 案例：支持向量机中的凸优化方法

   

  第三课：深度学习与非凸优化

  1. 深度学习简介

  2. 深度模型训练中的优化问题

  3. 案例分析：深度学习中的梯度下降算法

• 课时安排

  本课程是一个系列课程：

  第一讲：机器学习与优化方法简介与关系

  第二讲：求解凸优化问题的算法

  第三讲：深度学习与非凸优化