课程介绍

• 

  黄博士

  研究员/技术专家/教授

  浙江大学应用数学系博士，现任教于浙江师范大学，专业从事公共课数学教学，包括线性代数、高等数学等学科。

• 主题说明

  本课程囊括了机器学习理论中所需要的和线性代数相关的所有知识。 主要有矩阵的定义、性质、运算、分解以及应用。另外，还会讲解线性空间、范数、生成子空间相关知识。

• 适合对象

  机器学习相关人士或者在校大学生。

• 学习要点

  本次课程知识点

  ---

  第一课：矩阵初步

  1. 矩阵的基本概念：

  （1）实数、向量、矩阵、张量

  （2）矩阵和向量的关系

  （3）矩阵和方程组的关系

  （4）特殊矩阵：单位矩阵，数量矩阵，对角矩阵，三角矩阵 

  2. 矩阵的基本运算：

  （1）矩阵的加、减、乘（数乘和矩阵乘法）、除，转置（对称矩阵），求行列式

  （2）方程组的矩阵表示

  （3）矩阵三个初等变换

  （4）矩阵的逆、秩、迹

   

  第二课：矩阵变换和线性空间

  1. 线性空间

  （1）线性的概念、线性相关、线性表示（线性组合）和方程组的关系

  （2）线性空间、线性子空间（生成子空间）、向量组的值域和核

  （3）线性空间的范数、范数（p=1、2、）、矩阵的Frobenius范数

  2. 矩阵分解

  （1）特征分解、正交分解、正定（半正定）矩阵、正定矩阵和特征分解之间的关系、SVD分解（Moore-Penrose伪逆）

  （2）应用举例：PCA

   

  第三课：矩阵求导

  1. 梯度向量、Hessin矩阵、方向导数、多元函数泰勒展开、梯度下降

  2. 应用举例：小二乘法

• 课时安排

  本课程是一个系列课程：

  第一讲：矩阵初步

  第二讲：矩阵变换和线性空间

  第三讲：矩阵求导