Theme
Tags
Series
线性代数的基本应用是解方程组,从几何的角度来看待线性代数和方程组的解。
(高斯)消元法 Gaussian elimination 是很多软件用于求解方程组的方法,结合回代替换 backward substitution,最终可以求出方程组各个未知数的值。
本次复习课的问题是为了测试你对于知识的理解深度。请留意在课程总结文档的最后部分还有一些小问题(有答案)。本单元学习到子空间的核心内容,这会对线性代数有一个更高层次的理解。
在这次考试中,你需要了解消元法,以及知道如何使用简单的消元矩阵 E(它的对角线上要有一个非零值)。
当向量用正交的基来描述时,它们更容易理解。向量空间中的四个基本子空间彼此正交。
我们通常会去寻找拟合数据的最佳直线(平面或超平面)。这相当于寻找无法求解的线性方程组 Ax=b 的解的最佳近似值。通过线性代数来解决这一类问题的第一步是将向量投影到子空间上。
线性回归是一种回归分析的方法,通常用于将一条直线拟合到一组数据上。线性代数为线性回归提供了强大而有效的求解方式,在求解直线方程时所用的最小二乘法,从线性代数的角度可以看作是寻找向量的投影。
当使用正交向量或正交矩阵时会让许多计算变得更加简单,在这一节课中学习使用 Gram-Schmidt 法,基于任意基的矩阵生成/转变为一个正交矩阵。
行列式是一个与矩阵相关的数字,例如矩阵为可逆矩阵时,它的行列式为非零
行列式的通用求解公式,以及代数余子式,并求解三对角矩阵的的行列式
本课程介绍行列式的 3 个应用,逆矩阵的代数表达式,克拉默法则求解方程组,使用行列式求解几何面积或体积
介绍矩阵的特征值和特征向量的求解算法以及特性
这一节课介绍特征值和特征向量的一个应用场景,矩阵的对角化和求解差分方程,这涉及到矩阵的幂。对于具有 n 个线性独立的特征向量的矩阵可以进行对角化,并用该特性求解矩阵的幂(可用于解决差分方程)。
这一节课介绍特征值和特征向量的另一个应用场景,用于求解微分方程组,这涉及到矩阵指数。参照 exp(x) 的泰勒级数对矩阵指数 exp(At) 进行定义,并通过矩阵 A 的对角化分解进行化简,求出具体的值。
马尔可夫矩阵可用于描述随时间变化的系统,同样是通过它的特征值和特征向量来研究该系统的趋势。傅立叶级数将周期函数表示为无限维向量空间中的点。
第二单元涵盖了课程的核心部分,本次复习课回顾了矩阵的正交性和最小二乘法,以及行列式和特征值。
特殊的矩阵的特征值和特征向量会有特殊的规律,例如对称矩阵和正定矩阵。研究这些矩阵可以将之前学过的主元、行列式和特征值的知识联系在一起。在这个课程中还练习了用复数来进行线性代数运算,并了解了主元如何给出一个对称矩阵的特征值信息。
本节课主要介绍复数向量和复数矩阵。Fourier Matrix 傅立叶矩阵是最重要的一种复数矩阵之一,它被用于傅立叶变换,通过快速傅立叶变换 FFT(矩阵分解)可以将矩阵的相乘运算量降低。
在该课程中将学习四种判定矩阵正定性的方法,并了解矩阵的正定性对函数极值(几何相关)的影响。
这节课介绍相似矩阵,它们满足一个等式。相似的矩阵可以归为一类,每个分类都有一个「最优」的代表,即若尔当标准形,从这个标准形可以一眼看出特征值和特征向量的数量。
奇异值分解 singular value decomposition,简称为 SVD,是将矩阵分解的一种方式,该操作将四个基本子空间相互联系起来
如果引入坐标系来描述线性变换,则每个线性变换都可以生成/对应到一个矩阵
可以选择不同的基向量组合来表示同一个向量空间,这会影响在该空间中的数据的表示形式(向量的坐标形式),选择的一组合适的基向量可以有效地减少数据量和简化运算,例如图像压缩
两种主要的数据类型:数值数据、分类数据
常用于衡量数据集中度的指标
描述统计是用来描述收集的数据,如数据的集中趋势度量、离散程度度量、分布形状和异常值,可以通过绘制数据图获得更好的理解。
离散程度 dispersion 测量用于告诉我们数据之间的分散程度。
异常值是明显偏离我们其余数据点的值。
表达式是用来传达数学思想的通用语言。
三种常见形状:右偏态、左偏态、对称分布(通常是正态分布)
二项分布 binomial distribution 探讨一系列独立的「掷硬币等事件」(事件结果只有两个)的概率
使用样本量抽样分布构建置信区间 confidence interval,以利用样本量「最好地」估计的参数。置信区间的目的一般是提供总体中的聚合值(的估算值),而非针对一个特定的个体的估算(机器学习则可对每个单独数据点预测结果,如线性回归和逻辑回归)
假设检验是通常针对总体参数进行,而不是针对统计量的(因统计量是已经从数据(样本)中得到的,属于精确值,不需要假设测试验证这些数值)
抽样分布 sampling distribution 是样本(统计)量的分布(从总体中抽取不同的样本,相应的统计量会不同,由抽样造成了该统计量按一定规律的比例分布)
推论统计在于使用我们收集的数据对更大的总体数据得出结论。要很好地进行推断统计,需要抽取一个准确地代表我们感兴趣人群的样本。一个常用的数据收集方法是通过调查。但根据所提问题的类型,以及提问的方式,调查可能会有很大偏见。这是你在开始第一个项目前应该考虑的问题。