作业1 #
线性空间 #
数域:对加减乘除封闭
常微分方程的通解:特征方程,指数函数
线性空间:对加法&数乘封闭+8条
基:线性无关+表出整个空间
柯西不等式:根据内积半正定得到不等式,然后再根据结论构造;
施密特正交化:范数由区间上的内积定义,而不是本身的模长;奇函数/偶函数在对称区间上积分的性质;减去在标准正交基上的分量+单位化;
作业2 #
格拉姆矩阵:向量的内积;对角线上是范数的平方;注意非标准正交基的内积不为1;
傅里叶变换 #
傅立叶变换:向量和不同正交基在酉空间上的内积结果;变换后的内积与原始内积的比值等于基向量的内积;
帕萨瓦尔定理:时空域和频域的概率密度函数的范数相等;
时域/频域概率密度函数的期望和方差:一阶矩和二阶矩,三角函数相关的微积分(三角恒等式,三角换元,点火公式考虑平方时的特殊情况pi/4)
二维傅立叶变换:频域每一个点的基向量沿着二维空间的两个方向变化;而CT重建时是投影后再作一维傅立叶变换,本质上只有沿着一个方向变换的基向量,所以在频域只是过中心的直线(因为基向量只沿着一个方向变化,而不是两个);
作业3 #
子空间:对加法和数乘封闭+属于原线性空间;
对角阵:对每一个基向量分别乘以一个系数(左乘变行/右乘变列,本质是分块矩阵乘法)
若矩阵左乘对角阵和右乘对角阵相等,则该矩阵也是对角阵
解空间的维度=n-系数矩阵的秩
直和:和+线性无关;两个空间相等的充要条件是相互包含;
相抵标准型:先行变换,再列变换;PAQ,行变换倒序,列变换正序;初等变换矩阵本质上还是对行和列的线性组合,可以视情况合并(例如所有列依次调换);
广义加号逆 #
已经掌握了流畅的推导!
根据投影的正则方程$C^TAx=C^Tb$可得b在A的列空间的投影$\hat{b}=C(C^TC)C^Tb$
同时最优最小二乘解$x^*$属于A的行空间,所以可以表达为$\bar{x}=A^Ty=R^T\bar{y}$
进一步代入$CRR^Ty=C(C^TC)C^Tb$,解得$\bar{x}=R^T(RR^T)^{-1}(C^TC)^{-1}C^T$
(关键在于凑可逆阵,行满秩乘以列满秩必可逆,即$C^TC和RR^T$可逆)
CR分解:寻找PAQ满足标准形,然后将标准形拆成两个矩阵的乘积;本质是秩1矩阵的和;
子空间的和:基向量的和;
反证法:若a属于A空间+b不属于A空间,则a+b必不属于A空间(否则可以倒推出b属于A空间)
作业4 #
二范数/四范数:最小值考虑one-hot(最小值为1);最大值考虑柯西不等式(全1向量);
线性映射 #
线性变换:考虑基变换时,不同的基对应不同的矩阵;不同基下的线性变换矩阵公式$$B=P^{-1}AP$$其中P是A的基到B的基的过渡矩阵;到平凡基的过渡矩阵即现有基的逆矩阵;线性变换和矩阵同构,可以加法、数乘、乘法;
不同特征值的特征向量线性无关:1.两个特征值,反证法,若线性相关,则属于相同的特征值;2.多个特征值,数学归纳法,若前i+1个特征值的特征向量线性相关则推出前i个特征值的特征向量线性相关;
秩1矩阵的相似对角化:考虑非零特征值和零特征值的特征子空间,非零特征值取决于是否正交,零特征值的特征子空间维数是n-1
核空间与象空间:核空间外的基经过线性变换后构成象空间(假设线性相关,则有核空间外的基的线性组合经过线性变换后落入核空间,反证出线性无关+象空间的每个向量可以由这组基表达,即该组基能张成整个象空间),注意线性变换对基和向量的不同作用
考虑线性变换对空间中向量的作用$\beta=\phi\alpha$,若满足$\alpha = (\epsilon_1,\epsilon_2,\epsilon_3,…)x$,则对基的作用表现为$\phi(\epsilon_1,\epsilon_2,\epsilon_3,…)=(\epsilon_1,\epsilon_2,\epsilon_3,…)A$,注意$\phi$可以和后面的任意项结合,$(\phi(\epsilon_1,\epsilon_2,\epsilon_3,…)x=\phi((\epsilon_1,\epsilon_2,\epsilon_3,…)x)=(\epsilon_1,\epsilon_2,\epsilon_3,…)xA$,对坐标的作用表现为$y=Ax$
幂等变换:根据特征多项式得到特征值0和1;根据特征值的矩阵方程得到特征空间的维度>=n,(A是(A-I)X=0的解)进而=n。
虚特征值的特征向量必为虚特征向量,设未知数,由特征方程推导即可;
作业5 #
正交矩阵:一般是根据定义的矩阵方程,作转置/同乘转置/共轭/两式相乘等操作,注意向量内积的结果是标量;所有复特征值的模为1,模的平方=本身乘以共轭;行列式=实特征值的乘积;互异特征值的特征向量在酉空间正交;同一复特征值的特征向量在实空间的内积为0;
奇异值分解 #
本质是$A^T$是半正定实对称矩阵,可以正交相似对角化;注意V是正交矩阵;并对AV作单位化处理;对于相似对角化,特征值即奇异值;
诱导范数:线性变换对向量的最大伸缩比例;
条件数:最大奇异值和最小奇异值的比值;反映了Ax=b的解空间对b的扰动的稳定性;
Key #
1.判断线性空间
2.判断卷积/微分是否线性移不变系统,判断高通低通
3.不同基下的线性变换矩阵
4.反对称矩阵的复特征值和复特征向量的讨论(内积满足的关系)
5.幂等矩阵的解空间与列空间,证明解空间和列空间的和构成整个空间,证明是直和,分别讨论特征向量的维数
6.I-ae1e1T的特征值、特征子空间,奇异值分解,最优秩1分解(F范数结论)