二次型
二次型
定义
元变量的二次齐次多项式:
这就是元二次型,简称二次型。
,令(),则:
,这个式子就是完全展开式。
,这个就是和式。
二次型 是优化、统计、几何里无处不在的「二次能量」。机器学习的 L2 正则项 、最小二乘的残差平方和、高斯分布指数上的 、物理里的动能/势能,本质都是二次型。优化中目标函数在极小点附近用二阶泰勒展开,二次项就是 Hessian 矩阵决定的二次型,它的正定性决定了是不是局部极小、牛顿法是否收敛。
二次型就是「每一项都是二次」的多项式(如 、)。没有一次项、没有常数项,全是 2 次。它和一元二次函数 是同一思想的多变量版本。注意求和式 里,交叉项 出现两次( 和 ),所以写矩阵时混合项系数要「对半分」给对称的两个位置。
矩阵表示
二次型可以用矩阵来表示,即。其中是列向量。
矩阵表示的重点就是找到中间的,是的二次型矩阵。
方法是:的主对角线元素是的对应系数,与是混合项的系数的一半。
如一个二次型
。
所以可以发现二次型矩阵就是一个对称矩阵,,所以只要能写出二次型的就一定存在一个对称矩阵,就一定可以相似对角化。
「二次型 ↔ 对称矩阵」的一一对应是写代码时的标准约定。同一个二次型可以用很多非对称矩阵表示,但我们永远取对称的那个( 混合项系数的一半),这样才能保证特征值实、可正交对角化,数值库(如协方差矩阵、Hessian)也都按对称矩阵存储和分解。混合项系数「除以 2 再分到两边」是手算构造 时最容易错的一步。
从二次型写矩阵 的口诀:平方项系数放对角,混合项系数除以二放两边。 的系数直接写到 ; 的系数取一半,同时填到 和 两个对称位置。这样得到的 一定对称()。反过来给定对称 也能还原二次型,二者可以自由互换。
标准形与规范形
定义:若二次型中只含有平方项,没有混合项(交叉项,即所有交叉项的系数全部为0),形如的二次型就是标准形。
定义:若标准形中系数仅为1,0,-1,即形如的二次型称为规范形。
其实二次型的标准形与规范形就是相似理论中的可逆矩阵相似对角化与实对称矩阵相似对角化的方法。
化标准形 = 通过换坐标「消掉交叉项」,让二次型解耦。有了交叉项 ,各变量纠缠在一起难以分析;标准形只剩平方项,等价于把椭球的轴转正、变量互相独立。统计里对协方差矩阵做这一步就是「白化/去相关」(PCA 后各主成分不相关);优化里则是把一般二次型旋转成各轴独立的抛物面,便于逐维处理。合同变换 正是这个换坐标的代数表达。
标准形「只有平方项」,规范形更进一步「系数只剩 」。区别在于规范形把每个平方项的系数也归一化了。它们都通过一次「换元」(线性变换 )从原二次型得到。要把它和相似对角化区分开:这里关心的是 (合同),不要求 是正交阵,所以平方项前的系数不一定是特征值。
合同变换
线性变换
对于元二次型,若令
记,,,则上式写为称为到的线性变换。
若线性变换的系数矩阵可逆,即,则称为可逆线性变换。
若,令,则,记,则,此时二次型通过线性变换得到一个新二次型。即将二次型用表示换成用表示。
这种改变表示方法的变换就是合同变换。
定义
定义:二次型与的系数矩阵与满足,这种关系就是合同变换。
设为阶实对称矩阵,若存在可逆矩阵,使得,则称合同,记为,此时与为合同二次型。
若二次型合同于标准形或合同于规范形,则称为的合同标准形或合同规范形。
性质
- 反身性:。取。
- 对称性:,。则,,。
- 传递性:,,。
- ,。,矩阵左右乘一个可逆矩阵,秩不变。
- ,。,即,,,。
- ,可逆,则。
- ,。
配方法
也称为拉格朗日配方法。配方法与前面的特征值、相似、正交理论无关,是通过配方找到一个可逆的合同矩阵。
任何二次型均可通过配方法(做可逆线性变换)化为标准形与规范形,即对于任何实对称矩阵,必存在可逆矩阵,使得,其中:
或,,,。
一个二次型可以通过相似对角化来求矩阵和来化成标准形或规范形,而也可以通过配方法来更简单得到。
配方法的核心:将某个变量的平方项与其混合项一次性配成一个完全平方。
正交变换法
是对实对称矩阵相似对角化的正交变换的延伸。
正交变换法 = 用「转坐标系」而非「拉伸坐标系」来化简,几何不失真。因为 是正交矩阵(),它只旋转/反射、不改变长度和夹角,所以化出的平方项系数恰好是特征值——这与配方法(系数任意)不同。它本质就是实对称矩阵的谱分解,也是 PCA 找主轴、把椭球转到与坐标轴对齐的标准操作。代价是要先求特征值与正交化的特征向量,比配方法算量大,但保留了几何意义。
正交变换法与配方法都能化标准形,但「系数含义」不同。正交变换法用正交矩阵 ,化出的平方项系数一定是特征值 ;配方法用一般可逆矩阵,系数不一定是特征值(但正负号个数一致)。流程套实对称矩阵对角化那一套:求特征值 → 求特征向量 → 正交化单位化拼成 → 令 即得 。规范形不一定能直接用它得到。
任何二次型均可通过正交变换法化为标准形(规范形不一定能表示出),即对于任何实对称矩阵,必存在正交矩阵,使得,其中。
二次型正交变换法基于实对称矩阵相似对角化:
- 求出的所有特征值。
- 求出的所有的特征向量。
- 将正交化、单位化为。
- 令,则。
- 因为,代入,。
惯性定理
定义:无论选取什么样的可逆线性变换,将二次型化为标准形或规范形,其正项个数,负项个数都是不变的,称为正惯性指数,称为负惯性指数。
惯性定理(Sylvester 惯性律)说:正负平方项的个数是二次型的「指纹」,与化简路径无关。不管你用配方法还是正交变换、不管换了什么基, 始终不变。这给了我们一个判断两个对称矩阵是否合同的硬指标——同秩且同正负惯性指数即合同。在优化里,Hessian 的惯性指数(正/负/零特征值个数)直接告诉你一个临界点是极小、极大还是鞍点,数值上常用 LDL 分解读出惯性而不必真的求特征值。
正惯性指数 = 正平方项个数,负惯性指数 = 负平方项个数,二者之和 = 秩。关键结论:无论用哪种方法化标准形,、 都唯一确定,不会变。所以判断「两个二次型/对称矩阵是否合同」,只要比较它们的 和 (或秩和 )即可。注意配方法得到的系数不一定是特征值,但正负号个数和特征值法是一致的。
定理:若二次型的矩阵秩为,则,可逆线性变换不改变正负惯性指数。
定理:两个二次型或实对称矩阵合同的充要条件是有相同的正负惯性指数,或有相同的秩及正负惯性指数。
例题:设,判断是否与合同。
解:第一种方法使用配方法,将实对称矩阵化为二次型进行配方,得到,,。
第二种方式使用特征值法,,得到,,,令,,,。
注意:我们会发现前面的系数是不一样的,因为通过配方法得到的系数不一定是特征值,而正交变换法或相似对角化的方法得到的一定是特征值。因为对于配方法,,,这个是合同的,不满足相似的要求,而对于正交变换,,因为选用的不仅是可逆矩阵,更是正交矩阵,从而即合同又相似,从而得到的是特征值。
因为有两个正系数1和一个负系数-1,根据惯性定理,所以与它合同。
正定二次型
定义
定义:元二次型,若任意均有,则称为正定二次型,对应矩阵为正定矩阵。
若令一个正定二次型等于某个正数,则对于空间就是一个封闭曲面。
正定矩阵是凸优化、协方差、核方法的「健康证明」。目标函数的 Hessian 正定 ⟺ 函数严格凸 ⟺ 有唯一全局极小,牛顿法、梯度下降才稳稳收敛;协方差矩阵正定意味着各维度无完全冗余、可逆,高斯分布良定义;核方法要求 Gram 矩阵半正定(Mercer 条件)才对应一个合法内积空间。判定上工程里几乎不算特征值,而用 Cholesky 分解 能否成功来判断正定(成功即正定),既快又稳,这正对应「」那条充要条件。
正定 = 对任意非零 ,恒有 (永远「朝上开口」)。类比一元的 需要 。几何上正定二次型 常数是个封闭椭球面。常用判定有三把好用的「尺子」:① 所有顺序主子式(左上角各阶行列式)都 ;② 所有特征值都 ;③ 配方后正惯性指数 (全是正平方项)。任一成立即正定,考查时挑最好算的用。
性质
元二次型正定的充要条件是:
- 对于任意,有。(定义)
- 的正惯性指数,即所有系数全为正。
- 存在可逆矩阵,使得。
- 。
- 的特征值()。
- 的全部顺序主子式均大于0。
若,则。
设,则称为阶矩阵的阶顺序(左上角)主子式。
元二次型正定的必要条件是:
- ()。
- 。
判定
具体型
- 判定主子式是否全部大于0。
- 求特征值是否全部大于0。
- 配方法判定正惯性指数是否全为。
- 定义法,证明,,即。
- 找到可逆矩阵,使得。
主要使用前面三种方法。
例题:判别二次型的正定性。
解:根据题目写出二次型矩阵:
第一种方法:2>0,,,所以正定。
第二种方法:,所以,,所以正定。
第三种方法:通过配方法,将,,所以正定。
第四种方法:将进行配方,,所以要证明对于成立。
假设,则,,,则,所以时。
第五种方法:将进行配方,
,所以找到了这个,从而正定。
抽象型
对于抽象型二次型正定问题,首先要表明是对称的,即;基本的方法就是判定特征值是否全部为正。
定理:若正定,则充要条件是正定,正定,充分条件是正定,即正定则正定,但是正定不一定正定。
证明:对称矩阵,所以,所以等价,所以是充要条件。
若特征值为,则的特征值也全为正,同理也可以反推回去,从而是充要条件。
若特征值为,则的特征值为,若全为正则可以推出为正,但是反之若为正,不能推出每一个都是正的。