广义正交群

数学上，广义正交群或称伪正交群、不定正交群O(p,q)是所有保持n=p+q维实向量空间上的符号为 (p,q)的非退化对称双线性形式的线性变换组成的李群。这个群的维数是n(n−1)/2。

广义特殊正交群SO(p,q)是O(p,q)中所有行列式为1的元素构成的子群。

度量的符号（p、q分别为正负特征值的个数）在同构的意义下决定该群；交换p和q相当于度量改变惯性指数，所以给出同样的群。如果p或q等于0，那么同构于普通正交群O(n)。我们假设下文中p和q均是正整数。

群O(p,q)定义在实向量空间上。对于複空间，所有群O(p,q; C)都同构于通常正交群O(p + q; C)，因为複共轭变换能改变二次型的惯性指数。

矩阵定义

和经典正交群O(n)一样，O(p,q)能表示为矩阵群。Rp,q上由对角矩阵给出标准内积：

作为二次型，

群O(p,q)是由n×n矩阵M（这里n = p+q）使得。，或作为双线性形式组成的群。

这里MT表示矩阵M的转秩。容易验证所有这样的矩阵构成一个群。M的逆满足

我们得到一个同构群。事实上将η换成任意p个正特征值q个负特征值的对称矩阵（这样的矩阵必是非奇异的），等价的，任何符号为 (p,q)的二次型。对角化这个矩阵给出此群共轭于标准群O(p,q)。

拓扑

O(p,q)和SO(p,q)都不是连通的，分别有4个和2个分支。
是克莱因四元群，每个分支保持或改变p维正定或q维负定子空间的定向。特殊正交群有分支，同时保持或同时改变两个定向。

O(p,q)的单位分支常记作SO+(p,q)，能和SO(p,q)中同时保持两个定向的元素的集合等价起来。

群O(p,q)也不是紧，但包含紧子群O(p)和O(q)，分别作用在两个确定子空间上。事实上，O(p)×O(q)是O(p,q)的极大紧子群。而是SO(p,q)的极大紧子群。同样，SO(p)×SO(q)是SO+(p, q)的极大紧子群。从而在同论的意义上来说，这些群是（特殊）正交群的积，这样代数拓扑不变量都可以计算出来。

特别的，SO+(p, q)的基本群是分支基本群的乘积，，由下表给出：
{| border="1" cellpadding="11" style="border-collapse: collapse; border: 1px #aaa solid;"
!style="background:#efefef;"| 
!style="background:#efefef;"| 
!style="background:#efefef;"| 
!style="background:#efefef;"| 
|-
!style="background:#efefef;"| 
| {1} ||  || 
|-
!style="background:#efefef;"| 
|  || 
 || 
|-
!style="background:#efefef;"| 
|  || 
 || 
|}

参考文献

Anthony Knapp, Lie Groups Beyond an Introduction, Second Edition, Progress in Mathematics, vol. 140, Birkhäuser, Boston, 2002. ISBN 0-8176-4259-5. (372页有不定正交群的描述)

Joseph A. Wolf, Spaces of constant curvature, (1967) 335页。

参见
洛伦兹群
正交群
旋量群

李群