大円距離
すべての距離に用いることができる複雑な式としてVincenty formulaの全ての軸の経が等しい楕円という場合の下記の式がある。
Δ σ = arctan  ( cos  φ 2 ⋅ sin  ( Δ λ ) ) 2 + ( cos  φ 1 ⋅ sin  φ 2 − sin  φ 1 ⋅ cos  φ 2 ⋅ cos  ( Δ λ ) ) 2 sin  φ 1 ⋅ sin  φ 2 + cos  φ 1 ⋅ cos  φ 2 ⋅ cos  ( Δ λ ) . {\displaystyle \Delta \sigma =\arctan {\frac {\sqrt {\left(\cos \phi _{2}\cdot \sin(\Delta \lambda )\right)^{2}+\left(\cos \phi _{1}\cdot \sin \phi _{2}-\sin \phi _{1}\cdot \cos \phi _{2}\cdot \cos(\Delta \lambda )\right)^{2}}}{\sin \phi _{1}\cdot \sin \phi _{2}+\cos \phi _{1}\cdot \cos \phi _{2}\cdot \cos(\Delta \lambda )}}.}
プログラミングの際は通常の逆正接関数(atan())よりも atan2() 関数を用いたほうが、 Δ σ {\displaystyle \Delta \sigma } が全象限で出力されるため良い。
大円距離の計算は、航空機や船舶の経路計算の一部であり、大円距離以外に、出発点および中間の各点における方位角の計算も行う。
球面上の2点間を3次元空間上で結ぶ線分は大円の弦となる。2点間の中心角はこの弦の長さから求めることができる。そして、大円距離は中心角に比例する。
単位球面における大円弦長 C {\displaystyle C} は、直交座標系において
Δ X = cos  φ 2 ⋅ cos  λ 2 − cos  φ 1 ⋅ cos  λ 1 ; Δ Y = cos  φ 2 ⋅ sin  λ 2 − cos  φ 1 ⋅ sin  λ 1 ; Δ Z = sin  φ 2 − sin  φ 1 ; C = ( Δ X ) 2 + ( Δ Y ) 2 + ( Δ Z ) 2 {\displaystyle {\begin{aligned}\Delta {X}&=\cos \phi _{2}\cdot \cos \lambda _{2}-\cos \phi _{1}\cdot \cos \lambda _{1};\\\Delta {Y}&=\cos \phi _{2}\cdot \sin \lambda _{2}-\cos \phi _{1}\cdot \sin \lambda _{1};\\\Delta {Z}&=\sin \phi _{2}-\sin \phi _{1};\\C&={\sqrt {(\Delta {X})^{2}+(\Delta {Y})^{2}+(\Delta {Z})^{2}}}\end{aligned}}}