Vincenty法
Vincenty法(英: Vincenty's formulae)とは回転楕円体上の測地法の反復計算アルゴリズムである。サディアス・ヴィンセンティ(英語版) (1975a)によって考案された。
地球形状は回転楕円体として近似可能であり、Vincenty法の逆解法は、その面上で二点間の最小距離(測地線の長さ)を計算する。ただしVincenty法の計算誤差は、与える入力点によっては 0.5 mm(0.020′′)に達する場合もある。
近年は Karney (2013) による計算方法がVincenty法よりも計算精度・計算速度ともに高く、多く用いられる。
sin  σ = ( cos  U 2 sin  λ ) 2 + ( cos  U 1 sin  U 2 − sin  U 1 cos  U 2 cos  λ ) 2 {\displaystyle \sin \sigma ={\sqrt {(\cos U_{2}\sin \lambda )^{2}+(\cos U_{1}\sin U_{2}-\sin U_{1}\cos U_{2}\cos \lambda )^{2}}}} cos  σ = sin  U 1 sin  U 2 + cos  U 1 cos  U 2 cos  λ {\displaystyle \cos \sigma =\sin U_{1}\sin U_{2}+\cos U_{1}\cos U_{2}\cos \lambda \,} σ = arctan  sin  σ cos  σ {\displaystyle \sigma =\arctan {\frac {\sin \sigma }{\cos \sigma }}\,} sin  α = cos  U 1 cos  U 2 sin  λ sin  σ {\displaystyle \sin \alpha ={\frac {\cos U_{1}\cos U_{2}\sin \lambda }{\sin \sigma }}\,} cos 2  α = 1 − sin 2  α {\displaystyle \cos ^{2}\alpha =1-\sin ^{2}\alpha \,} cos  ( 2 σ m ) = cos  σ − 2 sin  U 1 sin  U 2 cos 2  α {\displaystyle \cos(2\sigma _{m})=\cos \sigma -{\frac {2\sin U_{1}\sin U_{2}}{\cos ^{2}\alpha }}\,} C = f 16 cos 2  α [ 4 + f ( 4 − 3 cos 2  α ) ] {\displaystyle C={\frac {f}{16}}\cos ^{2}\alpha {\big [}4+f(4-3\cos ^{2}\alpha ){\big ]}\,} λ = L + ( 1 − C ) f sin  α { σ + C sin  σ [ cos  ( 2 σ m ) + C cos  σ ( − 1 + 2 cos 2  ( 2 σ m ) ) ] } {\displaystyle \lambda =L+(1-C)f\sin \alpha \left\{\sigma +C\sin \sigma \left[\cos(2\sigma _{m})+C\cos \sigma (-1+2\cos ^{2}(2\sigma _{m}))\right]\right\}\,}
補助球上の経度