Vincenty法
s = b A ( σ − Δ σ ) {\displaystyle s=bA(\sigma -\Delta \sigma )\,}
α 1 = arctan  ( cos  U 2 sin  λ cos  U 1 sin  U 2 − sin  U 1 cos  U 2 cos  λ ) {\displaystyle \alpha _{1}=\arctan \left({\frac {\cos U_{2}\sin \lambda }{\cos U_{1}\sin U_{2}-\sin U_{1}\cos U_{2}\cos \lambda }}\right)}
α 2 = arctan  ( cos  U 1 sin  λ − sin  U 1 cos  U 2 + cos  U 1 sin  U 2 cos  λ ) {\displaystyle \alpha _{2}=\arctan \left({\frac {\cos U_{1}\sin \lambda }{-\sin U_{1}\cos U_{2}+\cos U_{1}\sin U_{2}\cos \lambda }}\right)}
両極付近の2点間の計算は最初の λ {\displaystyle \lambda } を設定した際に π {\displaystyle \pi } 以上となると、収束しない。
補助球上の弧の長さ
扁平率 (1/298.257223563 (WGS84) )