大円距離
φ 1 , λ 1 {\displaystyle \phi _{1},\lambda _{1}} と φ 2 , λ 2 {\displaystyle \phi _{2},\lambda _{2}} をそれぞれ点1と点2の緯度と経度とする。また Δ φ , Δ λ {\displaystyle \Delta \phi ,\Delta \lambda } はその差の絶対値である。その時、2点間の中心角 Δ σ {\displaystyle \Delta \sigma } は球面余弦定理より
Δ σ = arccos  ( sin  φ 1 ⋅ sin  φ 2 + cos  φ 1 ⋅ cos  φ 2 ⋅ cos  ( Δ λ ) ) {\displaystyle \Delta \sigma =\arccos {\bigl (}\sin \phi _{1}\cdot \sin \phi _{2}+\cos \phi _{1}\cdot \cos \phi _{2}\cdot \cos(\Delta \lambda ){\bigr )}}
となる。 距離 d {\displaystyle d} 、すなわち円弧長は、球の半径 r {\displaystyle r} 、弧度で表された Δ σ {\displaystyle \Delta \sigma } を用いて
d = r Δ σ {\displaystyle d=r\,\Delta \sigma }
と表される。