大円距離
緯度/経度による表現ではなく通常のユークリッド空間上の3次元ベクトルを用いた方法だが、ベクトルの内積と外積により以下のように表すことができる。
Δ σ = arccos  ( n 1 ⋅ n 2 ) Δ σ = arcsin  | n 1 × n 2 | Δ σ = arctan  | n 1 × n 2 | n 1 ⋅ n 2 {\displaystyle {\begin{aligned}\Delta \sigma &=\arccos(\mathbf {n} _{1}\cdot \mathbf {n} _{2})\\\Delta \sigma &=\arcsin \left|\mathbf {n} _{1}\times \mathbf {n} _{2}\right|\\\Delta \sigma &=\arctan {\frac {\left|\mathbf {n} _{1}\times \mathbf {n} _{2}\right|}{\mathbf {n} _{1}\cdot \mathbf {n} _{2}}}\\\end{aligned}}\,\!}
n 1 {\displaystyle \mathbf {n} _{1}} と n 2 {\displaystyle \mathbf {n} _{2}} は球面上の2点の単位法線ベクトルである。 上記の緯度/経度に基づく物と同様に、逆正接関数による計算式が唯一全ての角度において良条件である。
となる。このとき、中央角は
Δ σ = 2 arcsin  C 2 . {\displaystyle \Delta \sigma =2\arcsin {\frac {C}{2}}.}
であり、大円距離は
d = r Δ σ . {\displaystyle d=r\Delta \sigma .}
となる。 最後の式の中心角度は弧度で表されたものである。 海里の距離の計算の際は度数法における分がそのまま海里として用いられる(度で表したものの60倍)。