大円距離
精度(ビット数)が低い浮動小数点数 を扱う計算機においては、球面余弦定理による計算では短い距離において大きな丸め誤差が発生してしまう。たとえば地球上においては1 kmの距離に対する中心角の余弦は0.99999999となる。 ただし現在用いられる64ビットの浮動小数点数においては数メートル以上の距離においては問題となるほどの丸め誤差は発生しない。
単位球面における大円の弦長 C {\displaystyle C} から弧長を求める下記の計算は球面余弦定理の利用よりも良条件である。
Δ σ = 2 arcsin  C 2 , {\displaystyle \Delta \sigma =2\arcsin {\frac {C}{2}},}
C 2 = sin 2  ( Δ φ 2 ) + cos  φ 1 ⋅ cos  φ 2 ⋅ sin 2  ( Δ λ 2 ) . {\displaystyle {\frac {C}{2}}={\sqrt {\sin ^{2}\left({\frac {\Delta \phi }{2}}\right)+\cos {\phi _{1}}\cdot \cos {\phi _{2}}\cdot \sin ^{2}\left({\frac {\Delta \lambda }{2}}\right)}}.}
歴史的に、この式は hav  ( θ ) = sin 2  ( θ / 2 ) {\displaystyle \operatorname {hav} (\theta )=\sin ^{2}(\theta /2)} で定義されるhaversine関数の関数表を用いることで計算された。
この数式は球面上のほとんどの点の間において正確だが、対蹠点間においては誤差が大きい。