大円距離
大円距離(だいえんきょり、great-circular distance、球面上の大円に沿う距離をさす。大円の性質により、球面上の2点間の長さが最短となる距離である。
特に地球上においては大圏距離(たいけんきょり)とも言う。
最も両極に近い点を頂点と呼ぶ。
ユークリッド空間では、球内部を通り2点間を直線結ぶユークリッド距離が最小となるが、球面上には直線が存在しないためこれとは異なる。  非ユークリッド空間では、直線を一般化した測地線を使用する。球面においては測地線は球の中心を中心とする円である大円となるため、大円距離は大円上の2点間の弧の長さとなる。
球面上の対蹠点以外の2点を通る大円は一意に定まる。 2点は大円を2つの弧に分割する。 そのうち短い方の弧の長さが大円距離となる。 A great circle endowed with such a distance is the Riemannian circle.
対蹠点に関しては、その2点を通る任意の円が大円となるが、すべての円において2点間の弧の長さは一定である。すなわち半円の円周であり、半径rの球においては\pi rである。
地球はほぼ球状であるため、2点間の距離を球として計算しても誤差は0.5%以内となる(後述)。
大円の弧(大圏コース)は等角航路やisoazimuthal線と同様に地球上の任意の2点間を結ぶことができる3つの手法の一つである。
\phi_1,\lambda_1 と\phi_2,\lambda_2 をそれぞれ点1と点2の緯度と経度とする。また\Delta\phi,\Delta\lambda はその差の絶対値である。その時、2点間の中心角 \Delta\sigmaは球面余弦定理より
\Delta\sigma=\arccos\bigl(\sin\phi_1\cdot\sin\phi_2+\cos\phi_1\cdot\cos\phi_2\cdot\cos(\Delta\lambda)\bigr)
となる。
距離 d、すなわち円弧長は、球の半径 r 、弧度で表された\Delta\sigmaを用いて
d = r \, \Delta\sigma
と表される。
精度(ビット数)が低い浮動小数点数 を扱う計算機においては、球面余弦定理による計算では短い距離において大きな丸め誤差が発生してしまう。たとえば地球上においては1 kmの距離に対する中心角の余弦は0.99999999となる。 ただし現在用いられる64ビットの浮動小数点数においては数メートル以上の距離においては問題となるほどの丸め誤差は発生しない。 下記のhaversine関数による計算法を用いたほうが良条件である。
\Delta\sigma=2\arcsin \sqrt{\sin^2\left(\frac{\Delta\phi}{2}\right)+\cos{\phi_1}\cdot\cos{\phi_2}\cdot\sin^2\left(\frac{\Delta\lambda}{2}\right)} .\;\!
歴史的に、この式は\operatorname{hav}(\theta)=\sin^2(\theta/2)で定義されるhaversine関数の関数表を用いることで計算された。
この数式は球面上のほとんどの点の間において正確だが、対蹠点間においては誤差が大きい。すべての距離に用いることができる複雑な式としてVincenty formulaの全ての軸の経が等しい楕円という場合の下記の式がある。
\Delta\sigma=\arctan \frac{\sqrt{\left(\cos\phi_2\cdot\sin(\Delta\lambda)\right)^2+\left(\cos\phi_1\cdot\sin\phi_2-\sin\phi_1\cdot\cos\phi_2\cdot\cos(\Delta\lambda)\right)^2}{\sin\phi_1\cdot\sin\phi_2+\cos\phi_1\cdot\cos\phi_2\cdot\cos(\Delta\lambda)} .
プログラミングの際は通常の逆正接関数(atan())よりも atan2() 関数を用いたほうが、\Delta\sigma が全象限で出力されるため良い。
大円距離の計算は、航空機や船舶の経路計算の一部であり、大円距離以外に、出発点および中間の各点における方位角の計算も行う。
緯度/経度による表現ではなく通常のユークリッド空間上の3次元ベクトルを用いた方法だが、ベクトルの内積と外積により以下のように表すことができる。
\begin{align}
\Delta\sigma &=\arccos (\mathbf n_1\cdot \mathbf n_2) \\
\Delta\sigma &=\arcsin \left| \mathbf n_1\times \mathbf n_2 \right| \\
\Delta\sigma &=\arctan \frac{\left| \mathbf n_1\times \mathbf n_2 \right〕{\mathbf n_1\cdot \mathbf n_2} \\
\end{align}\,\!
\mathbf n_1と\mathbf n_2 は球面上の2点の単位法線ベクトルである。 上記の緯度/経度に基づく物と同様に、逆正接関数による計算式が唯一全ての角度において良条件である。
球面上の2点間を3次元空間上で結ぶ線分は大円の弦となる。2点間の中心角はこの弦の長さから求めることができる。そして、大円距離は中心角に比例する。
単位球面における大円弦長C_h\,\!は、直交座標系において
\begin{align}
\Delta{X}&=\cos\phi_2\cdot\cos\lambda_2 - \cos\phi_1\cdot\cos\lambda_1;\\
\Delta{Y}&=\cos\phi_2\cdot\sin\lambda_2 - \cos\phi_1\cdot\sin\lambda_1;\\
\Delta{Z}&=\sin\phi_2 - \sin\phi_1;\\
C&=\sqrt{(\Delta{X})^2+(\Delta{Y})^2+(\Delta{Z})^2}
\end{align}
となる。このとき、中央角は
\Delta\sigma=2\arcsin \frac{C}{2} .
であり、大円距離は
d = r \Delta\sigma.
となる。
最後の式の中心角度は弧度で表されたものである。 海里の距離の計算の際は度数法における分がそのまま海里として用いられる(度で表したものの60倍)。
地球の形状は潰れた球 (回転楕円体) とみなすことができる。この時赤道半径 a は6378.137 km、極半径 bは6356.752 kmとなる。 赤道付近の短い南北方向の線においては半径 b^2/a (6335.439 km)とした際が最も良い近似となり、極においては半径 a^2/b (6399.594 km) が最も良い。この差は1%である。 つまり、地球を球体と仮定した計算においては、地球上の任意の2点間の距離に対する1つの計算による誤差は 0.5% 以内とすることができる。 (ただし、限られた地域に関してはより誤差の少ない値を使用することもできる。)
この値として平均地球半径を用いるとよく、その値はR_1 = \frac13(2a+b) \approx 6371\,\mathrm{km}(値はWGS84測地系における回転楕円体近似に対して)である。 扁平率が小さい場合はこの値が平均自乗誤差を最小化する。