経緯度
Δ r = ( N ( φ m ) cos  φ m Δ λ ) 2 + ( M ( φ m ) Δ φ ) 2 , {\displaystyle \Delta r={\sqrt {\left(N\left(\phi _{\textrm {m}}\right)\cos \phi _{\textrm {m}}\Delta \lambda \right)^{2}+\left(M\left(\phi _{\textrm {m}}\right)\Delta \phi \right)^{2}}},}
φ m ≜ φ 1 + φ 2 2 . {\displaystyle \phi _{\textrm {m}}\triangleq {\frac {\phi _{1}+\phi _{2}}{2}}.}
Δ λ ≃ 0 {\displaystyle \Delta \lambda \simeq 0} もしくは φ m ≃ 0 and Δ φ ≃ 0 {\displaystyle \phi _{\textrm {m}}\simeq 0\ {\textrm {and}}\ \Delta \phi \simeq 0} の条件下では短距離近似計算としては精度が良く多用される。
さらに中長距離へ近似精度を改善した計算法も歴史的に多くの研究者によって開発されている。それらは高次の級数計算もしくは反復を含んでいることが多い。
下記では右手系経緯度が採用されている。
OpenLayers
MapboxGL
KML
GeoJSON
Well-known text
MySQL
MongoDB
Redis
Oracle Spatial
Solr
Elasticsearch
Geocouch
OSRM