緯度
l ≃ π M φ 648000 = π 648000 ⋅ a ( 1 − e 2 ) ( 1 − e 2 sin 2  φ ) 3 / 2 {\displaystyle l\simeq {\frac {\pi M_{\varphi }}{648000}}={\frac {\pi }{648000}}\cdot {\frac {a(1-e^{2})}{(1-e^{2}\sin ^{2}\varphi )^{3/2}}}}
と表される。 地球楕円体としてGRS 80を採用した場合、 a {\displaystyle a} = (正確に)6 378 137m、 e 2 {\displaystyle \,e^{2}} = 0.006 694 380 022 900 788(近似値)である。GRS 80地球楕円体表面上の代表的な地点および日本周辺の緯度における値を、上記の式によって計算した結果は次のとおりである。