子午線弧
日本では伊能忠敬が第二次測量(1801年)の結果から緯度1度に相当する子午線弧長を28.2里と導き出している。
これは一般式にするならば下記となる。
S ( φ ) = a 1 + n ( c 0 φ + ∑ l = 1 ∞ ( 1 − 4 l 2 ) c l l sin  2 l φ ) . {\displaystyle {\begin{aligned}S(\varphi )&={\frac {a}{1+n}}\left(c_{0}\varphi +\sum _{l=1}^{\infty }\left(1-4l^{2}\right){\frac {c_{l}}{l}}\sin 2l\varphi \right).\end{aligned}}}
しかしながら前節の一般式と比べるならば − 2 n sin  2 φ 1 + 2 n cos  2 φ + n 2 {\displaystyle {\frac {-2n\sin 2\varphi }{\sqrt {1+2n\cos 2\varphi +n^{2}}}}} の項も級数展開したことは収束性を悪くしており、 ( 1 − 4 l 2 ) {\displaystyle (1-4l^{2})} の乗数に現れている。
加えて、ヘルメルトによる導出過程は一般論としては不備があり、一般式の導出・証明には至らないものだった。しかしヘルメルトの式は簡潔で精度も良いため近似式としては普及した。
河瀬の式
一般式としてのヘルメルトの式の証明自体については長年放置されていたが、 最終的に2009年に河瀬和重により証明が行われた。
その際に用いられた一般式は、二項定理を経由するものではなく、ゲーゲンバウアー多項式による級数展開を利用し一種類の無限和に集約された形であった。
S ( φ ) = a 1 + n ∑ j = 0 ∞ ( ∏ k = 1 j ε k ) 2 { φ + ∑ l = 1 2 j ( 1 l − 4 l ) sin  2 l φ ∏ m = 1 l ε j + ( − 1 ) m ⌊ m / 2 ⌋ ( − 1 ) m } {\displaystyle {\begin{aligned}S(\varphi )&={\frac {a}{1+n}}\sum _{j=0}^{\infty }\left(\prod _{k=1}^{j}\varepsilon _{k}\right)^{2}\left\{\varphi +\sum _{l=1}^{2j}\left({\frac {1}{l}}-4l\right)\sin 2l\varphi \prod _{m=1}^{l}\varepsilon _{j+(-1)^{m}\lfloor m/2\rfloor }^{(-1)^{m}}\right\}\\\end{aligned}}}
ここで、 ε i = 3 n / 2 i − n {\displaystyle \varepsilon _{i}=3n/2i-n\,} である。上式で j = 2 {\displaystyle j=2\,} まで取れば、ヘルメルトの提示した近似式が得られる。級数を j = J {\displaystyle j=J\,} で打ち切れば、 n {\displaystyle n\,} について 2 J {\displaystyle 2J\,} 次までで打ち切った近似式が得られることになる。