数列の加速法

数値解析における数列の加速法 (英: Series acceleration) とは、収束の遅い数列を収束の速い数列に変換するアルゴリズムの総称である。ただし，収束の極めて遅い対数収束列と呼ばれる数列全般に対して、収束を加速できるような単一のアルゴリズムは存在しないことが証明されている。なお、ベクトル列についても収束の加速法の研究がなされている。 級数加速の技法は、例えば特殊関数の様々な恒等式を得るためにも使われる。 例えばオイラー変換を超幾何級数に適用すると、古典的でよく知られた超幾何級数の恒等式のいくつかが得られる。 与えられた数列 S = { s n } n ∈ N {\displaystyle S=\{s_{n}\}_{n\in \mathbb {N} }} が極限 lim n → ∞ s n = ℓ , {\displaystyle \lim _{n\to \infty }s_{n}=\ell ,} を持つとする。 ここで別の数列 S ′ = { s n ′ } n ∈ N {\displaystyle S'=\{s'_{n}\}_{n\in \mathbb {N} }} が加速された数列であるとは、元の数列より ℓ {\displaystyle \ell } に速く収束する 、すなわち lim n → ∞ s n ′ − ℓ s n − ℓ = 0 {\displaystyle \lim _{n\to \infty }{\frac {s'_{n}-\ell }{s_{n}-\ell }}=0} が成り立つ事と定める。 もし元の数列が発散数列の場合、数列の変換はen:antilimitへの 補外法となる。 数列の変換は非線形なものほど強力である傾向がある。 ヨーロッパと日本で研究が始まった。古典的な二つの加速法はオイラー変換 と クンマー変換である。日本では関孝和、建部賢弘など、ヨーロッパではアイザック・ニュートンなどが取り組んだ。 エイトケンのΔ2乗加速法(但し、初出は関孝和による)、 ϵ {\displaystyle \epsilon } -算法やリチャードソンの補外（建部賢弘が1722に考案したのが初出）など、様々な加速法が作られる。なお、現代において ϵ {\displaystyle \epsilon } -算法はMathematicaのNSum、NLimitに組み込まれている。 1956年にピーター・ウィンによって提案されたepsilon method、レヴィンのu-変換、そしてWilf-Zeilberger-Ekhad法またはWZ法が挙げられます。 交互級数に対しては、Cohen et al.によって記述された強力な手法がいくつかあり、それらは 5.828 − n {\displaystyle 5.828^{-n}} から 17.93 − n {\displaystyle 17.93^{-n}} までの収束速度を提供し、 n {\displaystyle n} 項の総和に適用できます。 加速法と可積分系・離散ソリトン方程式の関係が明らかになり、可積分系・離散ソリトン方程式から加速法を作る試みが始まった。加速法のq-類似を構成する試みもなされている。 基本的な線形数列変換の例として、収束性を改善するオイラー変換があります。これは交互級数に適用され、次のように与えられます。 ∑ n = 0 ∞ ( − 1 ) n a n = ∑ n = 0 ∞ ( − 1 ) n ( Δ n a ) 0 2 n + 1 {\displaystyle \sum _{n=0}^{\infty }(-1)^{n}a_{n}=\sum _{n=0}^{\infty }(-1)^{n}{\frac {(\Delta ^{n}a)_{0}}{2^{n+1}}}} ここで、 Δ {\displaystyle \Delta } は前進差分演算子であり、その公式は以下の通りです。 ( Δ n a ) 0 = ∑ k = 0 n ( − 1 ) k ( n k ) a n − k . {\displaystyle (\Delta ^{n}a)_{0}=\sum _{k=0}^{n}(-1)^{k}{n \choose k}a_{n-k}.} 元の級数（左辺）が収束が遅い場合、前進差分は急速に小さくなり、さらに2の冪が加わることで、右辺の収束速度がさらに改善されます。 オイラー変換の特に効率的な数値実装はファン・ウィンガーデン変換です。 ある級数 S = ∑ n = 0 ∞ a n {\displaystyle S=\sum _{n=0}^{\infty }a_{n}} は、関数fを f ( z ) = ∑ n = 0 ∞ a n z n {\displaystyle f(z)=\sum _{n=0}^{\infty }a_{n}z^{n}} と定義すると、 f ( 1 ) {\displaystyle f(1)} と書けます。関数 f ( z ) {\displaystyle f(z)} は複素平面内に特異点（分岐点特異点、極または本質的特異点）を持ち、これが級数の収束半径を制限します。 z = 1 {\displaystyle z=1} が収束円の境界近く、または上にある場合、級数 S {\displaystyle S} の収束は非常に遅くなります。このとき、共形写像を用いて特異点を移動させ、 z = 1 {\displaystyle z=1} に対応する点が新しい収束円内に深く入るようにすると、収束を改善できます。 共形変換 z = Φ ( w ) {\displaystyle z=\Phi (w)} は Φ ( 0 ) = 0 {\displaystyle \Phi (0)=0} となるように選ぶ必要があり、通常、w = 0で有限の微分を持つ関数を選びます。一般性を失うことなく Φ ( 1 ) = 1 {\displaystyle \Phi (1)=1} と仮定でき、wを再スケールして Φ {\displaystyle \Phi } を再定義できます。その場合、次の関数を考えます。 g ( w ) = f ( Φ ( w ) ) . {\displaystyle g(w)=f(\Phi (w)).} Φ ( 1 ) = 1 {\displaystyle \Phi (1)=1} なので、 f ( 1 ) = g ( 1 ) {\displaystyle f(1)=g(1)} となります。 Φ ( 0 ) = 0 {\displaystyle \Phi (0)=0} であるため、 f ( z ) {\displaystyle f(z)} の級数展開に z = Φ ( w ) {\displaystyle z=\Phi (w)} を代入することで、 g ( w ) {\displaystyle g(w)} の級数展開を得られます。 Φ ′ ( 0 ) ≠ 0 {\displaystyle \Phi '(0)\neq 0} の場合、 f ( z ) {\displaystyle f(z)} の級数展開の最初の n {\displaystyle n} 項は、 g ( w ) {\displaystyle g(w)} の級数展開の最初の n {\displaystyle n} 項を与えます。 w = 1 {\displaystyle w=1} をその級数展開に代入すると、もし収束すれば、元の級数と同じ値に収束する級数が得られます。 非線形数列変換の例として、パデ近似、シャンクス変換、およびレヴィン型数列変換があります。 特に非線形数列変換は、摂動論などで生じる発散級数や漸近級数の総和法に強力な数値手法を提供し、非常に効果的な外挿法として使用できます。 これはエイトケンのΔ2乗加速法の応用で、方程式 x = g ( x ) {\displaystyle x=g(x)} の解を求めるための反復法である。初期値を十分近くとれば1次収束する ( g ( x ) {\displaystyle g(x)} が C 1 {\displaystyle C^{1}} 級なら超１次収束, C 2 {\displaystyle C^{2}} 級なら2次収束する)。 もしも反復法 x := g ( x ) {\displaystyle x:=g(x)} の収束の次数が p {\displaystyle p} であるとき、それに対応するSteffensen反復法 x := G ( x ) ≡ { x g ( g ( x ) ) − ( g ( x ) ) 2 } / { x − 2 g ( x ) + g ( g ( x ) ) } {\displaystyle x:=G(x)\equiv \{xg(g(x))-(g(x))^{2}\}/\{x-2g(x)+g(g(x))\}} の収束次数 q {\displaystyle q} は、 p ≥ 2 {\displaystyle p\geq 2} ならば q = 2 p − 1 {\displaystyle q=2p-1} であり、 p = 1 {\displaystyle p=1} の場合には収束先が x = g ( x ) {\displaystyle x=g(x)} の単根である場合には q = 2 {\displaystyle q=2} であるが、収束先が重複根の場合には q = 1 {\displaystyle q=1} になる。 これは台形公式と加速法を組み合わせた数値積分法である。Bauer-Rutishauser-Stiefel (1963) により詳細な解析がなされている。現代では精度保証付き数値計算にも使われている。 加速法によって複素関数をより広い領域で計算可能になるので、一種の解析接続と見なすことも可能である。加速法は誤差関数などの特殊関数への計算に応用可能である。 常微分方程式の数値解法・偏微分方程式の数値解法においても収束加速が研究されており、有限要素法やShortley-Weller近似 (差分法の一つ)などを加速できることが分かっている。 [脚注の使い方] ^ a b c d e 山本哲朗『数値解析入門』（増訂版）サイエンス社〈サイエンスライブラリ 現代数学への入門 14〉、2003年6月。ISBN 4-7819-1038-6。  ^ Abramowitz, Milton [in 英語]; Stegun, Irene Ann [in 英語], eds. (1983) [June 1964]. "Chapter 3, eqn 3.6.27". Handbook of Mathematical Functions with Formulas, Graphs, and Mathematical Tables. Applied Mathematics Series. Vol. 55 (Ninth reprint with additional corrections of tenth original printing with corrections (December 1972); first ed.). Washington D.C.; New York: United States Department of Commerce, National Bureau of Standards; Dover Publications. p. 16. ISBN 978-0-486-61272-0. LCCN 64-60036. MR 0167642. LCCN 65-12253。 ^ a b 長田直樹「収束の加速法の歴史 : 17世紀ヨーロッパと日本の加速法 (数学史の研究)」『数理解析研究所講究録』第1787巻、京都大学数理解析研究所、2012年4月、88-104頁、CRID 1050282810743934208、hdl:2433/172780、ISSN 1880-2818。  ^ a b Weisstein, Eric W. ”Wynn’s Epsilon Method.” From MathWorld–A Wolfram Web Resource. Wynn's Epsilon Method -- from Wolfram MathWorld ^ Henri Cohen, Fernando Rodriguez Villegas, and Don Zagier, "Convergence Acceleration of Alternating Series", Experimental Mathematics, 9:1 (2000) page 3. ^ 可積分系の応用数理、裳華房、中村佳正 et al.(2000) ^ 永井敦, 薩摩順吉「加速法と離散型ソリトン方程式(非線形可積分系の応用数理)」『数理解析研究所講究録』第933号、京都大学数理解析研究所、1995年、44-60頁、ISSN 1880-2818、NAID 110004701995。  ^ Papageorgiou, Grammaticos and Ramani (1993). Integrable Lattices and Convergence Acceleration Algorithms, Phys. Lett. A 179, 111-115. ^ Chang, X. K., He, Y., Hu, X. B., & Li, S. H. (2018). A new integrable convergence acceleration algorithm for computing Brezinski-Durbin-Redivo-Zaglia’s sequence transformation via Pfaffians. Numerical Algorithms, 1-20. ^ He, Y., Hu, X. B., Tam, H. W. (2009). A q {\displaystyle q} -Difference Version of the ϵ {\displaystyle \epsilon } -Algorithm. Journal of Physics A: Mathematical and Theoretical, 42(9), 095202. ^ Sun Jian-Qing, He Yi, Hu Xing-Biao, Tam Hon-Wah (2011). “Q-difference and confluent forms of the lattice Boussinesq equation and the relevant convergence acceleration algorithms”. Journal of mathematical physics (American Institute of Physics) 52 (2): 023522. doi:10.1063/1.3554693. https://doi.org/10.1063/1.3554693.  ^ William H. Press, et al., Numerical Recipes in C, (1987) Cambridge University Press, ISBN 0-521-43108-5（5.1節を参照）。 ^ 牧之内三郎、鳥居達生：「数値解析」（3.2.4:'Steffensen法')、オーム社、ISBN 978-4-274020117 (1975年10月25日） ^ Romberg, W. (1955). Vereinfachte numerische integration. Norske Vid. Selsk. Forh., 28, 30-36, NAID 10004043042. ^ F. L. Bauer, H. Rutishauser and E. Stiefel, New aspects in numerical quadrature, Proc. Symp. Appl. Math. (AMS, 1963), vol. 15, p. 198–218. ^ 大石進一 et al.(2018) 精度保証付き数値計算の基礎, コロナ社. ^ a b 森正武「解析接続と級数の収束の加速 (解析接続の応用)」『数理解析研究所講究録』第1155巻、京都大学数理解析研究所、2000年5月、104-119頁、CRID 1050282676913607168、hdl:2433/64145、ISSN 1880-2818、NAID 110000164534。  ^ Kříek, M. (1994). "Superconvergence phenomena in the finite element method". Computer methods in applied mechanics and engineering, 116(1-4), 157-163, doi:10.1016/S0045-7825(94)80019-7. ^ Matsunaga, N., & Yamamoto, T. (2000). "Superconvergence of the Shortley–Weller approximation for Dirichlet problems". en:Journal of computational and applied mathematics, 116(2), 263-273, doi:10.1016/S0377-0427(99)00321-0. 伊理, 正夫「1.6 エイトケン加速とステフェンセン変換、1.7 ε算法」『数値計算』朝倉書店、1981年。ISBN 978-4254113624。  Delahaye, J. P. (1988). Sequence Transformations. Springer-Verlag. ISBN 978-3540152835  Brezinski, C.; Redivo-Zaglia, M. (1991). Extrapolation Methods. Theory and Practice. North-Holland  Osada, Naoki『Acceleration Methods for Slowly Convergent Sequences and their Applications』（博士（工学）論文）乙第4391号、名古屋大学、1993年1月1日。doi:10.11501/3068987。http://www.cis.twcu.ac.jp/~osada/thesis_osada.pdf。  杉原, 正顕、室田, 一雄「第12章 加速」『数値計算法の数理』岩波書店、1994年。ISBN 978-4000055185。  長田, 直樹「収束の加速法（数値計算アルゴリズムの現状と展望）」『数理解析研究所講究録』第880号、京都大学数理解析研究所、1994年、28-43頁、CRID 1050282810580235648、ISSN 1880-2818、NAID 110004757389。  近藤, 弘一、中村, 佳正「高次収束するSteffensen型反復解法（数値計算アルゴリズムの研究）」『数理解析研究所講究録』第1040号、京都大学数理解析研究所、1998年、228-236頁、CRID 1050282677086372480、ISSN 1880-2818、NAID 110002339362。  Brezinski, Claude; Redivo-Zaglia, Michela (2019). “The genesis and early developments of Aitken's process, Shanks transformation, the ε-algorithm, and related fixed point methods”. Numerical Algorithms 80 (1): 11-133. doi:10.1007/s11075-018-0567-2.  Sidi, Avram (2017). Vector Extrapolation Methods with Applications. SIAM. ISBN 978-1-61197-495-9  Brezinski, Claude; Redivo-Zaglia, Michela; Saad, Yousef (2018). “Shanks Sequence Transformations and Anderson Acceleration”. SIAM Review (SIAM) 60 (3): 646–669. doi:10.1137/17M1120725.  Brezinski, Claude (2019). “Reminiscences of Peter Wynn”. Numerical Algorithms 80: 5-10. doi:10.1007/s11075-018-0542-y. （ε-算法の開発者であるWynnの研究業績をまとめた文献） Brezinski, Claude; Redivo-Zaglia, Michela (2020). Extrapolation and Rational Approximation. Springer. ISBN 978-3-030-58417-7  Pepino, Rafael Tristão (2023). “Acceleration of sequences with transformations involving hypergeometric functions”. Numerical Algorithms 92: 893-915. doi:10.1007/s11075-022-01334-7.  Claude Brezinski, Michela Redivo-Zaglia & Ahmed Salam: "On the kernel of vector ε-algorithm and related topics", Numerical Algorithms, vol.92 (2023), pp.207–221. url=https://doi.org/10.1007/s11075-022-01358-z . リチャードソンの補外 en:Binomial transform en:Kummer's transformation of series en:Wilf–Zeilberger pair en:Shanks transformation en:Van Wijngaarden transformation en:Minimum polynomial extrapolation 解析接続 Convergence acceleration of series Convergence Improvement, Wolfram MathWorld 離散ソリトン方程式の数理工学への応用 表示 編集