साङ्ख्यिकी रेखीय बीजगणितम्

सांख्यिक रैखिक बीजगणितम् 

 (Numerical Linear Algebra — A Scholarly Essay in Sanskrit) 

 प्रस्तावना (Introduction) 
गणितशास्त्रे रैखिक बीजगणितम् अत्यन्तं महत्त्वपूर्णं क्षेत्रम् अस्ति। आधुनिकविज्ञाने, अभियान्त्रिक्यां, अर्थशास्त्रे च एतस्य प्रयोगः सर्वत्र दृश्यते। सांख्यिक रैखिक बीजगणितम् (Numerical Linear Algebra) इति शाखा विशेषतः सङ्गणकयन्त्रैः सह महत्त्वपूर्णसमस्यानां समाधानार्थं विकसिता। यदा अस्माभिः विशालमापदण्डयुक्तानि समीकरणानि, आव्यूहविघटनं, आयत्तमूल्यानि च गणयितव्यानि भवन्ति, तदा एषा शाखा अपरिहार्या भवति।

भारतीयगणितपरम्परायां रैखिकसमीकरणानां विषये आर्यभट्टः, ब्रह्मगुप्तः, भास्कराचार्यः च बहु प्रदानं कृतवन्तः। "चक्रवाल-पद्धतिः" इति भास्कराचार्यस्य प्रसिद्धा पद्धतिः द्विघातीयसमीकरणानां समाधाने अत्यन्तं कुशला आसीत्। आधुनिककालेऽपि एतानि प्राचीनानि बीजानि सांख्यिक पद्धतिषु वर्धमानानि सन्ति।

अस्मिन् निबन्धे वयं सांख्यिक रैखिक बीजगणितस्य मूलभूतान् विषयान् — आव्यूहाः, रैखिकसमीकरणपद्धतयः, आव्यूहविघटनम्, आयत्तमूल्यानि, च विविधाः पुनरावृत्तिपद्धतयः — संस्कृतभाषायां सम्यग् विवेचयिष्यामः।

 प्रथमः परिच्छेदः — आव्यूहाः (Matrices) 
आव्यूहः (Matrix) इति गणितस्य मूलभूतं साधनम्। संख्यानां द्विविमीयः विन्यासः आव्यूहः इति उच्यते। यदि m पङ्क्तयः n स्तम्भाश्च सन्ति, तर्हि तम् m×n आव्यूहम् इत्युच्यते।

आव्यूहस्य परिभाषा:

यदि A = [a_ij] यत्र i = 1, 2, ..., m तथा j = 1, 2, ..., n, तदा A इति m×n क्रमस्य आव्यूहः भवति। अत्र a_ij इति i-तमायाः पङ्क्तेः j-तमस्य स्तम्भस्य अवयवः (element) भवति।

आव्यूहाणां विविधाः प्रकाराः सन्ति। वर्गाव्यूहः (Square Matrix) यस्य पङ्क्तिसंख्या स्तम्भसंख्यायाः समा भवति। त्रिकोणाव्यूहः (Triangular Matrix) यस्य अवयवाः मुख्यविकर्णस्य ऊर्ध्वे वा अधः वा शून्याः भवन्ति। सममितीयाव्यूहः (Symmetric Matrix) यस्मिन् a_ij = a_ji सर्वदा भवति। इकाआव्यूहः (Identity Matrix) I यस्य विकर्णावयवाः एकः भवति, अन्ये च शून्याः।

सांख्यिकदृष्ट्या आव्यूहाणां संचयः (Storage) अत्यन्तं महत्त्वपूर्णः। विरलाव्यूहेषु (Sparse Matrices) अधिकांशाः अवयवाः शून्याः भवन्ति। तत्र केवलं अशून्यावयवानामेव संचयः क्रियते। CSR (Compressed Sparse Row) CSC (Compressed Sparse Column) वा प्रारूपेण एषः संचयः कुशलतया भवति।

आव्यूहगुणनम् (Matrix Multiplication) सांख्यिकगणनायाः केन्द्रबिन्दुः अस्ति। यदि A इति m×k आव्यूहः B च k×n आव्यूहः, तदा C = AB इति m×n आव्यूहः। अस्य गणनायाः परम्परागतजटिलता O(m·k·n) भवति। आधुनिककालेऽपि Strassen-पद्धत्या O(n^2.807) प्राप्यते, अन्येषां च शोधकानां प्रयासैः अधिकाः कुशलाः पद्धतयः विकसिताः।

 द्वितीयः परिच्छेदः — रैखिकसमीकरणपद्धतयः (Systems of Linear Equations) 
सांख्यिक रैखिक बीजगणितस्य सर्वाधिकं प्रचलितं प्रयोगम् रैखिकसमीकरणपद्धतीनां समाधाने अस्ति। Ax = b इत्येतत् सर्वसामान्यरूपम् यत्र A इति n×n आव्यूहः, b इति ज्ञातो n-आयामीयो सदिशः, x च अज्ञातः।

 गाउस्-विलोपन-पद्धतिः (Gaussian Elimination) 
गाउस्-विलोपन-पद्धतिः रैखिकसमीकरणसमूहानां समाधानार्थं सुप्रसिद्धा पद्धतिः। एतस्याः मूलविचारः त्रिकोणीकरणम् (Triangularization) — मूलसमीकरणसमूहं तुल्यस्य उर्ध्वत्रिकोणसमीकरणसमूहे परिवर्तनम्।

प्रक्रियायाः द्वौ भागौ स्तः — अग्रदिशाविलोपनम् (Forward Elimination) यत्र A-आव्यूहस्य ऊर्ध्वत्रिकोणरूपं निर्माय्यते, पश्चनिवर्तनम् (Back Substitution) च यत्र त्रिकोणसमूहस्य क्रमशः समाधानं क्रियते।

अस्याः पद्धत्याः जटिलता O(n³/3) भवति। परन्तु विभाजकशून्यता (Pivot being zero) इत्यस्याः दोषः अस्ति। तत्कारणं आंशिकमुख्यतत्त्वचयनम् (Partial Pivoting) सम्पूर्णमुख्यतत्त्वचयनम् (Complete Pivoting) वा आवश्यकं भवति। आंशिकमुख्यतत्त्वचयने प्रत्येकचरणे सर्वाधिकनिरपेक्षमूल्यसम्पन्नं अवयवं मुख्यतत्त्वतया (pivot) स्वीक्रियते।

 LU-विघटनम् (LU Decomposition) 
LU-विघटने A = LU इति लिख्यते यत्र L इति अधस्त्रिकोणाव्यूहः (Lower Triangular Matrix) U च ऊर्ध्वत्रिकोणाव्यूहः (Upper Triangular Matrix)। यदा एकाधिकाः b-सदिशाः समाधातव्याः भवन्ति, तदा एतत् विघटनं अत्यन्तं लाभप्रदम् — एकवारमेव LU-विघटनं कृत्वा पुनः पुनः Ly=b, Ux=y इत्येताभ्यां समाधानं शीघ्रं प्राप्यते।

LU-विघटनस्य गणनाजटिलता O(n³) भवति। परन्तु विघटनस्यानन्तरं प्रत्येकं Ly=b, Ux=y समाधानस्य जटिलता केवलं O(n²) भवति।

 चोलेस्की-विघटनम् (Cholesky Decomposition) 
यदा A सममितीयः (Symmetric) धनात्मकनिश्चितश्च (Positive Definite) आव्यूहः भवति, तदा A = LL^T इति चोलेस्की-विघटनं सम्भवति। अत्र L इत्यधस्त्रिकोणाव्यूहः, L^T च तस्य परिवर्तितः (Transpose)। अस्य संगणकगणनाजटिलता LU-विघटनात् अर्धमात्रं O(n³/6) एव भवति। भौतिकशास्त्रे अभियान्त्रिक्यां च अनेके समस्याः सममितीयधनात्मकनिश्चितसमीकरणान् उत्पादयन्ति, अतः तत्र चोलेस्की-विघटनस्य महत्त्वं विशेषम्।

 तृतीयः परिच्छेदः — आयत्तमूल्यानि आयत्तसदिशाश्च (Eigenvalues and Eigenvectors) 
रैखिक रूपान्तरणस्य (Linear Transformation) स्वभावं समझितुम् आयत्तमूल्यानि (Eigenvalues) आयत्तसदिशाश्च (Eigenvectors) परमावश्यकाः। यदि Av = λv इति भवति यत्र v ≠ 0, तदा λ इति आयत्तमूल्यं v च आयत्तसदिशः।

आयत्तमूल्यानि बहुपदसमीकरणस्य (Characteristic Polynomial) मूलानि भवन्ति —  det(A - λI) = 0 इत्येतत् n-कोटिकं बहुपदम् n-आयत्तमूल्यानि ददाति। परन्तु n ≥ 5 कृते Abel-Ruffini-प्रमेयानुसारं बहुपदस्य बन्धमूलानि सामान्यतः न सन्ति, अतः पुनरावृत्तिपद्धतयः आवश्यकाः।

 शक्तिपद्धतिः (Power Method) 
शक्तिपद्धतिः (Power Method) सर्वाधिकं मूल्यसम्पन्नम् (Dominant) आयत्तमूल्यं प्राप्तुं सरलतमा पद्धतिः। अत्र क्रमशः Ax, A²x, A³x, ... इति गणयित्वा अनुपातः परिलक्ष्यते। यदि λ_1 इति सर्वाधिकनिरपेक्षमूल्यसम्पन्नम् आयत्तमूल्यं, तदा x^(k) = A^k x / ||A^k x|| इति अनुक्रमः λ_1 -आयत्तसदिशाभिमुखं अभिसरति।

अस्याः पद्धत्याः दोषः — केवलं एकम् आयत्तमूल्यम् एव प्रदाति। Inverse Power Method द्वारा न्यूनतममूल्यम् प्राप्यते। Shift-Invert-पद्धत्या च विशिष्टमूल्यस्य निकटस्थम् आयत्तमूल्यम् प्राप्यते।

 QR-कलनविधिः (QR Algorithm) 
QR-कलनविधिः सर्वाधिकप्रचलितः सम्पूर्णआयत्तमूल्यप्रापक-कलनविधिः। अस्मिन् A = QR (यत्र Q-लंबकोणीय-आव्यूहः R च ऊर्ध्वत्रिकोणाव्यूहः), पुनः A_new = RQ इति चरणद्वयस्य पुनरावृत्तिः क्रियते। एषः अनुक्रमः क्रमशः Schur-स्वरूपाभिमुखं अभिसरति यत्र आयत्तमूल्यानि विकर्णावयवेषु प्रकटन्ते।

व्यावहारिकप्रयोगे प्रथमं Hessenberg-स्वरूपं (Upper Hessenberg Form) प्राप्य पुनः QR-पुनरावृत्तिः क्रियते। Francis QR-चरणेन शीघ्रतरा अभिसरणं प्राप्यते। आधुनिकसंगणकपुस्तकालयेषु (LAPACK इत्यादिषु) एतस्य अत्यन्तकुशलाः क्रियान्वयाः (Implementations) उपलब्धाः।

 SVD — एकवचनमूल्यविघटनम् (Singular Value Decomposition) 
SVD इति सांख्यिक रैखिक बीजगणितस्य महत्तमः कलनविधिः। कस्यापि m×n आव्यूहस्य A = UΣV^T इति विघटनं सम्भवति यत्र U इति m×m लंबकोणीयाव्यूहः, V इति n×n लंबकोणीयाव्यूहः, Σ च m×n विकर्णाव्यूहः। Σ-स्य विकर्णावयवाः σ_1 ≥ σ_2 ≥ ... ≥ 0 इति एकवचनमूल्यानि (Singular Values) इत्युच्यन्ते।

SVD-विघटनस्य अनेके उपयोगाः — न्यूनपदसारणी (Low-Rank Approximation) द्वारा छविसंपीडनम् (Image Compression), Principal Component Analysis (PCA), स्यूडो-विलोमाव्यूहः (Pseudoinverse) गणनम्, तथा च न्यूनतमवर्गसमाधानम् (Least Squares Solution)। Eckart-Young-प्रमेयानुसारं प्रथमाः k एकवचनमूल्यानि उपयुज्य निर्मितः k-पदीयः सन्निकटाव्यूहः Frobenius-नोर्मेण सर्वोत्तमः भवति।

 चतुर्थः परिच्छेदः — पुनरावृत्तिपद्धतयः (Iterative Methods) 
विशालविरलसमस्यासु (Large Sparse Problems) प्रत्यक्षपद्धतयः (Direct Methods) प्रायः अव्यावहारिकाः भवन्ति। तत्र पुनरावृत्तिपद्धतयः अधिकाः कुशलाः।

 Jacobi तथा Gauss-Seidel पद्धतयः 
Jacobi-पद्धत्यां प्रत्येकचरणे प्रत्येकाः x_i -मूल्यं समवर्तिरूपेण (Simultaneously) अद्यतनं (Update) भवति —  x_i^(k+1) = (b_i - Σ_{j≠i} a_ij x_j^(k)) / a_ii। Gauss-Seidel-पद्धत्यां तु तत्कालम् (Immediately) नवमूल्यं उपयुज्यते, येन अभिसरणं शीघ्रतरं भवति। Successive Over-Relaxation (SOR)-पद्धत्यां Gauss-Seidel-चरणस्य उपरि शिथिलता-गुणाङ्कः (Relaxation Parameter ω) प्रयुज्यते येन अभिसरणं अधिकाधिकं त्वरितं भवति।

 संयुग्म-प्रवणिमा-पद्धतिः (Conjugate Gradient Method) 
संयुग्म-प्रवणिमा-पद्धतिः (CG-Method) सममितीयधनात्मकनिश्चितसमीकरणानां पुनरावृत्तिसमाधाने सर्वोत्कृष्टा। अस्यां पद्धत्यां अवशिष्टः (Residual) r^(k) = b - Ax^(k) तथा अन्वेषणदिशाः (Search Directions) p^(k) परस्परसंयुग्मरूपेण (A-Orthogonal) निर्माय्यन्ते।

प्रत्येकं CG-चरणम् — x^(k+1) = x^(k) + α_k p^(k) r^(k+1) = r^(k) - α_k A p^(k) p^(k+1) = r^(k+1) + β_k p^(k)

यत्र α_k, β_k च उपयुक्तरूपेण परिगण्यन्ते। सिद्धान्ततः n-चरणेषु सम्यक् समाधानं प्राप्यते परन्तु व्यावहारिकतः अल्पचरणेष्वेव पर्याप्तसन्निकटता (Approximation) लभ्यते। पूर्वशोधनम् (Preconditioning) अर्थात् समस्यायाः पुनर्सज्जितम् M^{-1}Ax = M^{-1}b (यत्र M ≈ A) द्वारा अभिसरणं त्वरितं कर्तुं शक्यते।

 GMRES — व्यापककृत्यं न्यूनतमावशिष्ट-पद्धतिः (Generalized Minimal Residual) 
असममितीय (Non-Symmetric) आव्यूहार्थं GMRES-पद्धतिः प्रचलिता। अस्यां Krylov-उपक्षेत्रम् (Krylov Subspace) K_k(A,r_0) = span{r_0, Ar_0, A²r_0, ..., A^{k-1}r_0} निर्माय्यते, पुनः तत्क्षेत्रे न्यूनतमावशिष्टसदिशसम्पन्नः x_k चीयते। Arnoldi-प्रक्रियया K_k -स्य लंबकोणीयाधारः (Orthogonal Basis) निर्मीयते। Restarted GMRES(m)-पद्धत्यां स्मृतिसमस्या निवार्यते।

 पञ्चमः परिच्छेदः — सङ्ख्यास्थिरता त्रुटिविश्लेषणं च (Numerical Stability and Error Analysis) 
सांख्यिकपद्धतीनां मूल्याङ्कने त्रुटिविश्लेषणं परमावश्यकम्। द्वौ प्रमुखावपायौ स्तः — गोलाकारत्रुटिः (Round-off Error) यत्र सीमितसंख्यालेखनेन त्रुटिः भवति, च विक्षोभत्रुटिः (Truncation Error) यत्र पुनरावृत्तिस्थगनेन त्रुटिः भवति।

स्थितिसंख्या (Condition Number): κ(A) = ||A|| · ||A^{-1}|| इति स्थितिसंख्या समस्यायाः संवेदनशीलतां मापयति। यदि κ(A) अधिका, तर्हि समस्या दुःस्थिता (Ill-conditioned) इत्युच्यते — लघुत्रुटिरपि समाधाने महाप्रभावं करोति। SVD-विघटनस्य दृष्ट्या κ(A) = σ_max / σ_min।

अग्रत्रुटिविश्लेषणम् (Forward Error Analysis): यदि A-आव्यूहे δA-परिमाणं विक्षोभः, b-सदिशे δb-परिमाणं विक्षोभश्च, तदा समाधाने सापेक्षत्रुटिः (Relative Error) κ(A)(||δA||/||A|| + ||δb||/||b||) इत्येतद् परिमाणेन आबद्धा।

विपरीतत्रुटिविश्लेषणम् (Backward Error Analysis): Wilkinson-महोदयस्य एषा महत्त्वपूर्णा संकल्पना — यदि गणनाफलम् x̂ अस्ति तदा तत् दर्शयति किं x̂ किं स किञ्चित् विक्षुब्धस्य (perturbed) (A + δA)x̂ = b+δb समस्यायाः सम्यक् उत्तरम् इति। Gauss-विलोपनम् आंशिकमुख्यतत्त्वचयनेन विपरीतदृष्ट्या स्थिरम् (Backward Stable) भवति।

 षष्ठः परिच्छेदः — न्यूनतमवर्गसमस्याः (Least Squares Problems) 
व्यावहारिकप्रयोगेषु प्रायः समीकरणसंख्या अज्ञातसंख्यायाः अधिका भवति (m > n) — अतिनिर्धारितसमस्या (Overdetermined System)। तदा सटीकसमाधानं न विद्यते, ||Ax - b||² न्यूनतमीकर्तुं शक्यते।

सामान्यसमीकरणानि (Normal Equations): A^TAx = A^Tb — एतत् n×n सममितीयधनात्मकनिश्चितसमीकरणं भवति। परन्तु A^TA-स्य स्थितिसंख्या A-स्य स्थितिसंख्यायाः वर्गं (κ²) भवति, अतः सांख्यिकदृष्ट्या एषः मार्गः न श्रेयान्।

QR-विघटनेन न्यूनतमवर्गसमाधानम्: A = QR विघटनेन (यत्र Q ∈ ℝ^(m×n) लंबस्तम्भाव्यूहः, R च n×n ऊर्ध्वत्रिकोणाव्यूहः) न्यूनतमवर्गसमाधानं Rx = Q^Tb इत्येतद् सरलसमीकरणेन प्राप्यते। Householder-परावर्तनानि (Reflections) QR-विघटनाय कुशलाः।

SVD-द्वारा न्यूनतमवर्गसमाधानम्: x = VΣ^+U^Tb यत्र Σ^+ इति Σ-स्य छद्मविलोमः (Pseudoinverse)। श्रेण्यन्यूनाव्यूहेषु (Rank-Deficient Matrices) च SVD-पद्धतिः सर्वाधिका स्थिरा।

Regularization-पद्धतिषु Tikhonov-regularization प्रसिद्धा — ||Ax - b||² + λ||x||² न्यूनतमीकर्तुम्, येन समाधानस्य परिमाणम् (Norm) नियन्त्रितं भवति। एषा LASSO (L1), Ridge (L2) इत्यादिशिक्षणालगोरिद्मानाम् आधारभूमिः।

 सप्तमः परिच्छेदः — सांख्यिक रैखिक बीजगणितस्य अनुप्रयोगाः (Applications) 
सांख्यिक रैखिक बीजगणितस्य अनुप्रयोगाः अनन्ताः। विज्ञानस्य, अभियान्त्रिक्याः, अर्थशास्त्रस्य च प्रत्येके क्षेत्रे एतस्य उपयोगः।

परिमितमूलकविश्लेषणम् (Finite Element Analysis): भवनसेतुयन्त्रादीनां संरचनाविश्लेषणे विशालविरलसममितीयसमीकरणपद्धतयः उत्पन्ना भवन्ति — CG-पूर्वशोधितपद्धत्या तासां समाधानं क्रियते।

गूगल-पृष्ठसंख्याकलनम् (Google PageRank): अन्तर्जालपृष्ठानां महत्त्वांकनम् विशाल-अरल-आव्यूहस्य मुख्याव्यात्तसदिशगणनेन प्राप्यते — Power Method-पद्धत्या।

यन्त्रशिक्षणम् (Machine Learning): Principal Component Analysis (PCA), Linear Discriminant Analysis (LDA), Recommendation Systems इत्यादीनि SVD-QR-आधारितानि। गहनशिक्षणे (Deep Learning) Batch Normalization, Attention Mechanism च आव्यूहगणनाधिष्ठितानि।

सङ्केत-संसाधनम् (Signal Processing): Fourier-रूपान्तरणस्य Fast Fourier Transform (FFT) कलनविधिः आव्यूहगुणनस्य विशेषरूपं। छविसंसाधने (Image Processing) SVD-विघटनं छविसंपीडनाय।

पदार्थविज्ञानम् (Physics): Schrödinger-समीकरणस्य विवेकीकरणेन (Discretization) आयत्तमूल्यसमस्याः। Maxwell-समीकरणानि विरलसमीकरणपद्धतीं जनयन्ति।

 उपसंहारः (Conclusion) 
सांख्यिक रैखिक बीजगणितम् आधुनिकविज्ञानस्य अभियान्त्रिक्याश्च मेरुदण्डः। गाउस्-विलोपनात् आरभ्य आधुनिक Krylov-पद्धतिपर्यन्तं, SVD-विघटनात् आरभ्य Deep Learning-पर्यन्तं — सर्वत्र एतस्याः शाखायाः महत्त्वम् अतुलनीयम्।

भारतीयगणितपरम्परायाः दृष्ट्या अपि रैखिकसमीकरणानां विषये प्राचीनाः शास्त्रकाराः अग्रगामिनः आसन्। आर्यभट्टस्य वर्गमूल-घनमूल-पद्धतयः, ब्रह्मगुप्तस्य पेल-समीकरणसमाधानम्, भास्कराचार्यस्य चक्रवालपद्धतिः — एताः सर्वाः सांख्यिकपद्धतीनां पूर्वगामिन्यः आसन्।

आधुनिककाले LAPACK, BLAS, ARPACK, SciPy, NumPy इत्यादीनि पुस्तकालयानि एताः पद्धतीः अत्यन्तकुशलतया क्रियान्वयन्ति। GPU-आधारितसमानान्तरगणना (Parallel Computing) द्वारा विशालतमसमस्यानां समाधानम् अल्पसमयेन सम्भवं जातम्। भविष्ये क्वान्टम-सङ्गणकयन्त्राणाम् (Quantum Computers) आगमनेन सांख्यिक रैखिक बीजगणितस्य नूतनाः आयामाः उद्घाटिष्यन्ते।

एवं सांख्यिक रैखिक बीजगणितम् केवलं गणितस्य एका शाखा न, अपितु आधुनिकतकनोलोज्याः, विज्ञानस्य, च अभियान्त्रिक्याः संजीवनी इति निःसंशयं वक्तुं शक्यते।
इदं निबन्धलेखनं संस्कृतभाषायां सम्पन्नम् — यथासाध्यं परिभाषापदानि मूलभाषां संस्कृतम् अनुसृत्य निर्मितानि। गणितीयपदानां कृते परम्परागतसंस्कृतपरिभाषाः यथा आव्यूहः (Matrix), सदिशः (Vector), विकर्णः (Diagonal), समीकरणम् (Equation), विघटनम् (Decomposition), अभिसरणम् (Convergence) इत्यादयः प्रयुक्ताः।