Metode iteratif

Dalam Matematika komputasi, metode iteratif adalah prosedur matematis yang menggunakan nilai awal untuk menghasilkan rangkaian perbaikan hampiran solusi untuk suatu kelas permasalahan, dengan hampiran ke-n diturunkan dari hampiran sebelumnya. Implementasi spesifik dengan kriteria penghentian untuk suatu metode iteratif, seperti penurunan gradien, hill climbing, metode Newton, atau metode quasi-Newton, seperti BFGS, merupakan sebuah algoritma dari metode iteratif tersebut. Metode iteratif dikatakan konvergen, jika barisan yang bersesuaian konvergen untuk hampiran awal yang diberikan. Analisis konvergensi matematis yang ketat dari metode iteratif biasanya dilakukan, tetapi metode iteratif berbasis heuristik juga umum dilakukan. Sebaliknya, metode langsung berusaha untuk memecahkan masalah dengan serangkaian operasi yang terbatas. Tanpa adanya kesalahan pembulatan, metode langsung akan menghasilkan solusi yang tepat, contohnya dalam menyelesaikan sistem persamaan linier A x = b dengan eliminasi gauss. Metode iteratif seringkali merupakan satu-satunya pilihan untuk persamaan non-linear. Namun, metode iteratif seringkali berguna untuk masalah linear yang melibatkan banyak variabel, yang metode langsung akan sangat mahal. Bahkan dengan menggunakan daya komputasi terbaik yang ada.