יציבות נומרית

באנליזה נומרית, יציבות נומרית מציינת את מידת דיוקו של האלגוריתם הנומרי ובהתאם את שגיאת הקירוב המוערכת שלו.

אי יציבות נומרית נוצרת ממגבלת ייצוג מספרים במחשב (או בכל אמצעי אחר), המוגבל על ידי גודל הזיכרון המוקצה למטרה זו, וגורם לכך שהמספר מקוצץ או מעוגל מעבר למספר ספרות זה. 

לדוגמה פאי () שווה ל-3.141592653589793 ביצוג 64 ביט, ביצוג של 32 ביט 3.1415927, וביצוג של 16 ביט ל-3.14.

מגבלת הייצוג עלולה לגורם לשגיאות בחישוב אם האלגוריתם רגיש לתנודות קטנות במספרים שלאחר הנקודה העשרונית, תנודות שעלולות לשנה את תוצאת החישוב בצורה ניכרת. לעיתים, מגבלת ייצוג העשרוני יכולה לגרום לשגיאה לגדול במהלך חישוב אלגוריתם התלוי בתוצאת חישובים קודמים שלו (לולאה או רקורסיה) ועלול להשפיע במידה משמעותית על תוצאת הסופית. מצב זה נקרא אי-יציבות נומרית.

אנליזה נומרית