不定方程式が解を持つかどうかの判定、持つとしたらそれらの解を生成する式を与えること、などは数論の中心的な分野となっているが、今でも研究が進んでいるとは言えない、まだまだ未知の分野なのである。ヒルベルトの第10問題、ディオファントス方程式が解を持つか否かを判定する一般的方法があるかどうか、というのもこれと結びついている。なお、これは否定的に解決され、一般的な方法はないと分かっている。
これらの問題は、代数的整数論や、現在数学の主流の分野にもなっている代数幾何学がかなり有用だが、これを解説するわけにも行かないので、初等整数論的な解法というのを挙げていく。
なお、一次不定方程式は、初等整数論/算術の基本定理でその解法が載っている。変数がいくらに増えても、数学的帰納法によって解については証明が可能だし、変数が2つの場合から順番にやっていくことで解が必ず得られる。
ピタゴラス数とは、
a^2 + b^2 = c^2
を満たす (a, b, c) の組のことである。これは直角三角形との幾何学的意味との関係を持つので、ところどころ幾何学と結びつけていく。
まず、これらを満たす数の組を幾つか列挙してみよう。
どうやら解が有限個ということはなさそうである。さて、幾何学的意味を考えると、相似な三角形は辺の比を保つ。なので、3^2 + 4^2 = 5^2 が分かったら、自動的に 6^2 + 8^2 = 10^2, \ \ 9^2 + 12^2 = 15^2 も分かるということである。このことを代数的に証明する。
a^2 + b^2 = c^2 \iff n^2a^2 + n^2b^2 = n^2c^2 \iff (na)^2 + (nb)^2 = (nc)^2
より簡単に証明される。さて、先ほどの式を変形してみる。
7^2 + 24^2 = 25^2 \iff 25^2 - 24^2 = 7^2 \iff (25+24)(25-24) = 7^2
12^2 + 35^2 = 37^2 \iff 37^2 - 35^2 = 7^2 \iff (37+35)(37-25) = 12^2
このように平方の差を作って因数分解できるのである。
ではここからピタゴラス数の一般的な場合を考える。
ピタゴラス数の組 (a, b, c) が求まったら、それぞれの定数倍 (na, nb, nc) もピタゴラス数であることは先ほど証明した通りである。逆に、gcm(a, b, c) = d > 2 ならば、それぞれを d で割った (a', b', c') もピタゴラス数である。
仮定より、gcm(a, b, c) = d > 2 なので da' = a, db' = b, dc = c' とおくと、a^2 + b^2 = c^2 に代入して、
(da')^2 + (db')^2 = (dc'^2) \iff d^2a'^2 + d^2b'^2 = d^2c'^2 \iff a'^2 + b'^2 = c'^2 となる。
以上より、3数の最大公約数が1、すなわち、広義の互いに素、の場合を考慮すれば良いことが分かる。そこで、gcm(a, b, c) = 1 とおく。
ここで、a, b のどちらか片方は偶数で、もう片方は奇数であることを証明する。
仮に、a, b どちらも偶数だとすると、gcm(a, b, c) = 1 より c は奇数である。a = 2d, b = 2e, c = 2f + 1 とし、a^2 + b^2 = c^2 に代入して
4d^2 + 4e^2 = 4f^2 + 4f + 1 \iff 4(d^2 + e^2) = 4(f^2 + f) + 1 となり、除法の原理に矛盾。よって、a, b のどちらか片方は奇数であることが分かった。
次に、a, b のどちらも奇数だとすると、a = 2d + 1, b = 2e + 1 とおいて、a^2 + b^2 = c^2 に代入して
4d^2 + 4d + 1 + 4e^2 + 4e + 1 = c^2 \iff c^2 = 4(d^2 + d + e^2 + e) + 2 となり、c^2 は 4 で割ると 2 余る数であるが、これはあり得ない。なぜなら、任意の x に対して、定理 2.1 より
\begin{cases}
x \equiv 0 \Rightarrow x^2 \equiv 0 \\
x \equiv 1 \Rightarrow x^2 \equiv 1 \\
x \equiv 2 \Rightarrow x^2 \equiv 4 \iff x^2 \equiv 0 \\
x \equiv 3 \Rightarrow x^2 \equiv 9 \iff x^2 \equiv 1 \\
\end{cases}
\pmod 4
となって、4 で割って 2 余る平方数など存在しないからである。
よって、a, b どちらかは偶数、もう片方は奇数である。そこで、a が奇数、b が偶数だということにする。
\frac{c-a}{2}, \frac{c+a}{2} はもちろんどちらも整数。また、これらの数は互いに素である。なぜなら、
\frac{c-a}{2} = de, \, \frac{c+a}{2} = df \ \ (d > 1) と表せるのならば、
\frac{c+a}{2} + \frac{c-a}{2} = c \iff c = d(e+f)
\frac{c+a}{2} - \frac{c-a}{2} = a \iff a = d(e-f)
となって、これを a^2 + b^2 = c^2 に代入して
\begin{align}
d^2(e-f)^2 + b^2 = d^2(e+f)^2 & \iff b^2 = d^2 \{ (e+f)^2 - (e-f)^2 \} \\
& \iff b^2 = d^2 \{ (e+f) + (e-f)\} \{ (e+f) - (e-f) \} \\
& \iff b^2 = d^2 (4ef) \\
& \iff \left( \frac{b}{d} \right)^2 = 4ef
\end{align}
よって、b は d で割り切れなければならない。（※1）
しかし、これは gcm(a, b, c) = 1 に反する。
したがって、\frac{c-a}{2}, \frac{c+a}{2} は互いに素。
\frac{c-a}{2} \cdot \frac{c+a}{2} = \frac{c^2 - a^2}{4} = \frac{b^2}{4} より、2数をかけたものは平方数。2数は互いに素なので、どちらも平方数であることが分かる。（※2）よって、
\frac{c-a}{2} = n^2, \ \frac{c+a}{2} = m^2
とおける。これをとくと、a = m^2 - n^2, \ c = m^2 + n^2 となり、これを a^2 + b^2 = c^2 に代入して、b = 2mn
したがって、(a, b, c) = (m^2-n^2, 2mn, m^2 + n^2)
またそれぞれを定数倍したものもピタゴラス数なので (a, b, c) = ( \ d(m^2-n^2), 2dmn, d(m^2 + n^2) \ )
（※1）について : 
一般に、x^2 = y^2N のとき、 x は y で割り切れる。
x を素因数分解して、x = p^{\alpha} q^{\beta} r^{\gamma} \cdots とすれば、
x^2 = p^{2 \alpha} q^{2 \beta} r^{2 \gamma} \cdots したがって、y^2N = p^{2 \alpha} q^{2 \beta} r^{2 \gamma} \cdots となる。x が y で割り切れないならば、y が x と異なる素因数を少なくとも一つ持つということだが（全て同じ素因数を持つならば割りきれてしまうので背理法によって結論づけられる。）、それは素因数分解の一意性に反するので、x は y で割り切れなければならない。
（※2）について :
定理
一般に、a, b が互いに素のとき、ab = z^n ならば、a = x^n, b = y^n と表せる。
素因数分解した形 : a = p_0^ap_1^bp_2^c \cdots, b = q_0^{\alpha}q_1^{\beta}q_2^{\gamma} \cdots で表したとき、a, b は互いに素なので共通の素因数を持つことはない（持っていたら互いに素ではなくなるため）。
したがって、 ab = p_0^{a_0}p_1^{a_1}p_2^{a_2} \cdots q_0^{b_0}q_1^{b_1}q_2^{b_2} \cdots となり、これを ab = z^n に代入して、 
z^n = p_0^{a_0}p_1^{a_1}p_2^{a_2} \cdots q_0^{b_0}q_1^{b_1}q_2^{b_2} \cdots
ここで z を素因数分解して、 z = r_0^{\alpha}r_1^{\beta}r_2^{\gamma} \cdots \iff z^n = r_0^{n \alpha}r_1^{n \beta}r_2^{n \gamma} \cdots
したがって素因数分解の一意性によって、a_0, a_1, a_2, \cdots, b_0, b_1, b_2, \cdots は全て n で割り切れる。つまり、a, b は n乗数である。したがって定理は証明された。