метод гаусса

как решать систему уравнений, в которой уравнений 4, а неизвестных 5 ?

в такой системе просто будет линейное подпространство решений размерности (5-4). а если по - человечески, то бесконечно много.

а решать также, как и обычно.
приводишь матрицу к диагональному виду насколько получится. 
в последней строке у тебя скорее всего останется 2 коэффициента(хотя может так получиться, что он будет один). ты вводишь некую переменную, которую считаешь значением например x5. вычисляешь всё остальные x1, x2, x3, x4;
они в иотге могут зависеть от введённой переменной. собственно вот ты и получил линейное подпространство решений.

в общем случае для системы из m уравнений и n переменных, пространство решений имеет размерность больше либо раную 0 и меньше либо равную n-m