Обнаружена ошибка с плавающей запятой (цикл while)

Конечно нет, потому что Mathcad может сразу привести к диагональному виду (но в этом случае отпадает необходимость в итерационном методе, так как задача для СЛАУ фактически решена)! Ручками Вашу матрицу привести просто нереально. В мае я выкладывал код, который приводит к диагональному преобладанию с помощью случайного перебора для СЛАУ с тремя неизвестными. Чуть попозже выложу результат приведения Вашей системы с четырьмя неизвестными!

Подправил свой майский код, чтобы он выводил матрицу с диагональным преобладанием для любого порядка, вот результат для Вашей матрицы с коэффициентами приведения (если последние нужно выдать для препода как "результат" ручного приведения).

1