В моем случае матрица была предсказуема, достаточно было только сделать обратную конвертацию. Вам надо действительно найти простую входную и выходную матрицу (ее можно руками просчитать согласно реализованному алгоритму, а потом просто числа сравнить).