Значение должно быть матрицей со скалярными элементами

У Вас используется шеститочечная формула интегрирования, где используются весовые коэффициенты

, поэтому оператор while вообще не нужен (оператор break тоже лишний), только надо положить сразу n=5. А происходит у Вас следующее: во время третьего цикла n=12 и происходит обращение к элементам

, которых на самом деле нет.