optimize nmod_mat_det_dim3()