; LLVM IR from libxsmm/libxsmm :: src (libxsmm_xcopy)

; Unoptimized IR (clang -disable-llvm-passes):
target datalayout = "e-m:e-p270:32:32-p271:32:32-p272:64:64-i64:64-i128:128-f80:128-n8:16:32:64-S128"
target triple = "x86_64-unknown-linux-gnu"

%struct.libxsmm_xcopy_tile_elem_t.3 = type { [2 x double] }
%struct.libxsmm_xcopy_tile_elem_t.4 = type { [2 x double] }
%struct.libxsmm_xcopy_tile_elem_t.5 = type { [2 x double] }
%struct.libxsmm_xcopy_tile_elem_t.6 = type { [2 x double] }
%union.libxsmm_xcopykernel = type { ptr }
%struct.libxsmm_meltw_unary_param = type { %struct.libxsmm_matrix_op_arg, %struct.libxsmm_matrix_arg, %struct.libxsmm_matrix_arg }
%struct.libxsmm_matrix_op_arg = type { ptr, ptr, ptr, ptr }
%struct.libxsmm_matrix_arg = type { ptr, ptr, ptr, ptr, ptr, ptr }

@.str.9 = external hidden unnamed_addr constant [69 x i8], align 1
@.str.17 = external hidden unnamed_addr constant [56 x i8], align 1
@.str.18 = external hidden unnamed_addr constant [32 x i8], align 1
@.str.19 = external hidden unnamed_addr constant [260 x i8], align 1
@__PRETTY_FUNCTION__.libxsmm_matzero_internal = external hidden unnamed_addr constant [171 x i8], align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_ = external hidden global i8, align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.20 = external hidden global i16, align 2
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.21 = external hidden global float, align 4
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.22 = external hidden global double, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.23 = external hidden global %struct.libxsmm_xcopy_tile_elem_t.3, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.24 = external hidden global i8, align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.25 = external hidden global i16, align 2
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.26 = external hidden global float, align 4
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.27 = external hidden global double, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.28 = external hidden global %struct.libxsmm_xcopy_tile_elem_t.4, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.29 = external hidden global i8, align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.30 = external hidden global i16, align 2
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.31 = external hidden global float, align 4
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.32 = external hidden global double, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.33 = external hidden global %struct.libxsmm_xcopy_tile_elem_t.5, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.34 = external hidden global i8, align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.35 = external hidden global i16, align 2
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.36 = external hidden global float, align 4
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.37 = external hidden global double, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.38 = external hidden global %struct.libxsmm_xcopy_tile_elem_t.6, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.39 = external hidden global i8, align 1

; Function Attrs: nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.start.p0(i64 immarg, ptr nocapture) #0

; Function Attrs: nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.end.p0(i64 immarg, ptr nocapture) #0

; Function Attrs: noreturn nounwind
declare void @__assert_fail(ptr noundef, ptr noundef, i32 noundef, ptr noundef) #1

; Function Attrs: nounwind uwtable
define dso_local void @libxsmm_matzero_internal(ptr noundef %0, i32 noundef %1, i32 noundef %2, i32 noundef %3, i32 noundef %4, i32 noundef %5, i32 noundef %6, i32 noundef %7, i32 noundef %8, i64 %9) #2 {
  %11 = alloca %union.libxsmm_xcopykernel, align 8
  %12 = alloca ptr, align 8
  %13 = alloca i32, align 4
  %14 = alloca i32, align 4
  %15 = alloca i32, align 4
  %16 = alloca i32, align 4
  %17 = alloca i32, align 4
  %18 = alloca i32, align 4
  %19 = alloca i32, align 4
  %20 = alloca i32, align 4
  %21 = alloca i32, align 4
  %22 = alloca i32, align 4
  %23 = alloca ptr, align 8
  %24 = alloca ptr, align 8
  %25 = alloca %struct.libxsmm_meltw_unary_param, align 8
  %26 = alloca i32, align 4
  %27 = alloca i32, align 4
  %28 = alloca ptr, align 8
  %29 = alloca ptr, align 8
  %30 = alloca i32, align 4
  %31 = alloca i32, align 4
  %32 = alloca ptr, align 8
  %33 = alloca ptr, align 8
  %34 = alloca i32, align 4
  %35 = alloca i32, align 4
  %36 = alloca ptr, align 8
  %37 = alloca ptr, align 8
  %38 = alloca i32, align 4
  %39 = alloca i32, align 4
  %40 = alloca ptr, align 8
  %41 = alloca ptr, align 8
  %42 = alloca i32, align 4
  %43 = alloca i32, align 4
  %44 = alloca ptr, align 8
  %45 = alloca ptr, align 8
  %46 = alloca i8, align 1
  %47 = alloca ptr, align 8
  %48 = alloca i8, align 1
  %49 = alloca i32, align 4
  %50 = alloca i32, align 4
  %51 = alloca ptr, align 8
  %52 = alloca ptr, align 8
  %53 = alloca i32, align 4
  %54 = alloca i32, align 4
  %55 = alloca ptr, align 8
  %56 = alloca ptr, align 8
  %57 = alloca i32, align 4
  %58 = alloca i32, align 4
  %59 = alloca ptr, align 8
  %60 = alloca ptr, align 8
  %61 = alloca i32, align 4
  %62 = alloca i32, align 4
  %63 = alloca ptr, align 8
  %64 = alloca ptr, align 8
  %65 = alloca i32, align 4
  %66 = alloca i32, align 4
  %67 = alloca ptr, align 8
  %68 = alloca ptr, align 8
  %69 = alloca i8, align 1
  %70 = alloca ptr, align 8
  %71 = alloca i8, align 1
  %72 = alloca i32, align 4
  %73 = alloca i32, align 4
  %74 = alloca ptr, align 8
  %75 = alloca ptr, align 8
  %76 = alloca i32, align 4
  %77 = alloca i32, align 4
  %78 = alloca ptr, align 8
  %79 = alloca ptr, align 8
  %80 = alloca i32, align 4
  %81 = alloca i32, align 4
  %82 = alloca ptr, align 8
  %83 = alloca ptr, align 8
  %84 = alloca i32, align 4
  %85 = alloca i32, align 4
  %86 = alloca ptr, align 8
  %87 = alloca ptr, align 8
  %88 = alloca i32, align 4
  %89 = alloca i32, align 4
  %90 = alloca ptr, align 8
  %91 = alloca ptr, align 8
  %92 = alloca i8, align 1
  %93 = alloca ptr, align 8
  %94 = alloca i8, align 1
  %95 = alloca i32, align 4
  %96 = alloca i32, align 4
  %97 = alloca ptr, align 8
  %98 = alloca ptr, align 8
  %99 = alloca i32, align 4
  %100 = alloca i32, align 4
  %101 = alloca ptr, align 8
  %102 = alloca ptr, align 8
  %103 = alloca i32, align 4
  %104 = alloca i32, align 4
  %105 = alloca ptr, align 8
  %106 = alloca ptr, align 8
  %107 = alloca i32, align 4
  %108 = alloca i32, align 4
  %109 = alloca ptr, align 8
  %110 = alloca ptr, align 8
  %111 = alloca i32, align 4
  %112 = alloca i32, align 4
  %113 = alloca ptr, align 8
  %114 = alloca ptr, align 8
  %115 = alloca i8, align 1
  %116 = alloca ptr, align 8
  %117 = alloca i8, align 1
  %118 = getelementptr inbounds %union.libxsmm_xcopykernel, ptr %11, i32 0, i32 0
  %119 = inttoptr i64 %9 to ptr
  store ptr %119, ptr %118, align 8
  store ptr %0, ptr %12, align 8, !tbaa !5
  store i32 %1, ptr %13, align 4, !tbaa !9
  store i32 %2, ptr %14, align 4, !tbaa !9
  store i32 %3, ptr %15, align 4, !tbaa !9
  store i32 %4, ptr %16, align 4, !tbaa !9
  store i32 %5, ptr %17, align 4, !tbaa !9
  store i32 %6, ptr %18, align 4, !tbaa !9
  store i32 %7, ptr %19, align 4, !tbaa !9
  store i32 %8, ptr %20, align 4, !tbaa !9
  br label %120

120:                                              ; preds = %10
  call void @llvm.lifetime.start.p0(i64 4, ptr %21) #4
  %121 = load i32, ptr %17, align 4, !tbaa !9
  store i32 %121, ptr %21, align 4, !tbaa !9
  call void @llvm.lifetime.start.p0(i64 4, ptr %22) #4
  %122 = load i32, ptr %15, align 4, !tbaa !9
  store i32 %122, ptr %22, align 4, !tbaa !9
  %123 = load i32, ptr %20, align 4, !tbaa !9
  %124 = icmp ult i32 0, %123
  br i1 %124, label %125, label %129

125:                                              ; preds = %120
  %126 = load i32, ptr %19, align 4, !tbaa !9
  %127 = icmp ult i32 0, %126
  br i1 %127, label %128, label %129

128:                                              ; preds = %125
  br label %130

129:                                              ; preds = %125, %120
  call void @__assert_fail(ptr noundef @.str.17, ptr noundef @.str.9, i32 noundef 212, ptr noundef @__PRETTY_FUNCTION__.libxsmm_matzero_internal) #5
  unreachable

130:                                              ; preds = %128
  %131 = load ptr, ptr %11, align 8, !tbaa !11
  %132 = icmp ne ptr null, %131
  br i1 %132, label %133, label %189

133:                                              ; preds = %130
  br label %134

134:                                              ; preds = %184, %133
  %135 = load i32, ptr %21, align 4, !tbaa !9
  %136 = load i32, ptr %18, align 4, !tbaa !9
  %137 = load i32, ptr %20, align 4, !tbaa !9
  %138 = sub nsw i32 %136, %137
  %139 = add nsw i32 %138, 1
  %140 = icmp slt i32 %135, %139
  br i1 %140, label %141, label %188

141:                                              ; preds = %134
  %142 = load i32, ptr %15, align 4, !tbaa !9
  store i32 %142, ptr %22, align 4, !tbaa !9
  br label %143

143:                                              ; preds = %179, %141
  %144 = load i32, ptr %22, align 4, !tbaa !9
  %145 = load i32, ptr %16, align 4, !tbaa !9
  %146 = load i32, ptr %19, align 4, !tbaa !9
  %147 = sub nsw i32 %145, %146
  %148 = add nsw i32 %147, 1
  %149 = icmp slt i32 %144, %148
  br i1 %149, label %150, label %183

150:                                              ; preds = %143
  call void @llvm.lifetime.start.p0(i64 8, ptr %23) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_, ptr %23, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %24) #4
  %151 = load ptr, ptr %12, align 8, !tbaa !5
  %152 = load i32, ptr %13, align 4, !tbaa !9
  %153 = zext i32 %152 to i64
  %154 = load i32, ptr %21, align 4, !tbaa !9
  %155 = sext i32 %154 to i64
  %156 = load i32, ptr %14, align 4, !tbaa !9
  %157 = zext i32 %156 to i64
  %158 = mul i64 %155, %157
  %159 = load i32, ptr %22, align 4, !tbaa !9
  %160 = sext i32 %159 to i64
  %161 = add i64 %158, %160
  %162 = mul i64 %153, %161
  %163 = getelementptr inbounds i8, ptr %151, i64 %162
  store ptr %163, ptr %24, align 8, !tbaa !5
  br label %164

164:                                              ; preds = %150
  call void @llvm.lifetime.start.p0(i64 128, ptr %25) #4
  %165 = getelementptr inbounds %struct.libxsmm_meltw_unary_param, ptr %25, i32 0, i32 1
  %166 = getelementptr inbounds %struct.libxsmm_matrix_arg, ptr %165, i32 0, i32 0
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_, ptr %166, align 8, !tbaa !12
  %167 = load ptr, ptr %24, align 8, !tbaa !5
  %168 = getelementptr inbounds %struct.libxsmm_meltw_unary_param, ptr %25, i32 0, i32 2
  %169 = getelementptr inbounds %struct.libxsmm_matrix_arg, ptr %168, i32 0, i32 0
  store ptr %167, ptr %169, align 8, !tbaa !16
  %170 = load ptr, ptr %11, align 8, !tbaa !11
  %171 = icmp ne ptr null, %170
  br i1 %171, label %172, label %173

172:                                              ; preds = %164
  br label %174

173:                                              ; preds = %164
  call void @__assert_fail(ptr noundef @.str.18, ptr noundef @.str.9, i32 noundef 212, ptr noundef @__PRETTY_FUNCTION__.libxsmm_matzero_internal) #5
  unreachable

174:                                              ; preds = %172
  %175 = load ptr, ptr %11, align 8, !tbaa !11
  call void %175(ptr noundef %25)
  %176 = load i32, ptr %14, align 4, !tbaa !9
  call void @llvm.lifetime.end.p0(i64 128, ptr %25) #4
  br label %177

177:                                              ; preds = %174
  br label %178

178:                                              ; preds = %177
  call void @llvm.lifetime.end.p0(i64 8, ptr %24) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %23) #4
  br label %179

179:                                              ; preds = %178
  %180 = load i32, ptr %19, align 4, !tbaa !9
  %181 = load i32, ptr %22, align 4, !tbaa !9
  %182 = add i32 %181, %180
  store i32 %182, ptr %22, align 4, !tbaa !9
  br label %143, !llvm.loop !17

183:                                              ; preds = %143
  br label %184

184:                                              ; preds = %183
  %185 = load i32, ptr %20, align 4, !tbaa !9
  %186 = load i32, ptr %21, align 4, !tbaa !9
  %187 = add i32 %186, %185
  store i32 %187, ptr %21, align 4, !tbaa !9
  br label %134, !llvm.loop !19

188:                                              ; preds = %134
  br label %478

189:                                              ; preds = %130
  br label %190

190:                                              ; preds = %473, %189
  %191 = load i32, ptr %21, align 4, !tbaa !9
  %192 = load i32, ptr %18, align 4, !tbaa !9
  %193 = load i32, ptr %20, align 4, !tbaa !9
  %194 = sub nsw i32 %192, %193
  %195 = add nsw i32 %194, 1
  %196 = icmp slt i32 %191, %195
  br i1 %196, label %197, label %477

197:                                              ; preds = %190
  %198 = load i32, ptr %15, align 4, !tbaa !9
  store i32 %198, ptr %22, align 4, !tbaa !9
  br label %199

199:                                              ; preds = %468, %197
  %200 = load i32, ptr %22, align 4, !tbaa !9
  %201 = load i32, ptr %16, align 4, !tbaa !9
  %202 = load i32, ptr %19, align 4, !tbaa !9
  %203 = sub nsw i32 %201, %202
  %204 = add nsw i32 %203, 1
  %205 = icmp slt i32 %200, %204
  br i1 %205, label %206, label %472

206:                                              ; preds = %199
  br label %207

207:                                              ; preds = %206
  %208 = load i32, ptr %13, align 4, !tbaa !9
  switch i32 %208, label %372 [
    i32 2, label %209
    i32 4, label %250
    i32 8, label %291
    i32 16, label %332
  ]

209:                                              ; preds = %207
  br label %210

210:                                              ; preds = %209
  call void @llvm.lifetime.start.p0(i64 4, ptr %26) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %27) #4
  %211 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %211, ptr %26, align 4, !tbaa !9
  br label %212

212:                                              ; preds = %244, %210
  %213 = load i32, ptr %26, align 4, !tbaa !9
  %214 = load i32, ptr %21, align 4, !tbaa !9
  %215 = load i32, ptr %20, align 4, !tbaa !9
  %216 = add i32 %214, %215
  %217 = icmp slt i32 %213, %216
  br i1 %217, label %218, label %247

218:                                              ; preds = %212
  %219 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %219, ptr %27, align 4, !tbaa !9
  br label %220

220:                                              ; preds = %240, %218
  %221 = load i32, ptr %27, align 4, !tbaa !9
  %222 = load i32, ptr %22, align 4, !tbaa !9
  %223 = load i32, ptr %19, align 4, !tbaa !9
  %224 = add i32 %222, %223
  %225 = icmp slt i32 %221, %224
  br i1 %225, label %226, label %243

226:                                              ; preds = %220
  call void @llvm.lifetime.start.p0(i64 8, ptr %28) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.20, ptr %28, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %29) #4
  %227 = load ptr, ptr %12, align 8, !tbaa !5
  %228 = load i32, ptr %26, align 4, !tbaa !9
  %229 = sext i32 %228 to i64
  %230 = load i32, ptr %14, align 4, !tbaa !9
  %231 = zext i32 %230 to i64
  %232 = mul i64 %229, %231
  %233 = load i32, ptr %27, align 4, !tbaa !9
  %234 = sext i32 %233 to i64
  %235 = add i64 %232, %234
  %236 = mul i64 2, %235
  %237 = getelementptr inbounds i8, ptr %227, i64 %236
  store ptr %237, ptr %29, align 8, !tbaa !5
  %238 = load i16, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.20, align 2, !tbaa !20
  %239 = load ptr, ptr %29, align 8, !tbaa !5
  store i16 %238, ptr %239, align 2, !tbaa !20
  call void @llvm.lifetime.end.p0(i64 8, ptr %29) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %28) #4
  br label %240

240:                                              ; preds = %226
  %241 = load i32, ptr %27, align 4, !tbaa !9
  %242 = add nsw i32 %241, 1
  store i32 %242, ptr %27, align 4, !tbaa !9
  br label %220, !llvm.loop !22

243:                                              ; preds = %220
  br label %244

244:                                              ; preds = %243
  %245 = load i32, ptr %26, align 4, !tbaa !9
  %246 = add nsw i32 %245, 1
  store i32 %246, ptr %26, align 4, !tbaa !9
  br label %212, !llvm.loop !23

247:                                              ; preds = %212
  call void @llvm.lifetime.end.p0(i64 4, ptr %27) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %26) #4
  br label %248

248:                                              ; preds = %247
  br label %249

249:                                              ; preds = %248
  br label %465

250:                                              ; preds = %207
  br label %251

251:                                              ; preds = %250
  call void @llvm.lifetime.start.p0(i64 4, ptr %30) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %31) #4
  %252 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %252, ptr %30, align 4, !tbaa !9
  br label %253

253:                                              ; preds = %285, %251
  %254 = load i32, ptr %30, align 4, !tbaa !9
  %255 = load i32, ptr %21, align 4, !tbaa !9
  %256 = load i32, ptr %20, align 4, !tbaa !9
  %257 = add i32 %255, %256
  %258 = icmp slt i32 %254, %257
  br i1 %258, label %259, label %288

259:                                              ; preds = %253
  %260 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %260, ptr %31, align 4, !tbaa !9
  br label %261

261:                                              ; preds = %281, %259
  %262 = load i32, ptr %31, align 4, !tbaa !9
  %263 = load i32, ptr %22, align 4, !tbaa !9
  %264 = load i32, ptr %19, align 4, !tbaa !9
  %265 = add i32 %263, %264
  %266 = icmp slt i32 %262, %265
  br i1 %266, label %267, label %284

267:                                              ; preds = %261
  call void @llvm.lifetime.start.p0(i64 8, ptr %32) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.21, ptr %32, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %33) #4
  %268 = load ptr, ptr %12, align 8, !tbaa !5
  %269 = load i32, ptr %30, align 4, !tbaa !9
  %270 = sext i32 %269 to i64
  %271 = load i32, ptr %14, align 4, !tbaa !9
  %272 = zext i32 %271 to i64
  %273 = mul i64 %270, %272
  %274 = load i32, ptr %31, align 4, !tbaa !9
  %275 = sext i32 %274 to i64
  %276 = add i64 %273, %275
  %277 = mul i64 4, %276
  %278 = getelementptr inbounds i8, ptr %268, i64 %277
  store ptr %278, ptr %33, align 8, !tbaa !5
  %279 = load float, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.21, align 4, !tbaa !24
  %280 = load ptr, ptr %33, align 8, !tbaa !5
  store float %279, ptr %280, align 4, !tbaa !24
  call void @llvm.lifetime.end.p0(i64 8, ptr %33) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %32) #4
  br label %281

281:                                              ; preds = %267
  %282 = load i32, ptr %31, align 4, !tbaa !9
  %283 = add nsw i32 %282, 1
  store i32 %283, ptr %31, align 4, !tbaa !9
  br label %261, !llvm.loop !26

284:                                              ; preds = %261
  br label %285

285:                                              ; preds = %284
  %286 = load i32, ptr %30, align 4, !tbaa !9
  %287 = add nsw i32 %286, 1
  store i32 %287, ptr %30, align 4, !tbaa !9
  br label %253, !llvm.loop !27

288:                                              ; preds = %253
  call void @llvm.lifetime.end.p0(i64 4, ptr %31) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %30) #4
  br label %289

289:                                              ; preds = %288
  br label %290

290:                                              ; preds = %289
  br label %465

291:                                              ; preds = %207
  br label %292

292:                                              ; preds = %291
  call void @llvm.lifetime.start.p0(i64 4, ptr %34) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %35) #4
  %293 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %293, ptr %34, align 4, !tbaa !9
  br label %294

294:                                              ; preds = %326, %292
  %295 = load i32, ptr %34, align 4, !tbaa !9
  %296 = load i32, ptr %21, align 4, !tbaa !9
  %297 = load i32, ptr %20, align 4, !tbaa !9
  %298 = add i32 %296, %297
  %299 = icmp slt i32 %295, %298
  br i1 %299, label %300, label %329

300:                                              ; preds = %294
  %301 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %301, ptr %35, align 4, !tbaa !9
  br label %302

302:                                              ; preds = %322, %300
  %303 = load i32, ptr %35, align 4, !tbaa !9
  %304 = load i32, ptr %22, align 4, !tbaa !9
  %305 = load i32, ptr %19, align 4, !tbaa !9
  %306 = add i32 %304, %305
  %307 = icmp slt i32 %303, %306
  br i1 %307, label %308, label %325

308:                                              ; preds = %302
  call void @llvm.lifetime.start.p0(i64 8, ptr %36) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.22, ptr %36, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %37) #4
  %309 = load ptr, ptr %12, align 8, !tbaa !5
  %310 = load i32, ptr %34, align 4, !tbaa !9
  %311 = sext i32 %310 to i64
  %312 = load i32, ptr %14, align 4, !tbaa !9
  %313 = zext i32 %312 to i64
  %314 = mul i64 %311, %313
  %315 = load i32, ptr %35, align 4, !tbaa !9
  %316 = sext i32 %315 to i64
  %317 = add i64 %314, %316
  %318 = mul i64 8, %317
  %319 = getelementptr inbounds i8, ptr %309, i64 %318
  store ptr %319, ptr %37, align 8, !tbaa !5
  %320 = load double, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.22, align 8, !tbaa !28
  %321 = load ptr, ptr %37, align 8, !tbaa !5
  store double %320, ptr %321, align 8, !tbaa !28
  call void @llvm.lifetime.end.p0(i64 8, ptr %37) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %36) #4
  br label %322

322:                                              ; preds = %308
  %323 = load i32, ptr %35, align 4, !tbaa !9
  %324 = add nsw i32 %323, 1
  store i32 %324, ptr %35, align 4, !tbaa !9
  br label %302, !llvm.loop !30

325:                                              ; preds = %302
  br label %326

326:                                              ; preds = %325
  %327 = load i32, ptr %34, align 4, !tbaa !9
  %328 = add nsw i32 %327, 1
  store i32 %328, ptr %34, align 4, !tbaa !9
  br label %294, !llvm.loop !31

329:                                              ; preds = %294
  call void @llvm.lifetime.end.p0(i64 4, ptr %35) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %34) #4
  br label %330

330:                                              ; preds = %329
  br label %331

331:                                              ; preds = %330
  br label %465

332:                                              ; preds = %207
  br label %333

333:                                              ; preds = %332
  call void @llvm.lifetime.start.p0(i64 4, ptr %38) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %39) #4
  %334 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %334, ptr %38, align 4, !tbaa !9
  br label %335

335:                                              ; preds = %366, %333
  %336 = load i32, ptr %38, align 4, !tbaa !9
  %337 = load i32, ptr %21, align 4, !tbaa !9
  %338 = load i32, ptr %20, align 4, !tbaa !9
  %339 = add i32 %337, %338
  %340 = icmp slt i32 %336, %339
  br i1 %340, label %341, label %369

341:                                              ; preds = %335
  %342 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %342, ptr %39, align 4, !tbaa !9
  br label %343

343:                                              ; preds = %362, %341
  %344 = load i32, ptr %39, align 4, !tbaa !9
  %345 = load i32, ptr %22, align 4, !tbaa !9
  %346 = load i32, ptr %19, align 4, !tbaa !9
  %347 = add i32 %345, %346
  %348 = icmp slt i32 %344, %347
  br i1 %348, label %349, label %365

349:                                              ; preds = %343
  call void @llvm.lifetime.start.p0(i64 8, ptr %40) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.23, ptr %40, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %41) #4
  %350 = load ptr, ptr %12, align 8, !tbaa !5
  %351 = load i32, ptr %38, align 4, !tbaa !9
  %352 = sext i32 %351 to i64
  %353 = load i32, ptr %14, align 4, !tbaa !9
  %354 = zext i32 %353 to i64
  %355 = mul i64 %352, %354
  %356 = load i32, ptr %39, align 4, !tbaa !9
  %357 = sext i32 %356 to i64
  %358 = add i64 %355, %357
  %359 = mul i64 16, %358
  %360 = getelementptr inbounds i8, ptr %350, i64 %359
  store ptr %360, ptr %41, align 8, !tbaa !5
  %361 = load ptr, ptr %41, align 8, !tbaa !5
  call void @llvm.memcpy.p0.p0.i64(ptr align 8 %361, ptr align 8 @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.23, i64 16, i1 false), !tbaa.struct !32
  call void @llvm.lifetime.end.p0(i64 8, ptr %41) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %40) #4
  br label %362

362:                                              ; preds = %349
  %363 = load i32, ptr %39, align 4, !tbaa !9
  %364 = add nsw i32 %363, 1
  store i32 %364, ptr %39, align 4, !tbaa !9
  br label %343, !llvm.loop !33

365:                                              ; preds = %343
  br label %366

366:                                              ; preds = %365
  %367 = load i32, ptr %38, align 4, !tbaa !9
  %368 = add nsw i32 %367, 1
  store i32 %368, ptr %38, align 4, !tbaa !9
  br label %335, !llvm.loop !34

369:                                              ; preds = %335
  call void @llvm.lifetime.end.p0(i64 4, ptr %39) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %38) #4
  br label %370

370:                                              ; preds = %369
  br label %371

371:                                              ; preds = %370
  br label %465

372:                                              ; preds = %207
  call void @llvm.lifetime.start.p0(i64 4, ptr %42) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %43) #4
  %373 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %373, ptr %42, align 4, !tbaa !9
  br label %374

374:                                              ; preds = %461, %372
  %375 = load i32, ptr %42, align 4, !tbaa !9
  %376 = load i32, ptr %21, align 4, !tbaa !9
  %377 = load i32, ptr %20, align 4, !tbaa !9
  %378 = add i32 %376, %377
  %379 = icmp slt i32 %375, %378
  br i1 %379, label %380, label %464

380:                                              ; preds = %374
  %381 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %381, ptr %43, align 4, !tbaa !9
  br label %382

382:                                              ; preds = %457, %380
  %383 = load i32, ptr %43, align 4, !tbaa !9
  %384 = load i32, ptr %22, align 4, !tbaa !9
  %385 = load i32, ptr %19, align 4, !tbaa !9
  %386 = add i32 %384, %385
  %387 = icmp slt i32 %383, %386
  br i1 %387, label %388, label %460

388:                                              ; preds = %382
  call void @llvm.lifetime.start.p0(i64 8, ptr %44) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.24, ptr %44, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %45) #4
  %389 = load ptr, ptr %12, align 8, !tbaa !5
  %390 = load i32, ptr %13, align 4, !tbaa !9
  %391 = zext i32 %390 to i64
  %392 = load i32, ptr %42, align 4, !tbaa !9
  %393 = sext i32 %392 to i64
  %394 = load i32, ptr %14, align 4, !tbaa !9
  %395 = zext i32 %394 to i64
  %396 = mul i64 %393, %395
  %397 = load i32, ptr %43, align 4, !tbaa !9
  %398 = sext i32 %397 to i64
  %399 = add i64 %396, %398
  %400 = mul i64 %391, %399
  %401 = getelementptr inbounds i8, ptr %389, i64 %400
  store ptr %401, ptr %45, align 8, !tbaa !5
  br label %402

402:                                              ; preds = %388
  call void @llvm.lifetime.start.p0(i64 1, ptr %46) #4
  %403 = load i32, ptr %13, align 4, !tbaa !9
  %404 = trunc i32 %403 to i8
  %405 = sext i8 %404 to i32
  %406 = icmp eq i32 -128, %405
  br i1 %406, label %412, label %407

407:                                              ; preds = %402
  %408 = load i32, ptr %13, align 4, !tbaa !9
  %409 = trunc i32 %408 to i8
  %410 = sext i8 %409 to i32
  %411 = icmp slt i32 -128, %410
  br i1 %411, label %412, label %431

412:                                              ; preds = %407, %402
  %413 = load i32, ptr %13, align 4, !tbaa !9
  %414 = zext i32 %413 to i64
  %415 = mul i64 1, %414
  %416 = icmp ult i64 %415, 127
  br i1 %416, label %417, label %421

417:                                              ; preds = %412
  %418 = load i32, ptr %13, align 4, !tbaa !9
  %419 = zext i32 %418 to i64
  %420 = mul i64 1, %419
  br label %422

421:                                              ; preds = %412
  br label %422

422:                                              ; preds = %421, %417
  %423 = phi i64 [ %420, %417 ], [ 127, %421 ]
  %424 = icmp ule i64 %423, 127
  br i1 %424, label %425, label %431

425:                                              ; preds = %422
  %426 = load i32, ptr %13, align 4, !tbaa !9
  %427 = uitofp i32 %426 to double
  %428 = fcmp ole double 0.000000e+00, %427
  br i1 %428, label %430, label %429

429:                                              ; preds = %425
  br i1 true, label %430, label %431

430:                                              ; preds = %429, %425
  br label %432

431:                                              ; preds = %429, %422, %407
  call void @__assert_fail(ptr noundef @.str.19, ptr noundef @.str.9, i32 noundef 212, ptr noundef @__PRETTY_FUNCTION__.libxsmm_matzero_internal) #5
  unreachable

432:                                              ; preds = %430
  %433 = load i32, ptr %13, align 4, !tbaa !9
  %434 = trunc i32 %433 to i8
  store i8 %434, ptr %46, align 1, !tbaa !11
  call void @llvm.lifetime.start.p0(i64 8, ptr %47) #4
  %435 = load ptr, ptr %45, align 8, !tbaa !5
  store ptr %435, ptr %47, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 1, ptr %48) #4
  store i8 0, ptr %48, align 1, !tbaa !11
  br label %436

436:                                              ; preds = %451, %432
  %437 = load i8, ptr %48, align 1, !tbaa !11
  %438 = sext i8 %437 to i32
  %439 = load i8, ptr %46, align 1, !tbaa !11
  %440 = sext i8 %439 to i32
  %441 = icmp slt i32 %438, %440
  br i1 %441, label %442, label %454

442:                                              ; preds = %436
  %443 = load i8, ptr %48, align 1, !tbaa !11
  %444 = sext i8 %443 to i64
  %445 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.24, i64 %444
  %446 = load i8, ptr %445, align 1, !tbaa !11
  %447 = load ptr, ptr %47, align 8, !tbaa !5
  %448 = load i8, ptr %48, align 1, !tbaa !11
  %449 = sext i8 %448 to i64
  %450 = getelementptr inbounds i8, ptr %447, i64 %449
  store i8 %446, ptr %450, align 1, !tbaa !11
  br label %451

451:                                              ; preds = %442
  %452 = load i8, ptr %48, align 1, !tbaa !11
  %453 = add i8 %452, 1
  store i8 %453, ptr %48, align 1, !tbaa !11
  br label %436, !llvm.loop !35

454:                                              ; preds = %436
  call void @llvm.lifetime.end.p0(i64 1, ptr %48) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %47) #4
  call void @llvm.lifetime.end.p0(i64 1, ptr %46) #4
  br label %455

455:                                              ; preds = %454
  br label %456

456:                                              ; preds = %455
  call void @llvm.lifetime.end.p0(i64 8, ptr %45) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %44) #4
  br label %457

457:                                              ; preds = %456
  %458 = load i32, ptr %43, align 4, !tbaa !9
  %459 = add nsw i32 %458, 1
  store i32 %459, ptr %43, align 4, !tbaa !9
  br label %382, !llvm.loop !37

460:                                              ; preds = %382
  br label %461

461:                                              ; preds = %460
  %462 = load i32, ptr %42, align 4, !tbaa !9
  %463 = add nsw i32 %462, 1
  store i32 %463, ptr %42, align 4, !tbaa !9
  br label %374, !llvm.loop !38

464:                                              ; preds = %374
  call void @llvm.lifetime.end.p0(i64 4, ptr %43) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %42) #4
  br label %465

465:                                              ; preds = %464, %371, %331, %290, %249
  br label %466

466:                                              ; preds = %465
  br label %467

467:                                              ; preds = %466
  br label %468

468:                                              ; preds = %467
  %469 = load i32, ptr %19, align 4, !tbaa !9
  %470 = load i32, ptr %22, align 4, !tbaa !9
  %471 = add i32 %470, %469
  store i32 %471, ptr %22, align 4, !tbaa !9
  br label %199, !llvm.loop !39

472:                                              ; preds = %199
  br label %473

473:                                              ; preds = %472
  %474 = load i32, ptr %20, align 4, !tbaa !9
  %475 = load i32, ptr %21, align 4, !tbaa !9
  %476 = add i32 %475, %474
  store i32 %476, ptr %21, align 4, !tbaa !9
  br label %190, !llvm.loop !40

477:                                              ; preds = %190
  br label %478

478:                                              ; preds = %477, %188
  %479 = load i32, ptr %17, align 4, !tbaa !9
  store i32 %479, ptr %21, align 4, !tbaa !9
  br label %480

480:                                              ; preds = %739, %478
  %481 = load i32, ptr %21, align 4, !tbaa !9
  %482 = load i32, ptr %18, align 4, !tbaa !9
  %483 = load i32, ptr %20, align 4, !tbaa !9
  %484 = sub nsw i32 %482, %483
  %485 = add nsw i32 %484, 1
  %486 = icmp slt i32 %481, %485
  br i1 %486, label %487, label %743

487:                                              ; preds = %480
  br label %488

488:                                              ; preds = %487
  %489 = load i32, ptr %13, align 4, !tbaa !9
  switch i32 %489, label %645 [
    i32 2, label %490
    i32 4, label %529
    i32 8, label %568
    i32 16, label %607
  ]

490:                                              ; preds = %488
  br label %491

491:                                              ; preds = %490
  call void @llvm.lifetime.start.p0(i64 4, ptr %49) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %50) #4
  %492 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %492, ptr %49, align 4, !tbaa !9
  br label %493

493:                                              ; preds = %523, %491
  %494 = load i32, ptr %49, align 4, !tbaa !9
  %495 = load i32, ptr %21, align 4, !tbaa !9
  %496 = load i32, ptr %20, align 4, !tbaa !9
  %497 = add i32 %495, %496
  %498 = icmp slt i32 %494, %497
  br i1 %498, label %499, label %526

499:                                              ; preds = %493
  %500 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %500, ptr %50, align 4, !tbaa !9
  br label %501

501:                                              ; preds = %519, %499
  %502 = load i32, ptr %50, align 4, !tbaa !9
  %503 = load i32, ptr %16, align 4, !tbaa !9
  %504 = icmp slt i32 %502, %503
  br i1 %504, label %505, label %522

505:                                              ; preds = %501
  call void @llvm.lifetime.start.p0(i64 8, ptr %51) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.25, ptr %51, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %52) #4
  %506 = load ptr, ptr %12, align 8, !tbaa !5
  %507 = load i32, ptr %49, align 4, !tbaa !9
  %508 = sext i32 %507 to i64
  %509 = load i32, ptr %14, align 4, !tbaa !9
  %510 = zext i32 %509 to i64
  %511 = mul i64 %508, %510
  %512 = load i32, ptr %50, align 4, !tbaa !9
  %513 = sext i32 %512 to i64
  %514 = add i64 %511, %513
  %515 = mul i64 2, %514
  %516 = getelementptr inbounds i8, ptr %506, i64 %515
  store ptr %516, ptr %52, align 8, !tbaa !5
  %517 = load i16, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.25, align 2, !tbaa !20
  %518 = load ptr, ptr %52, align 8, !tbaa !5
  store i16 %517, ptr %518, align 2, !tbaa !20
  call void @llvm.lifetime.end.p0(i64 8, ptr %52) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %51) #4
  br label %519

519:                                              ; preds = %505
  %520 = load i32, ptr %50, align 4, !tbaa !9
  %521 = add nsw i32 %520, 1
  store i32 %521, ptr %50, align 4, !tbaa !9
  br label %501, !llvm.loop !41

522:                                              ; preds = %501
  br label %523

523:                                              ; preds = %522
  %524 = load i32, ptr %49, align 4, !tbaa !9
  %525 = add nsw i32 %524, 1
  store i32 %525, ptr %49, align 4, !tbaa !9
  br label %493, !llvm.loop !42

526:                                              ; preds = %493
  call void @llvm.lifetime.end.p0(i64 4, ptr %50) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %49) #4
  br label %527

527:                                              ; preds = %526
  br label %528

528:                                              ; preds = %527
  br label %736

529:                                              ; preds = %488
  br label %530

530:                                              ; preds = %529
  call void @llvm.lifetime.start.p0(i64 4, ptr %53) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %54) #4
  %531 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %531, ptr %53, align 4, !tbaa !9
  br label %532

532:                                              ; preds = %562, %530
  %533 = load i32, ptr %53, align 4, !tbaa !9
  %534 = load i32, ptr %21, align 4, !tbaa !9
  %535 = load i32, ptr %20, align 4, !tbaa !9
  %536 = add i32 %534, %535
  %537 = icmp slt i32 %533, %536
  br i1 %537, label %538, label %565

538:                                              ; preds = %532
  %539 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %539, ptr %54, align 4, !tbaa !9
  br label %540

540:                                              ; preds = %558, %538
  %541 = load i32, ptr %54, align 4, !tbaa !9
  %542 = load i32, ptr %16, align 4, !tbaa !9
  %543 = icmp slt i32 %541, %542
  br i1 %543, label %544, label %561

544:                                              ; preds = %540
  call void @llvm.lifetime.start.p0(i64 8, ptr %55) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.26, ptr %55, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %56) #4
  %545 = load ptr, ptr %12, align 8, !tbaa !5
  %546 = load i32, ptr %53, align 4, !tbaa !9
  %547 = sext i32 %546 to i64
  %548 = load i32, ptr %14, align 4, !tbaa !9
  %549 = zext i32 %548 to i64
  %550 = mul i64 %547, %549
  %551 = load i32, ptr %54, align 4, !tbaa !9
  %552 = sext i32 %551 to i64
  %553 = add i64 %550, %552
  %554 = mul i64 4, %553
  %555 = getelementptr inbounds i8, ptr %545, i64 %554
  store ptr %555, ptr %56, align 8, !tbaa !5
  %556 = load float, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.26, align 4, !tbaa !24
  %557 = load ptr, ptr %56, align 8, !tbaa !5
  store float %556, ptr %557, align 4, !tbaa !24
  call void @llvm.lifetime.end.p0(i64 8, ptr %56) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %55) #4
  br label %558

558:                                              ; preds = %544
  %559 = load i32, ptr %54, align 4, !tbaa !9
  %560 = add nsw i32 %559, 1
  store i32 %560, ptr %54, align 4, !tbaa !9
  br label %540, !llvm.loop !43

561:                                              ; preds = %540
  br label %562

562:                                              ; preds = %561
  %563 = load i32, ptr %53, align 4, !tbaa !9
  %564 = add nsw i32 %563, 1
  store i32 %564, ptr %53, align 4, !tbaa !9
  br label %532, !llvm.loop !44

565:                                              ; preds = %532
  call void @llvm.lifetime.end.p0(i64 4, ptr %54) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %53) #4
  br label %566

566:                                              ; preds = %565
  br label %567

567:                                              ; preds = %566
  br label %736

568:                                              ; preds = %488
  br label %569

569:                                              ; preds = %568
  call void @llvm.lifetime.start.p0(i64 4, ptr %57) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %58) #4
  %570 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %570, ptr %57, align 4, !tbaa !9
  br label %571

571:                                              ; preds = %601, %569
  %572 = load i32, ptr %57, align 4, !tbaa !9
  %573 = load i32, ptr %21, align 4, !tbaa !9
  %574 = load i32, ptr %20, align 4, !tbaa !9
  %575 = add i32 %573, %574
  %576 = icmp slt i32 %572, %575
  br i1 %576, label %577, label %604

577:                                              ; preds = %571
  %578 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %578, ptr %58, align 4, !tbaa !9
  br label %579

579:                                              ; preds = %597, %577
  %580 = load i32, ptr %58, align 4, !tbaa !9
  %581 = load i32, ptr %16, align 4, !tbaa !9
  %582 = icmp slt i32 %580, %581
  br i1 %582, label %583, label %600

583:                                              ; preds = %579
  call void @llvm.lifetime.start.p0(i64 8, ptr %59) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.27, ptr %59, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %60) #4
  %584 = load ptr, ptr %12, align 8, !tbaa !5
  %585 = load i32, ptr %57, align 4, !tbaa !9
  %586 = sext i32 %585 to i64
  %587 = load i32, ptr %14, align 4, !tbaa !9
  %588 = zext i32 %587 to i64
  %589 = mul i64 %586, %588
  %590 = load i32, ptr %58, align 4, !tbaa !9
  %591 = sext i32 %590 to i64
  %592 = add i64 %589, %591
  %593 = mul i64 8, %592
  %594 = getelementptr inbounds i8, ptr %584, i64 %593
  store ptr %594, ptr %60, align 8, !tbaa !5
  %595 = load double, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.27, align 8, !tbaa !28
  %596 = load ptr, ptr %60, align 8, !tbaa !5
  store double %595, ptr %596, align 8, !tbaa !28
  call void @llvm.lifetime.end.p0(i64 8, ptr %60) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %59) #4
  br label %597

597:                                              ; preds = %583
  %598 = load i32, ptr %58, align 4, !tbaa !9
  %599 = add nsw i32 %598, 1
  store i32 %599, ptr %58, align 4, !tbaa !9
  br label %579, !llvm.loop !45

600:                                              ; preds = %579
  br label %601

601:                                              ; preds = %600
  %602 = load i32, ptr %57, align 4, !tbaa !9
  %603 = add nsw i32 %602, 1
  store i32 %603, ptr %57, align 4, !tbaa !9
  br label %571, !llvm.loop !46

604:                                              ; preds = %571
  call void @llvm.lifetime.end.p0(i64 4, ptr %58) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %57) #4
  br label %605

605:                                              ; preds = %604
  br label %606

606:                                              ; preds = %605
  br label %736

607:                                              ; preds = %488
  br label %608

608:                                              ; preds = %607
  call void @llvm.lifetime.start.p0(i64 4, ptr %61) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %62) #4
  %609 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %609, ptr %61, align 4, !tbaa !9
  br label %610

610:                                              ; preds = %639, %608
  %611 = load i32, ptr %61, align 4, !tbaa !9
  %612 = load i32, ptr %21, align 4, !tbaa !9
  %613 = load i32, ptr %20, align 4, !tbaa !9
  %614 = add i32 %612, %613
  %615 = icmp slt i32 %611, %614
  br i1 %615, label %616, label %642

616:                                              ; preds = %610
  %617 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %617, ptr %62, align 4, !tbaa !9
  br label %618

618:                                              ; preds = %635, %616
  %619 = load i32, ptr %62, align 4, !tbaa !9
  %620 = load i32, ptr %16, align 4, !tbaa !9
  %621 = icmp slt i32 %619, %620
  br i1 %621, label %622, label %638

622:                                              ; preds = %618
  call void @llvm.lifetime.start.p0(i64 8, ptr %63) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.28, ptr %63, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %64) #4
  %623 = load ptr, ptr %12, align 8, !tbaa !5
  %624 = load i32, ptr %61, align 4, !tbaa !9
  %625 = sext i32 %624 to i64
  %626 = load i32, ptr %14, align 4, !tbaa !9
  %627 = zext i32 %626 to i64
  %628 = mul i64 %625, %627
  %629 = load i32, ptr %62, align 4, !tbaa !9
  %630 = sext i32 %629 to i64
  %631 = add i64 %628, %630
  %632 = mul i64 16, %631
  %633 = getelementptr inbounds i8, ptr %623, i64 %632
  store ptr %633, ptr %64, align 8, !tbaa !5
  %634 = load ptr, ptr %64, align 8, !tbaa !5
  call void @llvm.memcpy.p0.p0.i64(ptr align 8 %634, ptr align 8 @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.28, i64 16, i1 false), !tbaa.struct !32
  call void @llvm.lifetime.end.p0(i64 8, ptr %64) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %63) #4
  br label %635

635:                                              ; preds = %622
  %636 = load i32, ptr %62, align 4, !tbaa !9
  %637 = add nsw i32 %636, 1
  store i32 %637, ptr %62, align 4, !tbaa !9
  br label %618, !llvm.loop !47

638:                                              ; preds = %618
  br label %639

639:                                              ; preds = %638
  %640 = load i32, ptr %61, align 4, !tbaa !9
  %641 = add nsw i32 %640, 1
  store i32 %641, ptr %61, align 4, !tbaa !9
  br label %610, !llvm.loop !48

642:                                              ; preds = %610
  call void @llvm.lifetime.end.p0(i64 4, ptr %62) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %61) #4
  br label %643

643:                                              ; preds = %642
  br label %644

644:                                              ; preds = %643
  br label %736

645:                                              ; preds = %488
  call void @llvm.lifetime.start.p0(i64 4, ptr %65) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %66) #4
  %646 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %646, ptr %65, align 4, !tbaa !9
  br label %647

647:                                              ; preds = %732, %645
  %648 = load i32, ptr %65, align 4, !tbaa !9
  %649 = load i32, ptr %21, align 4, !tbaa !9
  %650 = load i32, ptr %20, align 4, !tbaa !9
  %651 = add i32 %649, %650
  %652 = icmp slt i32 %648, %651
  br i1 %652, label %653, label %735

653:                                              ; preds = %647
  %654 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %654, ptr %66, align 4, !tbaa !9
  br label %655

655:                                              ; preds = %728, %653
  %656 = load i32, ptr %66, align 4, !tbaa !9
  %657 = load i32, ptr %16, align 4, !tbaa !9
  %658 = icmp slt i32 %656, %657
  br i1 %658, label %659, label %731

659:                                              ; preds = %655
  call void @llvm.lifetime.start.p0(i64 8, ptr %67) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.29, ptr %67, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %68) #4
  %660 = load ptr, ptr %12, align 8, !tbaa !5
  %661 = load i32, ptr %13, align 4, !tbaa !9
  %662 = zext i32 %661 to i64
  %663 = load i32, ptr %65, align 4, !tbaa !9
  %664 = sext i32 %663 to i64
  %665 = load i32, ptr %14, align 4, !tbaa !9
  %666 = zext i32 %665 to i64
  %667 = mul i64 %664, %666
  %668 = load i32, ptr %66, align 4, !tbaa !9
  %669 = sext i32 %668 to i64
  %670 = add i64 %667, %669
  %671 = mul i64 %662, %670
  %672 = getelementptr inbounds i8, ptr %660, i64 %671
  store ptr %672, ptr %68, align 8, !tbaa !5
  br label %673

673:                                              ; preds = %659
  call void @llvm.lifetime.start.p0(i64 1, ptr %69) #4
  %674 = load i32, ptr %13, align 4, !tbaa !9
  %675 = trunc i32 %674 to i8
  %676 = sext i8 %675 to i32
  %677 = icmp eq i32 -128, %676
  br i1 %677, label %683, label %678

678:                                              ; preds = %673
  %679 = load i32, ptr %13, align 4, !tbaa !9
  %680 = trunc i32 %679 to i8
  %681 = sext i8 %680 to i32
  %682 = icmp slt i32 -128, %681
  br i1 %682, label %683, label %702

683:                                              ; preds = %678, %673
  %684 = load i32, ptr %13, align 4, !tbaa !9
  %685 = zext i32 %684 to i64
  %686 = mul i64 1, %685
  %687 = icmp ult i64 %686, 127
  br i1 %687, label %688, label %692

688:                                              ; preds = %683
  %689 = load i32, ptr %13, align 4, !tbaa !9
  %690 = zext i32 %689 to i64
  %691 = mul i64 1, %690
  br label %693

692:                                              ; preds = %683
  br label %693

693:                                              ; preds = %692, %688
  %694 = phi i64 [ %691, %688 ], [ 127, %692 ]
  %695 = icmp ule i64 %694, 127
  br i1 %695, label %696, label %702

696:                                              ; preds = %693
  %697 = load i32, ptr %13, align 4, !tbaa !9
  %698 = uitofp i32 %697 to double
  %699 = fcmp ole double 0.000000e+00, %698
  br i1 %699, label %701, label %700

700:                                              ; preds = %696
  br i1 true, label %701, label %702

701:                                              ; preds = %700, %696
  br label %703

702:                                              ; preds = %700, %693, %678
  call void @__assert_fail(ptr noundef @.str.19, ptr noundef @.str.9, i32 noundef 212, ptr noundef @__PRETTY_FUNCTION__.libxsmm_matzero_internal) #5
  unreachable

703:                                              ; preds = %701
  %704 = load i32, ptr %13, align 4, !tbaa !9
  %705 = trunc i32 %704 to i8
  store i8 %705, ptr %69, align 1, !tbaa !11
  call void @llvm.lifetime.start.p0(i64 8, ptr %70) #4
  %706 = load ptr, ptr %68, align 8, !tbaa !5
  store ptr %706, ptr %70, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 1, ptr %71) #4
  store i8 0, ptr %71, align 1, !tbaa !11
  br label %707

707:                                              ; preds = %722, %703
  %708 = load i8, ptr %71, align 1, !tbaa !11
  %709 = sext i8 %708 to i32
  %710 = load i8, ptr %69, align 1, !tbaa !11
  %711 = sext i8 %710 to i32
  %712 = icmp slt i32 %709, %711
  br i1 %712, label %713, label %725

713:                                              ; preds = %707
  %714 = load i8, ptr %71, align 1, !tbaa !11
  %715 = sext i8 %714 to i64
  %716 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.29, i64 %715
  %717 = load i8, ptr %716, align 1, !tbaa !11
  %718 = load ptr, ptr %70, align 8, !tbaa !5
  %719 = load i8, ptr %71, align 1, !tbaa !11
  %720 = sext i8 %719 to i64
  %721 = getelementptr inbounds i8, ptr %718, i64 %720
  store i8 %717, ptr %721, align 1, !tbaa !11
  br label %722

722:                                              ; preds = %713
  %723 = load i8, ptr %71, align 1, !tbaa !11
  %724 = add i8 %723, 1
  store i8 %724, ptr %71, align 1, !tbaa !11
  br label %707, !llvm.loop !49

725:                                              ; preds = %707
  call void @llvm.lifetime.end.p0(i64 1, ptr %71) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %70) #4
  call void @llvm.lifetime.end.p0(i64 1, ptr %69) #4
  br label %726

726:                                              ; preds = %725
  br label %727

727:                                              ; preds = %726
  call void @llvm.lifetime.end.p0(i64 8, ptr %68) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %67) #4
  br label %728

728:                                              ; preds = %727
  %729 = load i32, ptr %66, align 4, !tbaa !9
  %730 = add nsw i32 %729, 1
  store i32 %730, ptr %66, align 4, !tbaa !9
  br label %655, !llvm.loop !50

731:                                              ; preds = %655
  br label %732

732:                                              ; preds = %731
  %733 = load i32, ptr %65, align 4, !tbaa !9
  %734 = add nsw i32 %733, 1
  store i32 %734, ptr %65, align 4, !tbaa !9
  br label %647, !llvm.loop !51

735:                                              ; preds = %647
  call void @llvm.lifetime.end.p0(i64 4, ptr %66) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %65) #4
  br label %736

736:                                              ; preds = %735, %644, %606, %567, %528
  br label %737

737:                                              ; preds = %736
  br label %738

738:                                              ; preds = %737
  br label %739

739:                                              ; preds = %738
  %740 = load i32, ptr %20, align 4, !tbaa !9
  %741 = load i32, ptr %21, align 4, !tbaa !9
  %742 = add i32 %741, %740
  store i32 %742, ptr %21, align 4, !tbaa !9
  br label %480, !llvm.loop !52

743:                                              ; preds = %480
  %744 = load i32, ptr %15, align 4, !tbaa !9
  store i32 %744, ptr %22, align 4, !tbaa !9
  br label %745

745:                                              ; preds = %1003, %743
  %746 = load i32, ptr %22, align 4, !tbaa !9
  %747 = load i32, ptr %16, align 4, !tbaa !9
  %748 = load i32, ptr %19, align 4, !tbaa !9
  %749 = sub nsw i32 %747, %748
  %750 = icmp slt i32 %746, %749
  br i1 %750, label %751, label %1007

751:                                              ; preds = %745
  br label %752

752:                                              ; preds = %751
  %753 = load i32, ptr %13, align 4, !tbaa !9
  switch i32 %753, label %909 [
    i32 2, label %754
    i32 4, label %793
    i32 8, label %832
    i32 16, label %871
  ]

754:                                              ; preds = %752
  br label %755

755:                                              ; preds = %754
  call void @llvm.lifetime.start.p0(i64 4, ptr %72) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %73) #4
  %756 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %756, ptr %72, align 4, !tbaa !9
  br label %757

757:                                              ; preds = %787, %755
  %758 = load i32, ptr %72, align 4, !tbaa !9
  %759 = load i32, ptr %18, align 4, !tbaa !9
  %760 = icmp slt i32 %758, %759
  br i1 %760, label %761, label %790

761:                                              ; preds = %757
  %762 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %762, ptr %73, align 4, !tbaa !9
  br label %763

763:                                              ; preds = %783, %761
  %764 = load i32, ptr %73, align 4, !tbaa !9
  %765 = load i32, ptr %22, align 4, !tbaa !9
  %766 = load i32, ptr %19, align 4, !tbaa !9
  %767 = add i32 %765, %766
  %768 = icmp slt i32 %764, %767
  br i1 %768, label %769, label %786

769:                                              ; preds = %763
  call void @llvm.lifetime.start.p0(i64 8, ptr %74) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.30, ptr %74, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %75) #4
  %770 = load ptr, ptr %12, align 8, !tbaa !5
  %771 = load i32, ptr %72, align 4, !tbaa !9
  %772 = sext i32 %771 to i64
  %773 = load i32, ptr %14, align 4, !tbaa !9
  %774 = zext i32 %773 to i64
  %775 = mul i64 %772, %774
  %776 = load i32, ptr %73, align 4, !tbaa !9
  %777 = sext i32 %776 to i64
  %778 = add i64 %775, %777
  %779 = mul i64 2, %778
  %780 = getelementptr inbounds i8, ptr %770, i64 %779
  store ptr %780, ptr %75, align 8, !tbaa !5
  %781 = load i16, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.30, align 2, !tbaa !20
  %782 = load ptr, ptr %75, align 8, !tbaa !5
  store i16 %781, ptr %782, align 2, !tbaa !20
  call void @llvm.lifetime.end.p0(i64 8, ptr %75) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %74) #4
  br label %783

783:                                              ; preds = %769
  %784 = load i32, ptr %73, align 4, !tbaa !9
  %785 = add nsw i32 %784, 1
  store i32 %785, ptr %73, align 4, !tbaa !9
  br label %763, !llvm.loop !53

786:                                              ; preds = %763
  br label %787

787:                                              ; preds = %786
  %788 = load i32, ptr %72, align 4, !tbaa !9
  %789 = add nsw i32 %788, 1
  store i32 %789, ptr %72, align 4, !tbaa !9
  br label %757, !llvm.loop !54

790:                                              ; preds = %757
  call void @llvm.lifetime.end.p0(i64 4, ptr %73) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %72) #4
  br label %791

791:                                              ; preds = %790
  br label %792

792:                                              ; preds = %791
  br label %1000

793:                                              ; preds = %752
  br label %794

794:                                              ; preds = %793
  call void @llvm.lifetime.start.p0(i64 4, ptr %76) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %77) #4
  %795 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %795, ptr %76, align 4, !tbaa !9
  br label %796

796:                                              ; preds = %826, %794
  %797 = load i32, ptr %76, align 4, !tbaa !9
  %798 = load i32, ptr %18, align 4, !tbaa !9
  %799 = icmp slt i32 %797, %798
  br i1 %799, label %800, label %829

800:                                              ; preds = %796
  %801 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %801, ptr %77, align 4, !tbaa !9
  br label %802

802:                                              ; preds = %822, %800
  %803 = load i32, ptr %77, align 4, !tbaa !9
  %804 = load i32, ptr %22, align 4, !tbaa !9
  %805 = load i32, ptr %19, align 4, !tbaa !9
  %806 = add i32 %804, %805
  %807 = icmp slt i32 %803, %806
  br i1 %807, label %808, label %825

808:                                              ; preds = %802
  call void @llvm.lifetime.start.p0(i64 8, ptr %78) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.31, ptr %78, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %79) #4
  %809 = load ptr, ptr %12, align 8, !tbaa !5
  %810 = load i32, ptr %76, align 4, !tbaa !9
  %811 = sext i32 %810 to i64
  %812 = load i32, ptr %14, align 4, !tbaa !9
  %813 = zext i32 %812 to i64
  %814 = mul i64 %811, %813
  %815 = load i32, ptr %77, align 4, !tbaa !9
  %816 = sext i32 %815 to i64
  %817 = add i64 %814, %816
  %818 = mul i64 4, %817
  %819 = getelementptr inbounds i8, ptr %809, i64 %818
  store ptr %819, ptr %79, align 8, !tbaa !5
  %820 = load float, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.31, align 4, !tbaa !24
  %821 = load ptr, ptr %79, align 8, !tbaa !5
  store float %820, ptr %821, align 4, !tbaa !24
  call void @llvm.lifetime.end.p0(i64 8, ptr %79) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %78) #4
  br label %822

822:                                              ; preds = %808
  %823 = load i32, ptr %77, align 4, !tbaa !9
  %824 = add nsw i32 %823, 1
  store i32 %824, ptr %77, align 4, !tbaa !9
  br label %802, !llvm.loop !55

825:                                              ; preds = %802
  br label %826

826:                                              ; preds = %825
  %827 = load i32, ptr %76, align 4, !tbaa !9
  %828 = add nsw i32 %827, 1
  store i32 %828, ptr %76, align 4, !tbaa !9
  br label %796, !llvm.loop !56

829:                                              ; preds = %796
  call void @llvm.lifetime.end.p0(i64 4, ptr %77) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %76) #4
  br label %830

830:                                              ; preds = %829
  br label %831

831:                                              ; preds = %830
  br label %1000

832:                                              ; preds = %752
  br label %833

833:                                              ; preds = %832
  call void @llvm.lifetime.start.p0(i64 4, ptr %80) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %81) #4
  %834 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %834, ptr %80, align 4, !tbaa !9
  br label %835

835:                                              ; preds = %865, %833
  %836 = load i32, ptr %80, align 4, !tbaa !9
  %837 = load i32, ptr %18, align 4, !tbaa !9
  %838 = icmp slt i32 %836, %837
  br i1 %838, label %839, label %868

839:                                              ; preds = %835
  %840 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %840, ptr %81, align 4, !tbaa !9
  br label %841

841:                                              ; preds = %861, %839
  %842 = load i32, ptr %81, align 4, !tbaa !9
  %843 = load i32, ptr %22, align 4, !tbaa !9
  %844 = load i32, ptr %19, align 4, !tbaa !9
  %845 = add i32 %843, %844
  %846 = icmp slt i32 %842, %845
  br i1 %846, label %847, label %864

847:                                              ; preds = %841
  call void @llvm.lifetime.start.p0(i64 8, ptr %82) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.32, ptr %82, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %83) #4
  %848 = load ptr, ptr %12, align 8, !tbaa !5
  %849 = load i32, ptr %80, align 4, !tbaa !9
  %850 = sext i32 %849 to i64
  %851 = load i32, ptr %14, align 4, !tbaa !9
  %852 = zext i32 %851 to i64
  %853 = mul i64 %850, %852
  %854 = load i32, ptr %81, align 4, !tbaa !9
  %855 = sext i32 %854 to i64
  %856 = add i64 %853, %855
  %857 = mul i64 8, %856
  %858 = getelementptr inbounds i8, ptr %848, i64 %857
  store ptr %858, ptr %83, align 8, !tbaa !5
  %859 = load double, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.32, align 8, !tbaa !28
  %860 = load ptr, ptr %83, align 8, !tbaa !5
  store double %859, ptr %860, align 8, !tbaa !28
  call void @llvm.lifetime.end.p0(i64 8, ptr %83) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %82) #4
  br label %861

861:                                              ; preds = %847
  %862 = load i32, ptr %81, align 4, !tbaa !9
  %863 = add nsw i32 %862, 1
  store i32 %863, ptr %81, align 4, !tbaa !9
  br label %841, !llvm.loop !57

864:                                              ; preds = %841
  br label %865

865:                                              ; preds = %864
  %866 = load i32, ptr %80, align 4, !tbaa !9
  %867 = add nsw i32 %866, 1
  store i32 %867, ptr %80, align 4, !tbaa !9
  br label %835, !llvm.loop !58

868:                                              ; preds = %835
  call void @llvm.lifetime.end.p0(i64 4, ptr %81) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %80) #4
  br label %869

869:                                              ; preds = %868
  br label %870

870:                                              ; preds = %869
  br label %1000

871:                                              ; preds = %752
  br label %872

872:                                              ; preds = %871
  call void @llvm.lifetime.start.p0(i64 4, ptr %84) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %85) #4
  %873 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %873, ptr %84, align 4, !tbaa !9
  br label %874

874:                                              ; preds = %903, %872
  %875 = load i32, ptr %84, align 4, !tbaa !9
  %876 = load i32, ptr %18, align 4, !tbaa !9
  %877 = icmp slt i32 %875, %876
  br i1 %877, label %878, label %906

878:                                              ; preds = %874
  %879 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %879, ptr %85, align 4, !tbaa !9
  br label %880

880:                                              ; preds = %899, %878
  %881 = load i32, ptr %85, align 4, !tbaa !9
  %882 = load i32, ptr %22, align 4, !tbaa !9
  %883 = load i32, ptr %19, align 4, !tbaa !9
  %884 = add i32 %882, %883
  %885 = icmp slt i32 %881, %884
  br i1 %885, label %886, label %902

886:                                              ; preds = %880
  call void @llvm.lifetime.start.p0(i64 8, ptr %86) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.33, ptr %86, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %87) #4
  %887 = load ptr, ptr %12, align 8, !tbaa !5
  %888 = load i32, ptr %84, align 4, !tbaa !9
  %889 = sext i32 %888 to i64
  %890 = load i32, ptr %14, align 4, !tbaa !9
  %891 = zext i32 %890 to i64
  %892 = mul i64 %889, %891
  %893 = load i32, ptr %85, align 4, !tbaa !9
  %894 = sext i32 %893 to i64
  %895 = add i64 %892, %894
  %896 = mul i64 16, %895
  %897 = getelementptr inbounds i8, ptr %887, i64 %896
  store ptr %897, ptr %87, align 8, !tbaa !5
  %898 = load ptr, ptr %87, align 8, !tbaa !5
  call void @llvm.memcpy.p0.p0.i64(ptr align 8 %898, ptr align 8 @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.33, i64 16, i1 false), !tbaa.struct !32
  call void @llvm.lifetime.end.p0(i64 8, ptr %87) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %86) #4
  br label %899

899:                                              ; preds = %886
  %900 = load i32, ptr %85, align 4, !tbaa !9
  %901 = add nsw i32 %900, 1
  store i32 %901, ptr %85, align 4, !tbaa !9
  br label %880, !llvm.loop !59

902:                                              ; preds = %880
  br label %903

903:                                              ; preds = %902
  %904 = load i32, ptr %84, align 4, !tbaa !9
  %905 = add nsw i32 %904, 1
  store i32 %905, ptr %84, align 4, !tbaa !9
  br label %874, !llvm.loop !60

906:                                              ; preds = %874
  call void @llvm.lifetime.end.p0(i64 4, ptr %85) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %84) #4
  br label %907

907:                                              ; preds = %906
  br label %908

908:                                              ; preds = %907
  br label %1000

909:                                              ; preds = %752
  call void @llvm.lifetime.start.p0(i64 4, ptr %88) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %89) #4
  %910 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %910, ptr %88, align 4, !tbaa !9
  br label %911

911:                                              ; preds = %996, %909
  %912 = load i32, ptr %88, align 4, !tbaa !9
  %913 = load i32, ptr %18, align 4, !tbaa !9
  %914 = icmp slt i32 %912, %913
  br i1 %914, label %915, label %999

915:                                              ; preds = %911
  %916 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %916, ptr %89, align 4, !tbaa !9
  br label %917

917:                                              ; preds = %992, %915
  %918 = load i32, ptr %89, align 4, !tbaa !9
  %919 = load i32, ptr %22, align 4, !tbaa !9
  %920 = load i32, ptr %19, align 4, !tbaa !9
  %921 = add i32 %919, %920
  %922 = icmp slt i32 %918, %921
  br i1 %922, label %923, label %995

923:                                              ; preds = %917
  call void @llvm.lifetime.start.p0(i64 8, ptr %90) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.34, ptr %90, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %91) #4
  %924 = load ptr, ptr %12, align 8, !tbaa !5
  %925 = load i32, ptr %13, align 4, !tbaa !9
  %926 = zext i32 %925 to i64
  %927 = load i32, ptr %88, align 4, !tbaa !9
  %928 = sext i32 %927 to i64
  %929 = load i32, ptr %14, align 4, !tbaa !9
  %930 = zext i32 %929 to i64
  %931 = mul i64 %928, %930
  %932 = load i32, ptr %89, align 4, !tbaa !9
  %933 = sext i32 %932 to i64
  %934 = add i64 %931, %933
  %935 = mul i64 %926, %934
  %936 = getelementptr inbounds i8, ptr %924, i64 %935
  store ptr %936, ptr %91, align 8, !tbaa !5
  br label %937

937:                                              ; preds = %923
  call void @llvm.lifetime.start.p0(i64 1, ptr %92) #4
  %938 = load i32, ptr %13, align 4, !tbaa !9
  %939 = trunc i32 %938 to i8
  %940 = sext i8 %939 to i32
  %941 = icmp eq i32 -128, %940
  br i1 %941, label %947, label %942

942:                                              ; preds = %937
  %943 = load i32, ptr %13, align 4, !tbaa !9
  %944 = trunc i32 %943 to i8
  %945 = sext i8 %944 to i32
  %946 = icmp slt i32 -128, %945
  br i1 %946, label %947, label %966

947:                                              ; preds = %942, %937
  %948 = load i32, ptr %13, align 4, !tbaa !9
  %949 = zext i32 %948 to i64
  %950 = mul i64 1, %949
  %951 = icmp ult i64 %950, 127
  br i1 %951, label %952, label %956

952:                                              ; preds = %947
  %953 = load i32, ptr %13, align 4, !tbaa !9
  %954 = zext i32 %953 to i64
  %955 = mul i64 1, %954
  br label %957

956:                                              ; preds = %947
  br label %957

957:                                              ; preds = %956, %952
  %958 = phi i64 [ %955, %952 ], [ 127, %956 ]
  %959 = icmp ule i64 %958, 127
  br i1 %959, label %960, label %966

960:                                              ; preds = %957
  %961 = load i32, ptr %13, align 4, !tbaa !9
  %962 = uitofp i32 %961 to double
  %963 = fcmp ole double 0.000000e+00, %962
  br i1 %963, label %965, label %964

964:                                              ; preds = %960
  br i1 true, label %965, label %966

965:                                              ; preds = %964, %960
  br label %967

966:                                              ; preds = %964, %957, %942
  call void @__assert_fail(ptr noundef @.str.19, ptr noundef @.str.9, i32 noundef 212, ptr noundef @__PRETTY_FUNCTION__.libxsmm_matzero_internal) #5
  unreachable

967:                                              ; preds = %965
  %968 = load i32, ptr %13, align 4, !tbaa !9
  %969 = trunc i32 %968 to i8
  store i8 %969, ptr %92, align 1, !tbaa !11
  call void @llvm.lifetime.start.p0(i64 8, ptr %93) #4
  %970 = load ptr, ptr %91, align 8, !tbaa !5
  store ptr %970, ptr %93, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 1, ptr %94) #4
  store i8 0, ptr %94, align 1, !tbaa !11
  br label %971

971:                                              ; preds = %986, %967
  %972 = load i8, ptr %94, align 1, !tbaa !11
  %973 = sext i8 %972 to i32
  %974 = load i8, ptr %92, align 1, !tbaa !11
  %975 = sext i8 %974 to i32
  %976 = icmp slt i32 %973, %975
  br i1 %976, label %977, label %989

977:                                              ; preds = %971
  %978 = load i8, ptr %94, align 1, !tbaa !11
  %979 = sext i8 %978 to i64
  %980 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.34, i64 %979
  %981 = load i8, ptr %980, align 1, !tbaa !11
  %982 = load ptr, ptr %93, align 8, !tbaa !5
  %983 = load i8, ptr %94, align 1, !tbaa !11
  %984 = sext i8 %983 to i64
  %985 = getelementptr inbounds i8, ptr %982, i64 %984
  store i8 %981, ptr %985, align 1, !tbaa !11
  br label %986

986:                                              ; preds = %977
  %987 = load i8, ptr %94, align 1, !tbaa !11
  %988 = add i8 %987, 1
  store i8 %988, ptr %94, align 1, !tbaa !11
  br label %971, !llvm.loop !61

989:                                              ; preds = %971
  call void @llvm.lifetime.end.p0(i64 1, ptr %94) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %93) #4
  call void @llvm.lifetime.end.p0(i64 1, ptr %92) #4
  br label %990

990:                                              ; preds = %989
  br label %991

991:                                              ; preds = %990
  call void @llvm.lifetime.end.p0(i64 8, ptr %91) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %90) #4
  br label %992

992:                                              ; preds = %991
  %993 = load i32, ptr %89, align 4, !tbaa !9
  %994 = add nsw i32 %993, 1
  store i32 %994, ptr %89, align 4, !tbaa !9
  br label %917, !llvm.loop !62

995:                                              ; preds = %917
  br label %996

996:                                              ; preds = %995
  %997 = load i32, ptr %88, align 4, !tbaa !9
  %998 = add nsw i32 %997, 1
  store i32 %998, ptr %88, align 4, !tbaa !9
  br label %911, !llvm.loop !63

999:                                              ; preds = %911
  call void @llvm.lifetime.end.p0(i64 4, ptr %89) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %88) #4
  br label %1000

1000:                                             ; preds = %999, %908, %870, %831, %792
  br label %1001

1001:                                             ; preds = %1000
  br label %1002

1002:                                             ; preds = %1001
  br label %1003

1003:                                             ; preds = %1002
  %1004 = load i32, ptr %19, align 4, !tbaa !9
  %1005 = load i32, ptr %22, align 4, !tbaa !9
  %1006 = add i32 %1005, %1004
  store i32 %1006, ptr %22, align 4, !tbaa !9
  br label %745, !llvm.loop !64

1007:                                             ; preds = %745
  br label %1008

1008:                                             ; preds = %1007
  %1009 = load i32, ptr %13, align 4, !tbaa !9
  switch i32 %1009, label %1157 [
    i32 2, label %1010
    i32 4, label %1047
    i32 8, label %1084
    i32 16, label %1121
  ]

1010:                                             ; preds = %1008
  br label %1011

1011:                                             ; preds = %1010
  call void @llvm.lifetime.start.p0(i64 4, ptr %95) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %96) #4
  %1012 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %1012, ptr %95, align 4, !tbaa !9
  br label %1013

1013:                                             ; preds = %1041, %1011
  %1014 = load i32, ptr %95, align 4, !tbaa !9
  %1015 = load i32, ptr %18, align 4, !tbaa !9
  %1016 = icmp slt i32 %1014, %1015
  br i1 %1016, label %1017, label %1044

1017:                                             ; preds = %1013
  %1018 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %1018, ptr %96, align 4, !tbaa !9
  br label %1019

1019:                                             ; preds = %1037, %1017
  %1020 = load i32, ptr %96, align 4, !tbaa !9
  %1021 = load i32, ptr %16, align 4, !tbaa !9
  %1022 = icmp slt i32 %1020, %1021
  br i1 %1022, label %1023, label %1040

1023:                                             ; preds = %1019
  call void @llvm.lifetime.start.p0(i64 8, ptr %97) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.35, ptr %97, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %98) #4
  %1024 = load ptr, ptr %12, align 8, !tbaa !5
  %1025 = load i32, ptr %95, align 4, !tbaa !9
  %1026 = sext i32 %1025 to i64
  %1027 = load i32, ptr %14, align 4, !tbaa !9
  %1028 = zext i32 %1027 to i64
  %1029 = mul i64 %1026, %1028
  %1030 = load i32, ptr %96, align 4, !tbaa !9
  %1031 = sext i32 %1030 to i64
  %1032 = add i64 %1029, %1031
  %1033 = mul i64 2, %1032
  %1034 = getelementptr inbounds i8, ptr %1024, i64 %1033
  store ptr %1034, ptr %98, align 8, !tbaa !5
  %1035 = load i16, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.35, align 2, !tbaa !20
  %1036 = load ptr, ptr %98, align 8, !tbaa !5
  store i16 %1035, ptr %1036, align 2, !tbaa !20
  call void @llvm.lifetime.end.p0(i64 8, ptr %98) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %97) #4
  br label %1037

1037:                                             ; preds = %1023
  %1038 = load i32, ptr %96, align 4, !tbaa !9
  %1039 = add nsw i32 %1038, 1
  store i32 %1039, ptr %96, align 4, !tbaa !9
  br label %1019, !llvm.loop !65

1040:                                             ; preds = %1019
  br label %1041

1041:                                             ; preds = %1040
  %1042 = load i32, ptr %95, align 4, !tbaa !9
  %1043 = add nsw i32 %1042, 1
  store i32 %1043, ptr %95, align 4, !tbaa !9
  br label %1013, !llvm.loop !66

1044:                                             ; preds = %1013
  call void @llvm.lifetime.end.p0(i64 4, ptr %96) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %95) #4
  br label %1045

1045:                                             ; preds = %1044
  br label %1046

1046:                                             ; preds = %1045
  br label %1246

1047:                                             ; preds = %1008
  br label %1048

1048:                                             ; preds = %1047
  call void @llvm.lifetime.start.p0(i64 4, ptr %99) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %100) #4
  %1049 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %1049, ptr %99, align 4, !tbaa !9
  br label %1050

1050:                                             ; preds = %1078, %1048
  %1051 = load i32, ptr %99, align 4, !tbaa !9
  %1052 = load i32, ptr %18, align 4, !tbaa !9
  %1053 = icmp slt i32 %1051, %1052
  br i1 %1053, label %1054, label %1081

1054:                                             ; preds = %1050
  %1055 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %1055, ptr %100, align 4, !tbaa !9
  br label %1056

1056:                                             ; preds = %1074, %1054
  %1057 = load i32, ptr %100, align 4, !tbaa !9
  %1058 = load i32, ptr %16, align 4, !tbaa !9
  %1059 = icmp slt i32 %1057, %1058
  br i1 %1059, label %1060, label %1077

1060:                                             ; preds = %1056
  call void @llvm.lifetime.start.p0(i64 8, ptr %101) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.36, ptr %101, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %102) #4
  %1061 = load ptr, ptr %12, align 8, !tbaa !5
  %1062 = load i32, ptr %99, align 4, !tbaa !9
  %1063 = sext i32 %1062 to i64
  %1064 = load i32, ptr %14, align 4, !tbaa !9
  %1065 = zext i32 %1064 to i64
  %1066 = mul i64 %1063, %1065
  %1067 = load i32, ptr %100, align 4, !tbaa !9
  %1068 = sext i32 %1067 to i64
  %1069 = add i64 %1066, %1068
  %1070 = mul i64 4, %1069
  %1071 = getelementptr inbounds i8, ptr %1061, i64 %1070
  store ptr %1071, ptr %102, align 8, !tbaa !5
  %1072 = load float, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.36, align 4, !tbaa !24
  %1073 = load ptr, ptr %102, align 8, !tbaa !5
  store float %1072, ptr %1073, align 4, !tbaa !24
  call void @llvm.lifetime.end.p0(i64 8, ptr %102) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %101) #4
  br label %1074

1074:                                             ; preds = %1060
  %1075 = load i32, ptr %100, align 4, !tbaa !9
  %1076 = add nsw i32 %1075, 1
  store i32 %1076, ptr %100, align 4, !tbaa !9
  br label %1056, !llvm.loop !67

1077:                                             ; preds = %1056
  br label %1078

1078:                                             ; preds = %1077
  %1079 = load i32, ptr %99, align 4, !tbaa !9
  %1080 = add nsw i32 %1079, 1
  store i32 %1080, ptr %99, align 4, !tbaa !9
  br label %1050, !llvm.loop !68

1081:                                             ; preds = %1050
  call void @llvm.lifetime.end.p0(i64 4, ptr %100) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %99) #4
  br label %1082

1082:                                             ; preds = %1081
  br label %1083

1083:                                             ; preds = %1082
  br label %1246

1084:                                             ; preds = %1008
  br label %1085

1085:                                             ; preds = %1084
  call void @llvm.lifetime.start.p0(i64 4, ptr %103) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %104) #4
  %1086 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %1086, ptr %103, align 4, !tbaa !9
  br label %1087

1087:                                             ; preds = %1115, %1085
  %1088 = load i32, ptr %103, align 4, !tbaa !9
  %1089 = load i32, ptr %18, align 4, !tbaa !9
  %1090 = icmp slt i32 %1088, %1089
  br i1 %1090, label %1091, label %1118

1091:                                             ; preds = %1087
  %1092 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %1092, ptr %104, align 4, !tbaa !9
  br label %1093

1093:                                             ; preds = %1111, %1091
  %1094 = load i32, ptr %104, align 4, !tbaa !9
  %1095 = load i32, ptr %16, align 4, !tbaa !9
  %1096 = icmp slt i32 %1094, %1095
  br i1 %1096, label %1097, label %1114

1097:                                             ; preds = %1093
  call void @llvm.lifetime.start.p0(i64 8, ptr %105) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.37, ptr %105, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %106) #4
  %1098 = load ptr, ptr %12, align 8, !tbaa !5
  %1099 = load i32, ptr %103, align 4, !tbaa !9
  %1100 = sext i32 %1099 to i64
  %1101 = load i32, ptr %14, align 4, !tbaa !9
  %1102 = zext i32 %1101 to i64
  %1103 = mul i64 %1100, %1102
  %1104 = load i32, ptr %104, align 4, !tbaa !9
  %1105 = sext i32 %1104 to i64
  %1106 = add i64 %1103, %1105
  %1107 = mul i64 8, %1106
  %1108 = getelementptr inbounds i8, ptr %1098, i64 %1107
  store ptr %1108, ptr %106, align 8, !tbaa !5
  %1109 = load double, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.37, align 8, !tbaa !28
  %1110 = load ptr, ptr %106, align 8, !tbaa !5
  store double %1109, ptr %1110, align 8, !tbaa !28
  call void @llvm.lifetime.end.p0(i64 8, ptr %106) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %105) #4
  br label %1111

1111:                                             ; preds = %1097
  %1112 = load i32, ptr %104, align 4, !tbaa !9
  %1113 = add nsw i32 %1112, 1
  store i32 %1113, ptr %104, align 4, !tbaa !9
  br label %1093, !llvm.loop !69

1114:                                             ; preds = %1093
  br label %1115

1115:                                             ; preds = %1114
  %1116 = load i32, ptr %103, align 4, !tbaa !9
  %1117 = add nsw i32 %1116, 1
  store i32 %1117, ptr %103, align 4, !tbaa !9
  br label %1087, !llvm.loop !70

1118:                                             ; preds = %1087
  call void @llvm.lifetime.end.p0(i64 4, ptr %104) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %103) #4
  br label %1119

1119:                                             ; preds = %1118
  br label %1120

1120:                                             ; preds = %1119
  br label %1246

1121:                                             ; preds = %1008
  br label %1122

1122:                                             ; preds = %1121
  call void @llvm.lifetime.start.p0(i64 4, ptr %107) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %108) #4
  %1123 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %1123, ptr %107, align 4, !tbaa !9
  br label %1124

1124:                                             ; preds = %1151, %1122
  %1125 = load i32, ptr %107, align 4, !tbaa !9
  %1126 = load i32, ptr %18, align 4, !tbaa !9
  %1127 = icmp slt i32 %1125, %1126
  br i1 %1127, label %1128, label %1154

1128:                                             ; preds = %1124
  %1129 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %1129, ptr %108, align 4, !tbaa !9
  br label %1130

1130:                                             ; preds = %1147, %1128
  %1131 = load i32, ptr %108, align 4, !tbaa !9
  %1132 = load i32, ptr %16, align 4, !tbaa !9
  %1133 = icmp slt i32 %1131, %1132
  br i1 %1133, label %1134, label %1150

1134:                                             ; preds = %1130
  call void @llvm.lifetime.start.p0(i64 8, ptr %109) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.38, ptr %109, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %110) #4
  %1135 = load ptr, ptr %12, align 8, !tbaa !5
  %1136 = load i32, ptr %107, align 4, !tbaa !9
  %1137 = sext i32 %1136 to i64
  %1138 = load i32, ptr %14, align 4, !tbaa !9
  %1139 = zext i32 %1138 to i64
  %1140 = mul i64 %1137, %1139
  %1141 = load i32, ptr %108, align 4, !tbaa !9
  %1142 = sext i32 %1141 to i64
  %1143 = add i64 %1140, %1142
  %1144 = mul i64 16, %1143
  %1145 = getelementptr inbounds i8, ptr %1135, i64 %1144
  store ptr %1145, ptr %110, align 8, !tbaa !5
  %1146 = load ptr, ptr %110, align 8, !tbaa !5
  call void @llvm.memcpy.p0.p0.i64(ptr align 8 %1146, ptr align 8 @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.38, i64 16, i1 false), !tbaa.struct !32
  call void @llvm.lifetime.end.p0(i64 8, ptr %110) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %109) #4
  br label %1147

1147:                                             ; preds = %1134
  %1148 = load i32, ptr %108, align 4, !tbaa !9
  %1149 = add nsw i32 %1148, 1
  store i32 %1149, ptr %108, align 4, !tbaa !9
  br label %1130, !llvm.loop !71

1150:                                             ; preds = %1130
  br label %1151

1151:                                             ; preds = %1150
  %1152 = load i32, ptr %107, align 4, !tbaa !9
  %1153 = add nsw i32 %1152, 1
  store i32 %1153, ptr %107, align 4, !tbaa !9
  br label %1124, !llvm.loop !72

1154:                                             ; preds = %1124
  call void @llvm.lifetime.end.p0(i64 4, ptr %108) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %107) #4
  br label %1155

1155:                                             ; preds = %1154
  br label %1156

1156:                                             ; preds = %1155
  br label %1246

1157:                                             ; preds = %1008
  call void @llvm.lifetime.start.p0(i64 4, ptr %111) #4
  call void @llvm.lifetime.start.p0(i64 4, ptr %112) #4
  %1158 = load i32, ptr %21, align 4, !tbaa !9
  store i32 %1158, ptr %111, align 4, !tbaa !9
  br label %1159

1159:                                             ; preds = %1242, %1157
  %1160 = load i32, ptr %111, align 4, !tbaa !9
  %1161 = load i32, ptr %18, align 4, !tbaa !9
  %1162 = icmp slt i32 %1160, %1161
  br i1 %1162, label %1163, label %1245

1163:                                             ; preds = %1159
  %1164 = load i32, ptr %22, align 4, !tbaa !9
  store i32 %1164, ptr %112, align 4, !tbaa !9
  br label %1165

1165:                                             ; preds = %1238, %1163
  %1166 = load i32, ptr %112, align 4, !tbaa !9
  %1167 = load i32, ptr %16, align 4, !tbaa !9
  %1168 = icmp slt i32 %1166, %1167
  br i1 %1168, label %1169, label %1241

1169:                                             ; preds = %1165
  call void @llvm.lifetime.start.p0(i64 8, ptr %113) #4
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.39, ptr %113, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %114) #4
  %1170 = load ptr, ptr %12, align 8, !tbaa !5
  %1171 = load i32, ptr %13, align 4, !tbaa !9
  %1172 = zext i32 %1171 to i64
  %1173 = load i32, ptr %111, align 4, !tbaa !9
  %1174 = sext i32 %1173 to i64
  %1175 = load i32, ptr %14, align 4, !tbaa !9
  %1176 = zext i32 %1175 to i64
  %1177 = mul i64 %1174, %1176
  %1178 = load i32, ptr %112, align 4, !tbaa !9
  %1179 = sext i32 %1178 to i64
  %1180 = add i64 %1177, %1179
  %1181 = mul i64 %1172, %1180
  %1182 = getelementptr inbounds i8, ptr %1170, i64 %1181
  store ptr %1182, ptr %114, align 8, !tbaa !5
  br label %1183

1183:                                             ; preds = %1169
  call void @llvm.lifetime.start.p0(i64 1, ptr %115) #4
  %1184 = load i32, ptr %13, align 4, !tbaa !9
  %1185 = trunc i32 %1184 to i8
  %1186 = sext i8 %1185 to i32
  %1187 = icmp eq i32 -128, %1186
  br i1 %1187, label %1193, label %1188

1188:                                             ; preds = %1183
  %1189 = load i32, ptr %13, align 4, !tbaa !9
  %1190 = trunc i32 %1189 to i8
  %1191 = sext i8 %1190 to i32
  %1192 = icmp slt i32 -128, %1191
  br i1 %1192, label %1193, label %1212

1193:                                             ; preds = %1188, %1183
  %1194 = load i32, ptr %13, align 4, !tbaa !9
  %1195 = zext i32 %1194 to i64
  %1196 = mul i64 1, %1195
  %1197 = icmp ult i64 %1196, 127
  br i1 %1197, label %1198, label %1202

1198:                                             ; preds = %1193
  %1199 = load i32, ptr %13, align 4, !tbaa !9
  %1200 = zext i32 %1199 to i64
  %1201 = mul i64 1, %1200
  br label %1203

1202:                                             ; preds = %1193
  br label %1203

1203:                                             ; preds = %1202, %1198
  %1204 = phi i64 [ %1201, %1198 ], [ 127, %1202 ]
  %1205 = icmp ule i64 %1204, 127
  br i1 %1205, label %1206, label %1212

1206:                                             ; preds = %1203
  %1207 = load i32, ptr %13, align 4, !tbaa !9
  %1208 = uitofp i32 %1207 to double
  %1209 = fcmp ole double 0.000000e+00, %1208
  br i1 %1209, label %1211, label %1210

1210:                                             ; preds = %1206
  br i1 true, label %1211, label %1212

1211:                                             ; preds = %1210, %1206
  br label %1213

1212:                                             ; preds = %1210, %1203, %1188
  call void @__assert_fail(ptr noundef @.str.19, ptr noundef @.str.9, i32 noundef 212, ptr noundef @__PRETTY_FUNCTION__.libxsmm_matzero_internal) #5
  unreachable

1213:                                             ; preds = %1211
  %1214 = load i32, ptr %13, align 4, !tbaa !9
  %1215 = trunc i32 %1214 to i8
  store i8 %1215, ptr %115, align 1, !tbaa !11
  call void @llvm.lifetime.start.p0(i64 8, ptr %116) #4
  %1216 = load ptr, ptr %114, align 8, !tbaa !5
  store ptr %1216, ptr %116, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 1, ptr %117) #4
  store i8 0, ptr %117, align 1, !tbaa !11
  br label %1217

1217:                                             ; preds = %1232, %1213
  %1218 = load i8, ptr %117, align 1, !tbaa !11
  %1219 = sext i8 %1218 to i32
  %1220 = load i8, ptr %115, align 1, !tbaa !11
  %1221 = sext i8 %1220 to i32
  %1222 = icmp slt i32 %1219, %1221
  br i1 %1222, label %1223, label %1235

1223:                                             ; preds = %1217
  %1224 = load i8, ptr %117, align 1, !tbaa !11
  %1225 = sext i8 %1224 to i64
  %1226 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.39, i64 %1225
  %1227 = load i8, ptr %1226, align 1, !tbaa !11
  %1228 = load ptr, ptr %116, align 8, !tbaa !5
  %1229 = load i8, ptr %117, align 1, !tbaa !11
  %1230 = sext i8 %1229 to i64
  %1231 = getelementptr inbounds i8, ptr %1228, i64 %1230
  store i8 %1227, ptr %1231, align 1, !tbaa !11
  br label %1232

1232:                                             ; preds = %1223
  %1233 = load i8, ptr %117, align 1, !tbaa !11
  %1234 = add i8 %1233, 1
  store i8 %1234, ptr %117, align 1, !tbaa !11
  br label %1217, !llvm.loop !73

1235:                                             ; preds = %1217
  call void @llvm.lifetime.end.p0(i64 1, ptr %117) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %116) #4
  call void @llvm.lifetime.end.p0(i64 1, ptr %115) #4
  br label %1236

1236:                                             ; preds = %1235
  br label %1237

1237:                                             ; preds = %1236
  call void @llvm.lifetime.end.p0(i64 8, ptr %114) #4
  call void @llvm.lifetime.end.p0(i64 8, ptr %113) #4
  br label %1238

1238:                                             ; preds = %1237
  %1239 = load i32, ptr %112, align 4, !tbaa !9
  %1240 = add nsw i32 %1239, 1
  store i32 %1240, ptr %112, align 4, !tbaa !9
  br label %1165, !llvm.loop !74

1241:                                             ; preds = %1165
  br label %1242

1242:                                             ; preds = %1241
  %1243 = load i32, ptr %111, align 4, !tbaa !9
  %1244 = add nsw i32 %1243, 1
  store i32 %1244, ptr %111, align 4, !tbaa !9
  br label %1159, !llvm.loop !75

1245:                                             ; preds = %1159
  call void @llvm.lifetime.end.p0(i64 4, ptr %112) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %111) #4
  br label %1246

1246:                                             ; preds = %1245, %1156, %1120, %1083, %1046
  br label %1247

1247:                                             ; preds = %1246
  br label %1248

1248:                                             ; preds = %1247
  call void @llvm.lifetime.end.p0(i64 4, ptr %22) #4
  call void @llvm.lifetime.end.p0(i64 4, ptr %21) #4
  br label %1249

1249:                                             ; preds = %1248
  ret void
}

; Function Attrs: nocallback nofree nounwind willreturn memory(argmem: readwrite)
declare void @llvm.memcpy.p0.p0.i64(ptr noalias nocapture writeonly, ptr noalias nocapture readonly, i64, i1 immarg) #3

attributes #0 = { nocallback nofree nosync nounwind willreturn memory(argmem: readwrite) }
attributes #1 = { noreturn nounwind "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #2 = { nounwind uwtable "min-legal-vector-width"="0" "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #3 = { nocallback nofree nounwind willreturn memory(argmem: readwrite) }
attributes #4 = { nounwind }
attributes #5 = { noreturn nounwind }

!llvm.module.flags = !{!0, !1, !2, !3}
!llvm.ident = !{!4}

!0 = !{i32 1, !"wchar_size", i32 4}
!1 = !{i32 8, !"PIC Level", i32 2}
!2 = !{i32 7, !"PIE Level", i32 2}
!3 = !{i32 7, !"uwtable", i32 2}
!4 = !{!"clang version 19.1.0 (git@github.com:llvm/llvm-project.git a4bf6cd7cfb1a1421ba92bca9d017b49936c55e4)"}
!5 = !{!6, !6, i64 0}
!6 = !{!"any pointer", !7, i64 0}
!7 = !{!"omnipotent char", !8, i64 0}
!8 = !{!"Simple C/C++ TBAA"}
!9 = !{!10, !10, i64 0}
!10 = !{!"int", !7, i64 0}
!11 = !{!7, !7, i64 0}
!12 = !{!13, !6, i64 32}
!13 = !{!"libxsmm_meltw_unary_param", !14, i64 0, !15, i64 32, !15, i64 80}
!14 = !{!"libxsmm_matrix_op_arg", !6, i64 0, !6, i64 8, !6, i64 16, !6, i64 24}
!15 = !{!"libxsmm_matrix_arg", !6, i64 0, !6, i64 8, !6, i64 16, !6, i64 24, !6, i64 32, !6, i64 40}
!16 = !{!13, !6, i64 80}
!17 = distinct !{!17, !18}
!18 = !{!"llvm.loop.mustprogress"}
!19 = distinct !{!19, !18}
!20 = !{!21, !21, i64 0}
!21 = !{!"short", !7, i64 0}
!22 = distinct !{!22, !18}
!23 = distinct !{!23, !18}
!24 = !{!25, !25, i64 0}
!25 = !{!"float", !7, i64 0}
!26 = distinct !{!26, !18}
!27 = distinct !{!27, !18}
!28 = !{!29, !29, i64 0}
!29 = !{!"double", !7, i64 0}
!30 = distinct !{!30, !18}
!31 = distinct !{!31, !18}
!32 = !{i64 0, i64 16, !11}
!33 = distinct !{!33, !18}
!34 = distinct !{!34, !18}
!35 = distinct !{!35, !18, !36}
!36 = !{!"llvm.loop.unroll.count", i32 4}
!37 = distinct !{!37, !18}
!38 = distinct !{!38, !18}
!39 = distinct !{!39, !18}
!40 = distinct !{!40, !18}
!41 = distinct !{!41, !18}
!42 = distinct !{!42, !18}
!43 = distinct !{!43, !18}
!44 = distinct !{!44, !18}
!45 = distinct !{!45, !18}
!46 = distinct !{!46, !18}
!47 = distinct !{!47, !18}
!48 = distinct !{!48, !18}
!49 = distinct !{!49, !18, !36}
!50 = distinct !{!50, !18}
!51 = distinct !{!51, !18}
!52 = distinct !{!52, !18}
!53 = distinct !{!53, !18}
!54 = distinct !{!54, !18}
!55 = distinct !{!55, !18}
!56 = distinct !{!56, !18}
!57 = distinct !{!57, !18}
!58 = distinct !{!58, !18}
!59 = distinct !{!59, !18}
!60 = distinct !{!60, !18}
!61 = distinct !{!61, !18, !36}
!62 = distinct !{!62, !18}
!63 = distinct !{!63, !18}
!64 = distinct !{!64, !18}
!65 = distinct !{!65, !18}
!66 = distinct !{!66, !18}
!67 = distinct !{!67, !18}
!68 = distinct !{!68, !18}
!69 = distinct !{!69, !18}
!70 = distinct !{!70, !18}
!71 = distinct !{!71, !18}
!72 = distinct !{!72, !18}
!73 = distinct !{!73, !18, !36}
!74 = distinct !{!74, !18}
!75 = distinct !{!75, !18}


; Optimized IR (opt -passes='default<O3>'):
target datalayout = "e-m:e-p270:32:32-p271:32:32-p272:64:64-i64:64-i128:128-f80:128-n8:16:32:64-S128"
target triple = "x86_64-unknown-linux-gnu"

%struct.libxsmm_xcopy_tile_elem_t.3 = type { [2 x double] }
%struct.libxsmm_xcopy_tile_elem_t.4 = type { [2 x double] }
%struct.libxsmm_xcopy_tile_elem_t.5 = type { [2 x double] }
%struct.libxsmm_xcopy_tile_elem_t.6 = type { [2 x double] }
%struct.libxsmm_meltw_unary_param = type { %struct.libxsmm_matrix_op_arg, %struct.libxsmm_matrix_arg, %struct.libxsmm_matrix_arg }
%struct.libxsmm_matrix_op_arg = type { ptr, ptr, ptr, ptr }
%struct.libxsmm_matrix_arg = type { ptr, ptr, ptr, ptr, ptr, ptr }

@.str.9 = external hidden unnamed_addr constant [69 x i8], align 1
@.str.17 = external hidden unnamed_addr constant [56 x i8], align 1
@__PRETTY_FUNCTION__.libxsmm_matzero_internal = external hidden unnamed_addr constant [171 x i8], align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_ = external hidden global i8, align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.20 = external hidden local_unnamed_addr global i16, align 2
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.21 = external hidden local_unnamed_addr global float, align 4
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.22 = external hidden local_unnamed_addr global double, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.23 = external hidden local_unnamed_addr global %struct.libxsmm_xcopy_tile_elem_t.3, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.24 = external hidden local_unnamed_addr global i8, align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.25 = external hidden local_unnamed_addr global i16, align 2
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.26 = external hidden local_unnamed_addr global float, align 4
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.27 = external hidden local_unnamed_addr global double, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.28 = external hidden local_unnamed_addr global %struct.libxsmm_xcopy_tile_elem_t.4, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.29 = external hidden local_unnamed_addr global i8, align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.30 = external hidden local_unnamed_addr global i16, align 2
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.31 = external hidden local_unnamed_addr global float, align 4
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.32 = external hidden local_unnamed_addr global double, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.33 = external hidden local_unnamed_addr global %struct.libxsmm_xcopy_tile_elem_t.5, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.34 = external hidden local_unnamed_addr global i8, align 1
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.35 = external hidden local_unnamed_addr global i16, align 2
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.36 = external hidden local_unnamed_addr global float, align 4
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.37 = external hidden local_unnamed_addr global double, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.38 = external hidden local_unnamed_addr global %struct.libxsmm_xcopy_tile_elem_t.6, align 8
@libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.39 = external hidden local_unnamed_addr global i8, align 1

; Function Attrs: mustprogress nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.start.p0(i64 immarg, ptr nocapture) #0

; Function Attrs: mustprogress nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.end.p0(i64 immarg, ptr nocapture) #0

; Function Attrs: noreturn nounwind
declare void @__assert_fail(ptr noundef, ptr noundef, i32 noundef, ptr noundef) local_unnamed_addr #1

; Function Attrs: nounwind uwtable
define dso_local void @libxsmm_matzero_internal(ptr noundef %0, i32 noundef %1, i32 noundef %2, i32 noundef %3, i32 noundef %4, i32 noundef %5, i32 noundef %6, i32 noundef %7, i32 noundef %8, i64 %9) local_unnamed_addr #2 {
  %11 = alloca %struct.libxsmm_meltw_unary_param, align 8
  %12 = inttoptr i64 %9 to ptr
  %13 = icmp ne i32 %8, 0
  %14 = icmp ne i32 %7, 0
  %or.cond = and i1 %14, %13
  br i1 %or.cond, label %16, label %15

15:                                               ; preds = %10
  tail call void @__assert_fail(ptr noundef nonnull @.str.17, ptr noundef nonnull @.str.9, i32 noundef 212, ptr noundef nonnull @__PRETTY_FUNCTION__.libxsmm_matzero_internal) #5
  unreachable

16:                                               ; preds = %10
  %.not = icmp eq i64 %9, 0
  %17 = sub nsw i32 %6, %8
  %.not436593 = icmp slt i32 %17, %5
  br i1 %.not, label %.preheader504, label %.preheader507

.preheader507:                                    ; preds = %16
  br i1 %.not436593, label %.loopexit505, label %.preheader506.lr.ph

.preheader506.lr.ph:                              ; preds = %.preheader507
  %18 = sub nsw i32 %4, %7
  %.not443509 = icmp slt i32 %18, %3
  %19 = zext i32 %1 to i64
  %20 = zext i32 %2 to i64
  %21 = getelementptr inbounds i8, ptr %11, i64 32
  %22 = getelementptr inbounds i8, ptr %11, i64 80
  br i1 %.not443509, label %.loopexit505, label %.preheader506

.preheader504:                                    ; preds = %16
  br i1 %.not436593, label %.loopexit505, label %.preheader503.lr.ph

.preheader503.lr.ph:                              ; preds = %.preheader504
  %23 = sub nsw i32 %4, %7
  %.not437536 = icmp slt i32 %23, %3
  %24 = add i32 %1, -2
  %25 = tail call i32 @llvm.fshl.i32(i32 %24, i32 %24, i32 31)
  %26 = zext i32 %2 to i64
  %27 = zext i32 %1 to i64
  %sext = shl i32 %1, 24
  %28 = ashr exact i32 %sext, 24
  %29 = icmp slt i32 %28, 1
  br i1 %.not437536, label %.loopexit505, label %.preheader503.preheader

.preheader503.preheader:                          ; preds = %.preheader503.lr.ph
  %30 = add i32 %7, %3
  %31 = add i32 %8, %5
  %32 = zext i32 %7 to i64
  %33 = zext i32 %7 to i64
  %34 = zext i32 %7 to i64
  %xtraiter = and i32 %7, 1
  %lcmp.mod.not = icmp eq i32 %xtraiter, 0
  %35 = icmp eq i32 %7, 1
  %min.iters.check1096 = icmp ult i32 %7, 4
  %n.vec1099 = and i64 %34, 4294967292
  %cmp.n1108 = icmp eq i64 %n.vec1099, %34
  %min.iters.check1081 = icmp ult i32 %7, 8
  %n.vec1084 = and i64 %33, 4294967288
  %cmp.n1093 = icmp eq i64 %n.vec1084, %33
  %min.iters.check = icmp ult i32 %7, 16
  %n.vec = and i64 %32, 4294967280
  %cmp.n = icmp eq i64 %n.vec, %32
  br label %.preheader503

.preheader506:                                    ; preds = %.preheader506.lr.ph, %._crit_edge
  %.0383512 = phi i32 [ %44, %._crit_edge ], [ %5, %.preheader506.lr.ph ]
  %36 = sext i32 %.0383512 to i64
  %37 = mul nsw i64 %36, %20
  br label %38

38:                                               ; preds = %.preheader506, %38
  %.1385510 = phi i32 [ %3, %.preheader506 ], [ %43, %38 ]
  %39 = sext i32 %.1385510 to i64
  %40 = add nsw i64 %37, %39
  %41 = mul i64 %40, %19
  %42 = getelementptr inbounds i8, ptr %0, i64 %41
  call void @llvm.lifetime.start.p0(i64 128, ptr nonnull %11) #6
  store ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_, ptr %21, align 8, !tbaa !5
  store ptr %42, ptr %22, align 8, !tbaa !12
  call void %12(ptr noundef nonnull %11) #6
  call void @llvm.lifetime.end.p0(i64 128, ptr nonnull %11) #6
  %43 = add i32 %.1385510, %7
  %.not443 = icmp sgt i32 %43, %18
  br i1 %.not443, label %._crit_edge, label %38, !llvm.loop !13

._crit_edge:                                      ; preds = %38
  %44 = add i32 %.0383512, %8
  %.not438 = icmp sgt i32 %44, %17
  br i1 %.not438, label %.loopexit505, label %.preheader506, !llvm.loop !15

.preheader503:                                    ; preds = %.preheader503.preheader, %._crit_edge544
  %indvars.iv764 = phi i32 [ %31, %.preheader503.preheader ], [ %indvars.iv.next765, %._crit_edge544 ]
  %.1594 = phi i32 [ %5, %.preheader503.preheader ], [ %46, %._crit_edge544 ]
  %45 = sext i32 %.1594 to i64
  %46 = add i32 %.1594, %8
  %47 = icmp slt i32 %.1594, %46
  switch i32 %25, label %.lr.ph.split [
    i32 0, label %.lr.ph.split.us
    i32 1, label %.lr.ph.split.us551
    i32 3, label %.lr.ph.split.us561
    i32 7, label %.lr.ph.split.us571
  ]

.lr.ph.split.us:                                  ; preds = %.preheader503
  br i1 %47, label %.preheader495.us.us, label %.preheader495.us

.preheader495.us.us:                              ; preds = %.lr.ph.split.us, %..loopexit496_crit_edge.us.us
  %indvars.iv795 = phi i32 [ %indvars.iv.next796, %..loopexit496_crit_edge.us.us ], [ %30, %.lr.ph.split.us ]
  %.3537.us.us = phi i32 [ %49, %..loopexit496_crit_edge.us.us ], [ %3, %.lr.ph.split.us ]
  %48 = sext i32 %.3537.us.us to i64
  %49 = add i32 %.3537.us.us, %7
  %50 = icmp slt i32 %.3537.us.us, %49
  br i1 %50, label %.preheader489.us.us.us.preheader, label %..loopexit496_crit_edge.us.us

.preheader489.us.us.us.preheader:                 ; preds = %.preheader495.us.us
  %ind.end = add nsw i64 %n.vec, %48
  br label %.preheader489.us.us.us

..loopexit496_crit_edge.us.us:                    ; preds = %._crit_edge524.us.us.us, %.preheader495.us.us
  %.not437.us.us = icmp sgt i32 %49, %23
  %indvars.iv.next796 = add i32 %indvars.iv795, %7
  br i1 %.not437.us.us, label %._crit_edge544, label %.preheader495.us.us, !llvm.loop !16

.preheader489.us.us.us:                           ; preds = %.preheader489.us.us.us.preheader, %._crit_edge524.us.us.us
  %indvars.iv799 = phi i64 [ %indvars.iv.next800, %._crit_edge524.us.us.us ], [ %45, %.preheader489.us.us.us.preheader ]
  %51 = mul nsw i64 %indvars.iv799, %26
  %.pre970 = load i16, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.20, align 2, !tbaa !17
  br i1 %min.iters.check, label %scalar.ph.preheader, label %vector.ph

vector.ph:                                        ; preds = %.preheader489.us.us.us
  %broadcast.splatinsert = insertelement <8 x i16> poison, i16 %.pre970, i64 0
  %broadcast.splat = shufflevector <8 x i16> %broadcast.splatinsert, <8 x i16> poison, <8 x i32> zeroinitializer
  br label %vector.body

vector.body:                                      ; preds = %vector.body, %vector.ph
  %index = phi i64 [ 0, %vector.ph ], [ %index.next, %vector.body ]
  %offset.idx = add i64 %index, %48
  %52 = add nsw i64 %51, %offset.idx
  %53 = shl i64 %52, 1
  %54 = getelementptr inbounds i8, ptr %0, i64 %53
  %55 = getelementptr inbounds i8, ptr %54, i64 16
  store <8 x i16> %broadcast.splat, ptr %54, align 2, !tbaa !17
  store <8 x i16> %broadcast.splat, ptr %55, align 2, !tbaa !17
  %index.next = add nuw i64 %index, 16
  %56 = icmp eq i64 %index.next, %n.vec
  br i1 %56, label %middle.block, label %vector.body, !llvm.loop !19

middle.block:                                     ; preds = %vector.body
  br i1 %cmp.n, label %._crit_edge524.us.us.us, label %scalar.ph.preheader

scalar.ph.preheader:                              ; preds = %middle.block, %.preheader489.us.us.us
  %indvars.iv792.ph = phi i64 [ %48, %.preheader489.us.us.us ], [ %ind.end, %middle.block ]
  br label %scalar.ph

scalar.ph:                                        ; preds = %scalar.ph.preheader, %scalar.ph
  %indvars.iv792 = phi i64 [ %indvars.iv.next793, %scalar.ph ], [ %indvars.iv792.ph, %scalar.ph.preheader ]
  %57 = add nsw i64 %51, %indvars.iv792
  %58 = shl i64 %57, 1
  %59 = getelementptr inbounds i8, ptr %0, i64 %58
  store i16 %.pre970, ptr %59, align 2, !tbaa !17
  %indvars.iv.next793 = add nsw i64 %indvars.iv792, 1
  %lftr.wideiv797 = trunc i64 %indvars.iv.next793 to i32
  %exitcond798.not = icmp eq i32 %indvars.iv795, %lftr.wideiv797
  br i1 %exitcond798.not, label %._crit_edge524.us.us.us, label %scalar.ph, !llvm.loop !22

._crit_edge524.us.us.us:                          ; preds = %scalar.ph, %middle.block
  %indvars.iv.next800 = add nsw i64 %indvars.iv799, 1
  %lftr.wideiv802 = trunc i64 %indvars.iv.next800 to i32
  %exitcond803.not = icmp eq i32 %indvars.iv764, %lftr.wideiv802
  br i1 %exitcond803.not, label %..loopexit496_crit_edge.us.us, label %.preheader489.us.us.us, !llvm.loop !23

.preheader495.us:                                 ; preds = %.lr.ph.split.us, %.preheader495.us
  %.3537.us = phi i32 [ %60, %.preheader495.us ], [ %3, %.lr.ph.split.us ]
  %60 = add i32 %.3537.us, %7
  %.not437.us = icmp sgt i32 %60, %23
  br i1 %.not437.us, label %._crit_edge544, label %.preheader495.us, !llvm.loop !16

.lr.ph.split.us551:                               ; preds = %.preheader503
  br i1 %47, label %.preheader497.us.us, label %.preheader497.us

.preheader497.us.us:                              ; preds = %.lr.ph.split.us551, %..loopexit498_crit_edge.us.us
  %indvars.iv783 = phi i32 [ %indvars.iv.next784, %..loopexit498_crit_edge.us.us ], [ %30, %.lr.ph.split.us551 ]
  %.3537.us552.us = phi i32 [ %62, %..loopexit498_crit_edge.us.us ], [ %3, %.lr.ph.split.us551 ]
  %61 = sext i32 %.3537.us552.us to i64
  %62 = add i32 %.3537.us552.us, %7
  %63 = icmp slt i32 %.3537.us552.us, %62
  br i1 %63, label %.preheader490.us.us.us.preheader, label %..loopexit498_crit_edge.us.us

.preheader490.us.us.us.preheader:                 ; preds = %.preheader497.us.us
  %ind.end1085 = add nsw i64 %n.vec1084, %61
  br label %.preheader490.us.us.us

..loopexit498_crit_edge.us.us:                    ; preds = %._crit_edge521.us.us.us, %.preheader497.us.us
  %.not437.us554.us = icmp sgt i32 %62, %23
  %indvars.iv.next784 = add i32 %indvars.iv783, %7
  br i1 %.not437.us554.us, label %._crit_edge544, label %.preheader497.us.us, !llvm.loop !16

.preheader490.us.us.us:                           ; preds = %.preheader490.us.us.us.preheader, %._crit_edge521.us.us.us
  %indvars.iv787 = phi i64 [ %indvars.iv.next788, %._crit_edge521.us.us.us ], [ %45, %.preheader490.us.us.us.preheader ]
  %64 = mul nsw i64 %indvars.iv787, %26
  %.pre969 = load float, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.21, align 4, !tbaa !24
  br i1 %min.iters.check1081, label %scalar.ph1080.preheader, label %vector.ph1082

vector.ph1082:                                    ; preds = %.preheader490.us.us.us
  %broadcast.splatinsert1090 = insertelement <4 x float> poison, float %.pre969, i64 0
  %broadcast.splat1091 = shufflevector <4 x float> %broadcast.splatinsert1090, <4 x float> poison, <4 x i32> zeroinitializer
  br label %vector.body1087

vector.body1087:                                  ; preds = %vector.body1087, %vector.ph1082
  %index1088 = phi i64 [ 0, %vector.ph1082 ], [ %index.next1092, %vector.body1087 ]
  %offset.idx1089 = add i64 %index1088, %61
  %65 = add nsw i64 %64, %offset.idx1089
  %66 = shl i64 %65, 2
  %67 = getelementptr inbounds i8, ptr %0, i64 %66
  %68 = getelementptr inbounds i8, ptr %67, i64 16
  store <4 x float> %broadcast.splat1091, ptr %67, align 4, !tbaa !24
  store <4 x float> %broadcast.splat1091, ptr %68, align 4, !tbaa !24
  %index.next1092 = add nuw i64 %index1088, 8
  %69 = icmp eq i64 %index.next1092, %n.vec1084
  br i1 %69, label %middle.block1079, label %vector.body1087, !llvm.loop !26

middle.block1079:                                 ; preds = %vector.body1087
  br i1 %cmp.n1093, label %._crit_edge521.us.us.us, label %scalar.ph1080.preheader

scalar.ph1080.preheader:                          ; preds = %middle.block1079, %.preheader490.us.us.us
  %indvars.iv780.ph = phi i64 [ %61, %.preheader490.us.us.us ], [ %ind.end1085, %middle.block1079 ]
  br label %scalar.ph1080

scalar.ph1080:                                    ; preds = %scalar.ph1080.preheader, %scalar.ph1080
  %indvars.iv780 = phi i64 [ %indvars.iv.next781, %scalar.ph1080 ], [ %indvars.iv780.ph, %scalar.ph1080.preheader ]
  %70 = add nsw i64 %64, %indvars.iv780
  %71 = shl i64 %70, 2
  %72 = getelementptr inbounds i8, ptr %0, i64 %71
  store float %.pre969, ptr %72, align 4, !tbaa !24
  %indvars.iv.next781 = add nsw i64 %indvars.iv780, 1
  %lftr.wideiv785 = trunc i64 %indvars.iv.next781 to i32
  %exitcond786.not = icmp eq i32 %indvars.iv783, %lftr.wideiv785
  br i1 %exitcond786.not, label %._crit_edge521.us.us.us, label %scalar.ph1080, !llvm.loop !27

._crit_edge521.us.us.us:                          ; preds = %scalar.ph1080, %middle.block1079
  %indvars.iv.next788 = add nsw i64 %indvars.iv787, 1
  %lftr.wideiv790 = trunc i64 %indvars.iv.next788 to i32
  %exitcond791.not = icmp eq i32 %indvars.iv764, %lftr.wideiv790
  br i1 %exitcond791.not, label %..loopexit498_crit_edge.us.us, label %.preheader490.us.us.us, !llvm.loop !28

.preheader497.us:                                 ; preds = %.lr.ph.split.us551, %.preheader497.us
  %.3537.us552 = phi i32 [ %73, %.preheader497.us ], [ %3, %.lr.ph.split.us551 ]
  %73 = add i32 %.3537.us552, %7
  %.not437.us554 = icmp sgt i32 %73, %23
  br i1 %.not437.us554, label %._crit_edge544, label %.preheader497.us, !llvm.loop !16

.lr.ph.split.us561:                               ; preds = %.preheader503
  br i1 %47, label %.preheader499.us.us, label %.preheader499.us

.preheader499.us.us:                              ; preds = %.lr.ph.split.us561, %..loopexit500_crit_edge.us.us
  %indvars.iv771 = phi i32 [ %indvars.iv.next772, %..loopexit500_crit_edge.us.us ], [ %30, %.lr.ph.split.us561 ]
  %.3537.us562.us = phi i32 [ %75, %..loopexit500_crit_edge.us.us ], [ %3, %.lr.ph.split.us561 ]
  %74 = sext i32 %.3537.us562.us to i64
  %75 = add i32 %.3537.us562.us, %7
  %76 = icmp slt i32 %.3537.us562.us, %75
  br i1 %76, label %.preheader491.us.us.us.preheader, label %..loopexit500_crit_edge.us.us

.preheader491.us.us.us.preheader:                 ; preds = %.preheader499.us.us
  %ind.end1100 = add nsw i64 %n.vec1099, %74
  br label %.preheader491.us.us.us

..loopexit500_crit_edge.us.us:                    ; preds = %._crit_edge518.us.us.us, %.preheader499.us.us
  %.not437.us564.us = icmp sgt i32 %75, %23
  %indvars.iv.next772 = add i32 %indvars.iv771, %7
  br i1 %.not437.us564.us, label %._crit_edge544, label %.preheader499.us.us, !llvm.loop !16

.preheader491.us.us.us:                           ; preds = %.preheader491.us.us.us.preheader, %._crit_edge518.us.us.us
  %indvars.iv775 = phi i64 [ %indvars.iv.next776, %._crit_edge518.us.us.us ], [ %45, %.preheader491.us.us.us.preheader ]
  %77 = mul nsw i64 %indvars.iv775, %26
  %.pre = load double, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.22, align 8, !tbaa !29
  br i1 %min.iters.check1096, label %scalar.ph1095.preheader, label %vector.ph1097

vector.ph1097:                                    ; preds = %.preheader491.us.us.us
  %broadcast.splatinsert1105 = insertelement <2 x double> poison, double %.pre, i64 0
  %broadcast.splat1106 = shufflevector <2 x double> %broadcast.splatinsert1105, <2 x double> poison, <2 x i32> zeroinitializer
  br label %vector.body1102

vector.body1102:                                  ; preds = %vector.body1102, %vector.ph1097
  %index1103 = phi i64 [ 0, %vector.ph1097 ], [ %index.next1107, %vector.body1102 ]
  %offset.idx1104 = add i64 %index1103, %74
  %78 = add nsw i64 %77, %offset.idx1104
  %79 = shl i64 %78, 3
  %80 = getelementptr inbounds i8, ptr %0, i64 %79
  %81 = getelementptr inbounds i8, ptr %80, i64 16
  store <2 x double> %broadcast.splat1106, ptr %80, align 8, !tbaa !29
  store <2 x double> %broadcast.splat1106, ptr %81, align 8, !tbaa !29
  %index.next1107 = add nuw i64 %index1103, 4
  %82 = icmp eq i64 %index.next1107, %n.vec1099
  br i1 %82, label %middle.block1094, label %vector.body1102, !llvm.loop !31

middle.block1094:                                 ; preds = %vector.body1102
  br i1 %cmp.n1108, label %._crit_edge518.us.us.us, label %scalar.ph1095.preheader

scalar.ph1095.preheader:                          ; preds = %middle.block1094, %.preheader491.us.us.us
  %indvars.iv768.ph = phi i64 [ %74, %.preheader491.us.us.us ], [ %ind.end1100, %middle.block1094 ]
  br label %scalar.ph1095

scalar.ph1095:                                    ; preds = %scalar.ph1095.preheader, %scalar.ph1095
  %indvars.iv768 = phi i64 [ %indvars.iv.next769, %scalar.ph1095 ], [ %indvars.iv768.ph, %scalar.ph1095.preheader ]
  %83 = add nsw i64 %77, %indvars.iv768
  %84 = shl i64 %83, 3
  %85 = getelementptr inbounds i8, ptr %0, i64 %84
  store double %.pre, ptr %85, align 8, !tbaa !29
  %indvars.iv.next769 = add nsw i64 %indvars.iv768, 1
  %lftr.wideiv773 = trunc i64 %indvars.iv.next769 to i32
  %exitcond774.not = icmp eq i32 %indvars.iv771, %lftr.wideiv773
  br i1 %exitcond774.not, label %._crit_edge518.us.us.us, label %scalar.ph1095, !llvm.loop !32

._crit_edge518.us.us.us:                          ; preds = %scalar.ph1095, %middle.block1094
  %indvars.iv.next776 = add nsw i64 %indvars.iv775, 1
  %lftr.wideiv778 = trunc i64 %indvars.iv.next776 to i32
  %exitcond779.not = icmp eq i32 %indvars.iv764, %lftr.wideiv778
  br i1 %exitcond779.not, label %..loopexit500_crit_edge.us.us, label %.preheader491.us.us.us, !llvm.loop !33

.preheader499.us:                                 ; preds = %.lr.ph.split.us561, %.preheader499.us
  %.3537.us562 = phi i32 [ %86, %.preheader499.us ], [ %3, %.lr.ph.split.us561 ]
  %86 = add i32 %.3537.us562, %7
  %.not437.us564 = icmp sgt i32 %86, %23
  br i1 %.not437.us564, label %._crit_edge544, label %.preheader499.us, !llvm.loop !16

.lr.ph.split.us571:                               ; preds = %.preheader503
  br i1 %47, label %.preheader501.us.us, label %.preheader501.us

.preheader501.us.us:                              ; preds = %.lr.ph.split.us571, %..loopexit502_crit_edge.us.us
  %indvars.iv759 = phi i32 [ %indvars.iv.next760, %..loopexit502_crit_edge.us.us ], [ %30, %.lr.ph.split.us571 ]
  %.3537.us572.us = phi i32 [ %88, %..loopexit502_crit_edge.us.us ], [ %3, %.lr.ph.split.us571 ]
  %87 = sext i32 %.3537.us572.us to i64
  %88 = add i32 %.3537.us572.us, %7
  %89 = icmp slt i32 %.3537.us572.us, %88
  br i1 %89, label %.preheader492.us.us.us.preheader, label %..loopexit502_crit_edge.us.us

.preheader492.us.us.us.preheader:                 ; preds = %.preheader501.us.us
  %indvars.iv.next.prol = add nsw i64 %87, 1
  br label %.preheader492.us.us.us

..loopexit502_crit_edge.us.us:                    ; preds = %._crit_edge515.us.us.us, %.preheader501.us.us
  %.not437.us574.us = icmp sgt i32 %88, %23
  %indvars.iv.next760 = add i32 %indvars.iv759, %7
  br i1 %.not437.us574.us, label %._crit_edge544, label %.preheader501.us.us, !llvm.loop !16

.preheader492.us.us.us:                           ; preds = %.preheader492.us.us.us.preheader, %._crit_edge515.us.us.us
  %indvars.iv761 = phi i64 [ %indvars.iv.next762, %._crit_edge515.us.us.us ], [ %45, %.preheader492.us.us.us.preheader ]
  %90 = mul nsw i64 %indvars.iv761, %26
  br i1 %lcmp.mod.not, label %.prol.loopexit, label %.prol.loopexit.unr-lcssa

.prol.loopexit.unr-lcssa:                         ; preds = %.preheader492.us.us.us
  %91 = add nsw i64 %90, %87
  %92 = shl i64 %91, 4
  %93 = getelementptr inbounds i8, ptr %0, i64 %92
  tail call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %93, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.23, i64 16, i1 false), !tbaa.struct !34
  br label %.prol.loopexit

.prol.loopexit:                                   ; preds = %.prol.loopexit.unr-lcssa, %.preheader492.us.us.us
  %indvars.iv.unr = phi i64 [ %87, %.preheader492.us.us.us ], [ %indvars.iv.next.prol, %.prol.loopexit.unr-lcssa ]
  br i1 %35, label %._crit_edge515.us.us.us, label %.preheader492.us.us.us.new

.preheader492.us.us.us.new:                       ; preds = %.prol.loopexit, %.preheader492.us.us.us.new
  %indvars.iv = phi i64 [ %indvars.iv.next.1, %.preheader492.us.us.us.new ], [ %indvars.iv.unr, %.prol.loopexit ]
  %94 = add nsw i64 %90, %indvars.iv
  %95 = shl i64 %94, 4
  %96 = getelementptr inbounds i8, ptr %0, i64 %95
  tail call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %96, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.23, i64 16, i1 false), !tbaa.struct !34
  %indvars.iv.next = add nsw i64 %indvars.iv, 1
  %97 = add nsw i64 %90, %indvars.iv.next
  %98 = shl i64 %97, 4
  %99 = getelementptr inbounds i8, ptr %0, i64 %98
  tail call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %99, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.23, i64 16, i1 false), !tbaa.struct !34
  %indvars.iv.next.1 = add nsw i64 %indvars.iv, 2
  %lftr.wideiv.1 = trunc i64 %indvars.iv.next.1 to i32
  %exitcond.not.1 = icmp eq i32 %indvars.iv759, %lftr.wideiv.1
  br i1 %exitcond.not.1, label %._crit_edge515.us.us.us, label %.preheader492.us.us.us.new, !llvm.loop !36

._crit_edge515.us.us.us:                          ; preds = %.preheader492.us.us.us.new, %.prol.loopexit
  %indvars.iv.next762 = add nsw i64 %indvars.iv761, 1
  %lftr.wideiv766 = trunc i64 %indvars.iv.next762 to i32
  %exitcond767.not = icmp eq i32 %indvars.iv764, %lftr.wideiv766
  br i1 %exitcond767.not, label %..loopexit502_crit_edge.us.us, label %.preheader492.us.us.us, !llvm.loop !37

.preheader501.us:                                 ; preds = %.lr.ph.split.us571, %.preheader501.us
  %.3537.us572 = phi i32 [ %100, %.preheader501.us ], [ %3, %.lr.ph.split.us571 ]
  %100 = add i32 %.3537.us572, %7
  %.not437.us574 = icmp sgt i32 %100, %23
  br i1 %.not437.us574, label %._crit_edge544, label %.preheader501.us, !llvm.loop !16

.lr.ph.split:                                     ; preds = %.preheader503
  br i1 %47, label %.preheader493.us, label %.preheader493

.preheader493.us:                                 ; preds = %.lr.ph.split, %..loopexit494_crit_edge.us
  %indvars.iv807 = phi i32 [ %indvars.iv.next808, %..loopexit494_crit_edge.us ], [ %30, %.lr.ph.split ]
  %.3537.us581 = phi i32 [ %102, %..loopexit494_crit_edge.us ], [ %3, %.lr.ph.split ]
  %101 = sext i32 %.3537.us581 to i64
  %102 = add i32 %.3537.us581, %7
  %103 = icmp sge i32 %.3537.us581, %102
  %brmerge = select i1 %103, i1 true, i1 %29
  br i1 %brmerge, label %..loopexit494_crit_edge.us, label %.preheader488.us.us.us

..loopexit494_crit_edge.us:                       ; preds = %._crit_edge531.split.us.us.us.us, %.preheader493.us
  %.not437.us584 = icmp sgt i32 %102, %23
  %indvars.iv.next808 = add i32 %indvars.iv807, %7
  br i1 %.not437.us584, label %._crit_edge544, label %.preheader493.us, !llvm.loop !16

.preheader488.us.us.us:                           ; preds = %.preheader493.us, %._crit_edge531.split.us.us.us.us
  %indvars.iv811 = phi i64 [ %indvars.iv.next812, %._crit_edge531.split.us.us.us.us ], [ %45, %.preheader493.us ]
  %104 = mul nsw i64 %indvars.iv811, %26
  br label %.lr.ph.us.us.us.us

.lr.ph.us.us.us.us:                               ; preds = %._crit_edge528.us.us.us.us, %.preheader488.us.us.us
  %indvars.iv804 = phi i64 [ %indvars.iv.next805, %._crit_edge528.us.us.us.us ], [ %101, %.preheader488.us.us.us ]
  %105 = add nsw i64 %104, %indvars.iv804
  %106 = mul i64 %105, %27
  %107 = getelementptr inbounds i8, ptr %0, i64 %106
  br label %108

108:                                              ; preds = %132, %.lr.ph.us.us.us.us
  %.0408526.us.us.us.us = phi i8 [ 0, %.lr.ph.us.us.us.us ], [ %137, %132 ]
  %109 = zext nneg i8 %.0408526.us.us.us.us to i64
  %110 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.24, i64 %109
  %111 = load i8, ptr %110, align 1, !tbaa !35
  %112 = getelementptr inbounds i8, ptr %107, i64 %109
  store i8 %111, ptr %112, align 1, !tbaa !35
  %113 = or disjoint i8 %.0408526.us.us.us.us, 1
  %114 = zext nneg i8 %113 to i32
  %115 = icmp sgt i32 %28, %114
  br i1 %115, label %116, label %._crit_edge528.us.us.us.us, !llvm.loop !38

116:                                              ; preds = %108
  %117 = zext nneg i8 %113 to i64
  %118 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.24, i64 %117
  %119 = load i8, ptr %118, align 1, !tbaa !35
  %120 = getelementptr inbounds i8, ptr %107, i64 %117
  store i8 %119, ptr %120, align 1, !tbaa !35
  %121 = or disjoint i8 %.0408526.us.us.us.us, 2
  %122 = zext nneg i8 %121 to i32
  %123 = icmp ugt i32 %28, %122
  br i1 %123, label %124, label %._crit_edge528.us.us.us.us, !llvm.loop !38

124:                                              ; preds = %116
  %125 = zext nneg i8 %121 to i64
  %126 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.24, i64 %125
  %127 = load i8, ptr %126, align 1, !tbaa !35
  %128 = getelementptr inbounds i8, ptr %107, i64 %125
  store i8 %127, ptr %128, align 1, !tbaa !35
  %129 = or disjoint i8 %.0408526.us.us.us.us, 3
  %130 = zext nneg i8 %129 to i32
  %131 = icmp ugt i32 %28, %130
  br i1 %131, label %132, label %._crit_edge528.us.us.us.us, !llvm.loop !38

132:                                              ; preds = %124
  %133 = zext nneg i8 %129 to i64
  %134 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.24, i64 %133
  %135 = load i8, ptr %134, align 1, !tbaa !35
  %136 = getelementptr inbounds i8, ptr %107, i64 %133
  store i8 %135, ptr %136, align 1, !tbaa !35
  %137 = add nuw nsw i8 %.0408526.us.us.us.us, 4
  %138 = zext nneg i8 %137 to i32
  %139 = icmp ugt i32 %28, %138
  br i1 %139, label %108, label %._crit_edge528.us.us.us.us, !llvm.loop !40

._crit_edge528.us.us.us.us:                       ; preds = %132, %124, %116, %108
  %indvars.iv.next805 = add nsw i64 %indvars.iv804, 1
  %lftr.wideiv809 = trunc i64 %indvars.iv.next805 to i32
  %exitcond810.not = icmp eq i32 %indvars.iv807, %lftr.wideiv809
  br i1 %exitcond810.not, label %._crit_edge531.split.us.us.us.us, label %.lr.ph.us.us.us.us, !llvm.loop !42

._crit_edge531.split.us.us.us.us:                 ; preds = %._crit_edge528.us.us.us.us
  %indvars.iv.next812 = add nsw i64 %indvars.iv811, 1
  %lftr.wideiv814 = trunc i64 %indvars.iv.next812 to i32
  %exitcond815.not = icmp eq i32 %indvars.iv764, %lftr.wideiv814
  br i1 %exitcond815.not, label %..loopexit494_crit_edge.us, label %.preheader488.us.us.us, !llvm.loop !43

.preheader493:                                    ; preds = %.lr.ph.split, %.preheader493
  %.3537 = phi i32 [ %140, %.preheader493 ], [ %3, %.lr.ph.split ]
  %140 = add i32 %.3537, %7
  %.not437 = icmp sgt i32 %140, %23
  br i1 %.not437, label %._crit_edge544, label %.preheader493, !llvm.loop !16

._crit_edge544:                                   ; preds = %.preheader501.us, %..loopexit502_crit_edge.us.us, %.preheader499.us, %..loopexit500_crit_edge.us.us, %.preheader497.us, %..loopexit498_crit_edge.us.us, %.preheader495.us, %..loopexit496_crit_edge.us.us, %.preheader493, %..loopexit494_crit_edge.us
  %.us-phi550 = phi i32 [ %102, %..loopexit494_crit_edge.us ], [ %140, %.preheader493 ], [ %49, %..loopexit496_crit_edge.us.us ], [ %60, %.preheader495.us ], [ %62, %..loopexit498_crit_edge.us.us ], [ %73, %.preheader497.us ], [ %75, %..loopexit500_crit_edge.us.us ], [ %86, %.preheader499.us ], [ %88, %..loopexit502_crit_edge.us.us ], [ %100, %.preheader501.us ]
  %.not436 = icmp sgt i32 %46, %17
  %indvars.iv.next765 = add i32 %indvars.iv764, %8
  br i1 %.not436, label %.loopexit505, label %.preheader503, !llvm.loop !44

.loopexit505:                                     ; preds = %._crit_edge, %._crit_edge544, %.preheader503.lr.ph, %.preheader506.lr.ph, %.preheader507, %.preheader504
  %.4 = phi i32 [ %3, %.preheader507 ], [ %3, %.preheader504 ], [ %3, %.preheader506.lr.ph ], [ %3, %.preheader503.lr.ph ], [ %.us-phi550, %._crit_edge544 ], [ %43, %._crit_edge ]
  %.not439624 = icmp slt i32 %17, %5
  br i1 %.not439624, label %.preheader472, label %.lr.ph

.lr.ph:                                           ; preds = %.loopexit505
  %141 = add i32 %1, -2
  %142 = call i32 @llvm.fshl.i32(i32 %141, i32 %141, i32 31)
  %143 = icmp sge i32 %.4, %4
  %144 = zext i32 %2 to i64
  %145 = zext i32 %1 to i64
  %sext442 = shl i32 %1, 24
  %146 = ashr exact i32 %sext442, 24
  %147 = icmp sgt i32 %146, 0
  %148 = sext i32 %.4 to i64
  %149 = add i32 %8, %5
  %wide.trip.count = sext i32 %4 to i64
  %wide.trip.count830 = sext i32 %4 to i64
  %wide.trip.count840 = sext i32 %4 to i64
  %wide.trip.count850 = sext i32 %4 to i64
  %wide.trip.count860 = sext i32 %4 to i64
  %150 = sub nsw i64 %wide.trip.count, %148
  %151 = sub nsw i64 %wide.trip.count, %148
  %xtraiter1280 = and i64 %151, 1
  %lcmp.mod1281.not = icmp eq i64 %xtraiter1280, 0
  %indvars.iv.next817.prol = add nsw i64 %148, 1
  %152 = add nsw i64 %wide.trip.count, -1
  %153 = icmp eq i64 %152, %148
  %min.iters.check1141 = icmp ult i64 %150, 4
  %n.vec1144 = and i64 %150, -4
  %ind.end1145 = add nsw i64 %n.vec1144, %148
  %cmp.n1153 = icmp eq i64 %150, %n.vec1144
  %min.iters.check1126 = icmp ult i64 %150, 8
  %n.vec1129 = and i64 %150, -8
  %ind.end1130 = add nsw i64 %n.vec1129, %148
  %cmp.n1138 = icmp eq i64 %150, %n.vec1129
  %min.iters.check1111 = icmp ult i64 %150, 16
  %n.vec1114 = and i64 %150, -16
  %ind.end1115 = add nsw i64 %n.vec1114, %148
  %cmp.n1123 = icmp eq i64 %150, %n.vec1114
  br label %173

.preheader472:                                    ; preds = %.loopexit479, %.loopexit505
  %.2.lcssa = phi i32 [ %5, %.loopexit505 ], [ %175, %.loopexit479 ]
  %154 = sub nsw i32 %4, %7
  %155 = icmp sgt i32 %154, %3
  %156 = add i32 %1, -2
  %157 = call i32 @llvm.fshl.i32(i32 %156, i32 %156, i32 31)
  br i1 %155, label %.lr.ph668, label %._crit_edge669

.lr.ph668:                                        ; preds = %.preheader472
  %158 = icmp slt i32 %.2.lcssa, %6
  %159 = zext i32 %2 to i64
  %160 = zext i32 %1 to i64
  %sext441 = shl i32 %1, 24
  %161 = ashr exact i32 %sext441, 24
  %162 = icmp sgt i32 %161, 0
  %163 = add i32 %7, %3
  %164 = sext i32 %.2.lcssa to i64
  %wide.trip.count877 = sext i32 %6 to i64
  %wide.trip.count887 = sext i32 %6 to i64
  %wide.trip.count897 = sext i32 %6 to i64
  %wide.trip.count907 = sext i32 %6 to i64
  %wide.trip.count917 = sext i32 %6 to i64
  %165 = add i32 %7, -1
  %166 = zext i32 %165 to i64
  %167 = add nuw nsw i64 %166, 1
  %168 = zext i32 %165 to i64
  %169 = add nuw nsw i64 %168, 1
  %170 = zext i32 %165 to i64
  %171 = add nuw nsw i64 %170, 1
  %xtraiter1284 = and i32 %7, 1
  %lcmp.mod1285.not = icmp eq i32 %xtraiter1284, 0
  %172 = icmp eq i32 %7, 1
  %min.iters.check1186 = icmp ult i32 %165, 3
  %n.vec1189 = and i64 %171, 8589934588
  %cmp.n1198 = icmp eq i64 %171, %n.vec1189
  %min.iters.check1171 = icmp ult i32 %165, 7
  %n.vec1174 = and i64 %169, 8589934584
  %cmp.n1183 = icmp eq i64 %169, %n.vec1174
  %min.iters.check1156 = icmp ult i32 %165, 15
  %n.vec1159 = and i64 %167, 8589934576
  %cmp.n1168 = icmp eq i64 %167, %n.vec1159
  br label %250

173:                                              ; preds = %.lr.ph, %.loopexit479
  %indvars.iv823 = phi i32 [ %149, %.lr.ph ], [ %indvars.iv.next824, %.loopexit479 ]
  %.2625 = phi i32 [ %5, %.lr.ph ], [ %175, %.loopexit479 ]
  %174 = sext i32 %.2625 to i64
  %175 = add i32 %.2625, %8
  %176 = icmp sge i32 %.2625, %175
  %brmerge1034 = or i1 %176, %143
  switch i32 %142, label %.preheader478 [
    i32 0, label %.preheader480
    i32 1, label %.preheader482
    i32 3, label %.preheader484
    i32 7, label %.preheader486
  ]

.preheader486:                                    ; preds = %173
  br i1 %brmerge1034, label %.loopexit479, label %.preheader477.us

.preheader477.us:                                 ; preds = %.preheader486, %._crit_edge603.us
  %indvars.iv820 = phi i64 [ %indvars.iv.next821, %._crit_edge603.us ], [ %174, %.preheader486 ]
  %177 = mul nsw i64 %indvars.iv820, %144
  br i1 %lcmp.mod1281.not, label %.prol.loopexit1279, label %.prol.loopexit1279.unr-lcssa

.prol.loopexit1279.unr-lcssa:                     ; preds = %.preheader477.us
  %178 = add nsw i64 %177, %148
  %179 = shl i64 %178, 4
  %180 = getelementptr inbounds i8, ptr %0, i64 %179
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %180, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.28, i64 16, i1 false), !tbaa.struct !34
  br label %.prol.loopexit1279

.prol.loopexit1279:                               ; preds = %.prol.loopexit1279.unr-lcssa, %.preheader477.us
  %indvars.iv816.unr = phi i64 [ %148, %.preheader477.us ], [ %indvars.iv.next817.prol, %.prol.loopexit1279.unr-lcssa ]
  br i1 %153, label %._crit_edge603.us, label %.preheader477.us.new

.preheader477.us.new:                             ; preds = %.prol.loopexit1279, %.preheader477.us.new
  %indvars.iv816 = phi i64 [ %indvars.iv.next817.1, %.preheader477.us.new ], [ %indvars.iv816.unr, %.prol.loopexit1279 ]
  %181 = add nsw i64 %177, %indvars.iv816
  %182 = shl i64 %181, 4
  %183 = getelementptr inbounds i8, ptr %0, i64 %182
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %183, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.28, i64 16, i1 false), !tbaa.struct !34
  %indvars.iv.next817 = add nsw i64 %indvars.iv816, 1
  %184 = add nsw i64 %177, %indvars.iv.next817
  %185 = shl i64 %184, 4
  %186 = getelementptr inbounds i8, ptr %0, i64 %185
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %186, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.28, i64 16, i1 false), !tbaa.struct !34
  %indvars.iv.next817.1 = add nsw i64 %indvars.iv816, 2
  %exitcond819.not.1 = icmp eq i64 %indvars.iv.next817.1, %wide.trip.count
  br i1 %exitcond819.not.1, label %._crit_edge603.us, label %.preheader477.us.new, !llvm.loop !45

._crit_edge603.us:                                ; preds = %.preheader477.us.new, %.prol.loopexit1279
  %indvars.iv.next821 = add nsw i64 %indvars.iv820, 1
  %lftr.wideiv825 = trunc i64 %indvars.iv.next821 to i32
  %exitcond826.not = icmp eq i32 %indvars.iv823, %lftr.wideiv825
  br i1 %exitcond826.not, label %.loopexit479, label %.preheader477.us, !llvm.loop !46

.preheader484:                                    ; preds = %173
  br i1 %brmerge1034, label %.loopexit479, label %.preheader476.us

.preheader476.us:                                 ; preds = %.preheader484, %._crit_edge606.us
  %indvars.iv832 = phi i64 [ %indvars.iv.next833, %._crit_edge606.us ], [ %174, %.preheader484 ]
  %187 = mul nsw i64 %indvars.iv832, %144
  %.pre971 = load double, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.27, align 8, !tbaa !29
  br i1 %min.iters.check1141, label %scalar.ph1140.preheader, label %vector.ph1142

vector.ph1142:                                    ; preds = %.preheader476.us
  %broadcast.splatinsert1150 = insertelement <2 x double> poison, double %.pre971, i64 0
  %broadcast.splat1151 = shufflevector <2 x double> %broadcast.splatinsert1150, <2 x double> poison, <2 x i32> zeroinitializer
  br label %vector.body1147

vector.body1147:                                  ; preds = %vector.body1147, %vector.ph1142
  %index1148 = phi i64 [ 0, %vector.ph1142 ], [ %index.next1152, %vector.body1147 ]
  %offset.idx1149 = add i64 %index1148, %148
  %188 = add nsw i64 %187, %offset.idx1149
  %189 = shl i64 %188, 3
  %190 = getelementptr inbounds i8, ptr %0, i64 %189
  %191 = getelementptr inbounds i8, ptr %190, i64 16
  store <2 x double> %broadcast.splat1151, ptr %190, align 8, !tbaa !29
  store <2 x double> %broadcast.splat1151, ptr %191, align 8, !tbaa !29
  %index.next1152 = add nuw i64 %index1148, 4
  %192 = icmp eq i64 %index.next1152, %n.vec1144
  br i1 %192, label %middle.block1139, label %vector.body1147, !llvm.loop !47

middle.block1139:                                 ; preds = %vector.body1147
  br i1 %cmp.n1153, label %._crit_edge606.us, label %scalar.ph1140.preheader

scalar.ph1140.preheader:                          ; preds = %middle.block1139, %.preheader476.us
  %indvars.iv827.ph = phi i64 [ %148, %.preheader476.us ], [ %ind.end1145, %middle.block1139 ]
  br label %scalar.ph1140

scalar.ph1140:                                    ; preds = %scalar.ph1140.preheader, %scalar.ph1140
  %indvars.iv827 = phi i64 [ %indvars.iv.next828, %scalar.ph1140 ], [ %indvars.iv827.ph, %scalar.ph1140.preheader ]
  %193 = add nsw i64 %187, %indvars.iv827
  %194 = shl i64 %193, 3
  %195 = getelementptr inbounds i8, ptr %0, i64 %194
  store double %.pre971, ptr %195, align 8, !tbaa !29
  %indvars.iv.next828 = add nsw i64 %indvars.iv827, 1
  %exitcond831.not = icmp eq i64 %indvars.iv.next828, %wide.trip.count830
  br i1 %exitcond831.not, label %._crit_edge606.us, label %scalar.ph1140, !llvm.loop !48

._crit_edge606.us:                                ; preds = %scalar.ph1140, %middle.block1139
  %indvars.iv.next833 = add nsw i64 %indvars.iv832, 1
  %lftr.wideiv835 = trunc i64 %indvars.iv.next833 to i32
  %exitcond836.not = icmp eq i32 %indvars.iv823, %lftr.wideiv835
  br i1 %exitcond836.not, label %.loopexit479, label %.preheader476.us, !llvm.loop !49

.preheader482:                                    ; preds = %173
  br i1 %brmerge1034, label %.loopexit479, label %.preheader475.us

.preheader475.us:                                 ; preds = %.preheader482, %._crit_edge609.us
  %indvars.iv842 = phi i64 [ %indvars.iv.next843, %._crit_edge609.us ], [ %174, %.preheader482 ]
  %196 = mul nsw i64 %indvars.iv842, %144
  %.pre972 = load float, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.26, align 4, !tbaa !24
  br i1 %min.iters.check1126, label %scalar.ph1125.preheader, label %vector.ph1127

vector.ph1127:                                    ; preds = %.preheader475.us
  %broadcast.splatinsert1135 = insertelement <4 x float> poison, float %.pre972, i64 0
  %broadcast.splat1136 = shufflevector <4 x float> %broadcast.splatinsert1135, <4 x float> poison, <4 x i32> zeroinitializer
  br label %vector.body1132

vector.body1132:                                  ; preds = %vector.body1132, %vector.ph1127
  %index1133 = phi i64 [ 0, %vector.ph1127 ], [ %index.next1137, %vector.body1132 ]
  %offset.idx1134 = add i64 %index1133, %148
  %197 = add nsw i64 %196, %offset.idx1134
  %198 = shl i64 %197, 2
  %199 = getelementptr inbounds i8, ptr %0, i64 %198
  %200 = getelementptr inbounds i8, ptr %199, i64 16
  store <4 x float> %broadcast.splat1136, ptr %199, align 4, !tbaa !24
  store <4 x float> %broadcast.splat1136, ptr %200, align 4, !tbaa !24
  %index.next1137 = add nuw i64 %index1133, 8
  %201 = icmp eq i64 %index.next1137, %n.vec1129
  br i1 %201, label %middle.block1124, label %vector.body1132, !llvm.loop !50

middle.block1124:                                 ; preds = %vector.body1132
  br i1 %cmp.n1138, label %._crit_edge609.us, label %scalar.ph1125.preheader

scalar.ph1125.preheader:                          ; preds = %middle.block1124, %.preheader475.us
  %indvars.iv837.ph = phi i64 [ %148, %.preheader475.us ], [ %ind.end1130, %middle.block1124 ]
  br label %scalar.ph1125

scalar.ph1125:                                    ; preds = %scalar.ph1125.preheader, %scalar.ph1125
  %indvars.iv837 = phi i64 [ %indvars.iv.next838, %scalar.ph1125 ], [ %indvars.iv837.ph, %scalar.ph1125.preheader ]
  %202 = add nsw i64 %196, %indvars.iv837
  %203 = shl i64 %202, 2
  %204 = getelementptr inbounds i8, ptr %0, i64 %203
  store float %.pre972, ptr %204, align 4, !tbaa !24
  %indvars.iv.next838 = add nsw i64 %indvars.iv837, 1
  %exitcond841.not = icmp eq i64 %indvars.iv.next838, %wide.trip.count840
  br i1 %exitcond841.not, label %._crit_edge609.us, label %scalar.ph1125, !llvm.loop !51

._crit_edge609.us:                                ; preds = %scalar.ph1125, %middle.block1124
  %indvars.iv.next843 = add nsw i64 %indvars.iv842, 1
  %lftr.wideiv845 = trunc i64 %indvars.iv.next843 to i32
  %exitcond846.not = icmp eq i32 %indvars.iv823, %lftr.wideiv845
  br i1 %exitcond846.not, label %.loopexit479, label %.preheader475.us, !llvm.loop !52

.preheader480:                                    ; preds = %173
  br i1 %brmerge1034, label %.loopexit479, label %.preheader474.us

.preheader474.us:                                 ; preds = %.preheader480, %._crit_edge612.us
  %indvars.iv852 = phi i64 [ %indvars.iv.next853, %._crit_edge612.us ], [ %174, %.preheader480 ]
  %205 = mul nsw i64 %indvars.iv852, %144
  %.pre973 = load i16, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.25, align 2, !tbaa !17
  br i1 %min.iters.check1111, label %scalar.ph1110.preheader, label %vector.ph1112

vector.ph1112:                                    ; preds = %.preheader474.us
  %broadcast.splatinsert1120 = insertelement <8 x i16> poison, i16 %.pre973, i64 0
  %broadcast.splat1121 = shufflevector <8 x i16> %broadcast.splatinsert1120, <8 x i16> poison, <8 x i32> zeroinitializer
  br label %vector.body1117

vector.body1117:                                  ; preds = %vector.body1117, %vector.ph1112
  %index1118 = phi i64 [ 0, %vector.ph1112 ], [ %index.next1122, %vector.body1117 ]
  %offset.idx1119 = add i64 %index1118, %148
  %206 = add nsw i64 %205, %offset.idx1119
  %207 = shl i64 %206, 1
  %208 = getelementptr inbounds i8, ptr %0, i64 %207
  %209 = getelementptr inbounds i8, ptr %208, i64 16
  store <8 x i16> %broadcast.splat1121, ptr %208, align 2, !tbaa !17
  store <8 x i16> %broadcast.splat1121, ptr %209, align 2, !tbaa !17
  %index.next1122 = add nuw i64 %index1118, 16
  %210 = icmp eq i64 %index.next1122, %n.vec1114
  br i1 %210, label %middle.block1109, label %vector.body1117, !llvm.loop !53

middle.block1109:                                 ; preds = %vector.body1117
  br i1 %cmp.n1123, label %._crit_edge612.us, label %scalar.ph1110.preheader

scalar.ph1110.preheader:                          ; preds = %middle.block1109, %.preheader474.us
  %indvars.iv847.ph = phi i64 [ %148, %.preheader474.us ], [ %ind.end1115, %middle.block1109 ]
  br label %scalar.ph1110

scalar.ph1110:                                    ; preds = %scalar.ph1110.preheader, %scalar.ph1110
  %indvars.iv847 = phi i64 [ %indvars.iv.next848, %scalar.ph1110 ], [ %indvars.iv847.ph, %scalar.ph1110.preheader ]
  %211 = add nsw i64 %205, %indvars.iv847
  %212 = shl i64 %211, 1
  %213 = getelementptr inbounds i8, ptr %0, i64 %212
  store i16 %.pre973, ptr %213, align 2, !tbaa !17
  %indvars.iv.next848 = add nsw i64 %indvars.iv847, 1
  %exitcond851.not = icmp eq i64 %indvars.iv.next848, %wide.trip.count850
  br i1 %exitcond851.not, label %._crit_edge612.us, label %scalar.ph1110, !llvm.loop !54

._crit_edge612.us:                                ; preds = %scalar.ph1110, %middle.block1109
  %indvars.iv.next853 = add nsw i64 %indvars.iv852, 1
  %lftr.wideiv855 = trunc i64 %indvars.iv.next853 to i32
  %exitcond856.not = icmp eq i32 %indvars.iv823, %lftr.wideiv855
  br i1 %exitcond856.not, label %.loopexit479, label %.preheader474.us, !llvm.loop !55

.preheader478:                                    ; preds = %173
  br i1 %brmerge1034, label %.loopexit479, label %.preheader473.us

.preheader473.us:                                 ; preds = %.preheader478, %._crit_edge619.us
  %indvars.iv862 = phi i64 [ %indvars.iv.next863, %._crit_edge619.us ], [ %174, %.preheader478 ]
  %214 = mul nsw i64 %indvars.iv862, %144
  br i1 %147, label %.lr.ph.us.us, label %._crit_edge619.us

._crit_edge619.us:                                ; preds = %._crit_edge616.us.us, %.preheader473.us
  %indvars.iv.next863 = add nsw i64 %indvars.iv862, 1
  %lftr.wideiv865 = trunc i64 %indvars.iv.next863 to i32
  %exitcond866.not = icmp eq i32 %indvars.iv823, %lftr.wideiv865
  br i1 %exitcond866.not, label %.loopexit479, label %.preheader473.us, !llvm.loop !56

.lr.ph.us.us:                                     ; preds = %.preheader473.us, %._crit_edge616.us.us
  %indvars.iv857 = phi i64 [ %indvars.iv.next858, %._crit_edge616.us.us ], [ %148, %.preheader473.us ]
  %215 = add nsw i64 %214, %indvars.iv857
  %216 = mul i64 %215, %145
  %217 = getelementptr inbounds i8, ptr %0, i64 %216
  br label %218

218:                                              ; preds = %242, %.lr.ph.us.us
  %.0427614.us.us = phi i8 [ 0, %.lr.ph.us.us ], [ %247, %242 ]
  %219 = zext nneg i8 %.0427614.us.us to i64
  %220 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.29, i64 %219
  %221 = load i8, ptr %220, align 1, !tbaa !35
  %222 = getelementptr inbounds i8, ptr %217, i64 %219
  store i8 %221, ptr %222, align 1, !tbaa !35
  %223 = or disjoint i8 %.0427614.us.us, 1
  %224 = zext nneg i8 %223 to i32
  %225 = icmp sgt i32 %146, %224
  br i1 %225, label %226, label %._crit_edge616.us.us, !llvm.loop !57

226:                                              ; preds = %218
  %227 = zext nneg i8 %223 to i64
  %228 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.29, i64 %227
  %229 = load i8, ptr %228, align 1, !tbaa !35
  %230 = getelementptr inbounds i8, ptr %217, i64 %227
  store i8 %229, ptr %230, align 1, !tbaa !35
  %231 = or disjoint i8 %.0427614.us.us, 2
  %232 = zext nneg i8 %231 to i32
  %233 = icmp ugt i32 %146, %232
  br i1 %233, label %234, label %._crit_edge616.us.us, !llvm.loop !57

234:                                              ; preds = %226
  %235 = zext nneg i8 %231 to i64
  %236 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.29, i64 %235
  %237 = load i8, ptr %236, align 1, !tbaa !35
  %238 = getelementptr inbounds i8, ptr %217, i64 %235
  store i8 %237, ptr %238, align 1, !tbaa !35
  %239 = or disjoint i8 %.0427614.us.us, 3
  %240 = zext nneg i8 %239 to i32
  %241 = icmp ugt i32 %146, %240
  br i1 %241, label %242, label %._crit_edge616.us.us, !llvm.loop !57

242:                                              ; preds = %234
  %243 = zext nneg i8 %239 to i64
  %244 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.29, i64 %243
  %245 = load i8, ptr %244, align 1, !tbaa !35
  %246 = getelementptr inbounds i8, ptr %217, i64 %243
  store i8 %245, ptr %246, align 1, !tbaa !35
  %247 = add nuw nsw i8 %.0427614.us.us, 4
  %248 = zext nneg i8 %247 to i32
  %249 = icmp ugt i32 %146, %248
  br i1 %249, label %218, label %._crit_edge616.us.us, !llvm.loop !58

._crit_edge616.us.us:                             ; preds = %242, %234, %226, %218
  %indvars.iv.next858 = add nsw i64 %indvars.iv857, 1
  %exitcond861.not = icmp eq i64 %indvars.iv.next858, %wide.trip.count860
  br i1 %exitcond861.not, label %._crit_edge619.us, label %.lr.ph.us.us, !llvm.loop !59

.loopexit479:                                     ; preds = %._crit_edge603.us, %._crit_edge606.us, %._crit_edge609.us, %._crit_edge612.us, %._crit_edge619.us, %.preheader478, %.preheader480, %.preheader482, %.preheader484, %.preheader486
  %.not439 = icmp sgt i32 %175, %17
  %indvars.iv.next824 = add i32 %indvars.iv823, %8
  br i1 %.not439, label %.preheader472, label %173, !llvm.loop !60

250:                                              ; preds = %.lr.ph668, %.loopexit463
  %indvars.iv870 = phi i32 [ %163, %.lr.ph668 ], [ %indvars.iv.next871, %.loopexit463 ]
  %.5661 = phi i32 [ %3, %.lr.ph668 ], [ %327, %.loopexit463 ]
  %251 = sext i32 %.5661 to i64
  %252 = add i32 %.5661, %7
  %253 = icmp slt i32 %.5661, %252
  %or.cond1044 = and i1 %158, %253
  switch i32 %157, label %.preheader462 [
    i32 0, label %.preheader464
    i32 1, label %.preheader466
    i32 3, label %.preheader468
    i32 7, label %.preheader470
  ]

.preheader470:                                    ; preds = %250
  br i1 %or.cond1044, label %.preheader461.us.preheader, label %.loopexit463

.preheader461.us.preheader:                       ; preds = %.preheader470
  %indvars.iv.next868.prol = add nsw i64 %251, 1
  br label %.preheader461.us

.preheader461.us:                                 ; preds = %.preheader461.us.preheader, %._crit_edge636.us
  %indvars.iv874 = phi i64 [ %indvars.iv.next875, %._crit_edge636.us ], [ %164, %.preheader461.us.preheader ]
  %254 = mul nsw i64 %indvars.iv874, %159
  br i1 %lcmp.mod1285.not, label %.prol.loopexit1283, label %.prol.loopexit1283.unr-lcssa

.prol.loopexit1283.unr-lcssa:                     ; preds = %.preheader461.us
  %255 = add nsw i64 %254, %251
  %256 = shl i64 %255, 4
  %257 = getelementptr inbounds i8, ptr %0, i64 %256
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %257, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.33, i64 16, i1 false), !tbaa.struct !34
  br label %.prol.loopexit1283

.prol.loopexit1283:                               ; preds = %.prol.loopexit1283.unr-lcssa, %.preheader461.us
  %indvars.iv867.unr = phi i64 [ %251, %.preheader461.us ], [ %indvars.iv.next868.prol, %.prol.loopexit1283.unr-lcssa ]
  br i1 %172, label %._crit_edge636.us, label %.preheader461.us.new

.preheader461.us.new:                             ; preds = %.prol.loopexit1283, %.preheader461.us.new
  %indvars.iv867 = phi i64 [ %indvars.iv.next868.1, %.preheader461.us.new ], [ %indvars.iv867.unr, %.prol.loopexit1283 ]
  %258 = add nsw i64 %254, %indvars.iv867
  %259 = shl i64 %258, 4
  %260 = getelementptr inbounds i8, ptr %0, i64 %259
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %260, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.33, i64 16, i1 false), !tbaa.struct !34
  %indvars.iv.next868 = add nsw i64 %indvars.iv867, 1
  %261 = add nsw i64 %254, %indvars.iv.next868
  %262 = shl i64 %261, 4
  %263 = getelementptr inbounds i8, ptr %0, i64 %262
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %263, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.33, i64 16, i1 false), !tbaa.struct !34
  %indvars.iv.next868.1 = add nsw i64 %indvars.iv867, 2
  %lftr.wideiv872.1 = trunc i64 %indvars.iv.next868.1 to i32
  %exitcond873.not.1 = icmp eq i32 %indvars.iv870, %lftr.wideiv872.1
  br i1 %exitcond873.not.1, label %._crit_edge636.us, label %.preheader461.us.new, !llvm.loop !61

._crit_edge636.us:                                ; preds = %.preheader461.us.new, %.prol.loopexit1283
  %indvars.iv.next875 = add nsw i64 %indvars.iv874, 1
  %exitcond878.not = icmp eq i64 %indvars.iv.next875, %wide.trip.count877
  br i1 %exitcond878.not, label %.loopexit463, label %.preheader461.us, !llvm.loop !62

.preheader468:                                    ; preds = %250
  br i1 %or.cond1044, label %.preheader460.us.preheader, label %.loopexit463

.preheader460.us.preheader:                       ; preds = %.preheader468
  %ind.end1190 = add nsw i64 %n.vec1189, %251
  br label %.preheader460.us

.preheader460.us:                                 ; preds = %.preheader460.us.preheader, %._crit_edge640.us
  %indvars.iv884 = phi i64 [ %indvars.iv.next885, %._crit_edge640.us ], [ %164, %.preheader460.us.preheader ]
  %264 = mul nsw i64 %indvars.iv884, %159
  %.pre974 = load double, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.32, align 8, !tbaa !29
  br i1 %min.iters.check1186, label %scalar.ph1185.preheader, label %vector.ph1187

vector.ph1187:                                    ; preds = %.preheader460.us
  %broadcast.splatinsert1195 = insertelement <2 x double> poison, double %.pre974, i64 0
  %broadcast.splat1196 = shufflevector <2 x double> %broadcast.splatinsert1195, <2 x double> poison, <2 x i32> zeroinitializer
  br label %vector.body1192

vector.body1192:                                  ; preds = %vector.body1192, %vector.ph1187
  %index1193 = phi i64 [ 0, %vector.ph1187 ], [ %index.next1197, %vector.body1192 ]
  %offset.idx1194 = add i64 %index1193, %251
  %265 = add nsw i64 %264, %offset.idx1194
  %266 = shl i64 %265, 3
  %267 = getelementptr inbounds i8, ptr %0, i64 %266
  %268 = getelementptr inbounds i8, ptr %267, i64 16
  store <2 x double> %broadcast.splat1196, ptr %267, align 8, !tbaa !29
  store <2 x double> %broadcast.splat1196, ptr %268, align 8, !tbaa !29
  %index.next1197 = add nuw i64 %index1193, 4
  %269 = icmp eq i64 %index.next1197, %n.vec1189
  br i1 %269, label %middle.block1184, label %vector.body1192, !llvm.loop !63

middle.block1184:                                 ; preds = %vector.body1192
  br i1 %cmp.n1198, label %._crit_edge640.us, label %scalar.ph1185.preheader

scalar.ph1185.preheader:                          ; preds = %middle.block1184, %.preheader460.us
  %indvars.iv879.ph = phi i64 [ %251, %.preheader460.us ], [ %ind.end1190, %middle.block1184 ]
  br label %scalar.ph1185

scalar.ph1185:                                    ; preds = %scalar.ph1185.preheader, %scalar.ph1185
  %indvars.iv879 = phi i64 [ %indvars.iv.next880, %scalar.ph1185 ], [ %indvars.iv879.ph, %scalar.ph1185.preheader ]
  %270 = add nsw i64 %264, %indvars.iv879
  %271 = shl i64 %270, 3
  %272 = getelementptr inbounds i8, ptr %0, i64 %271
  store double %.pre974, ptr %272, align 8, !tbaa !29
  %indvars.iv.next880 = add nsw i64 %indvars.iv879, 1
  %lftr.wideiv882 = trunc i64 %indvars.iv.next880 to i32
  %exitcond883.not = icmp eq i32 %indvars.iv870, %lftr.wideiv882
  br i1 %exitcond883.not, label %._crit_edge640.us, label %scalar.ph1185, !llvm.loop !64

._crit_edge640.us:                                ; preds = %scalar.ph1185, %middle.block1184
  %indvars.iv.next885 = add nsw i64 %indvars.iv884, 1
  %exitcond888.not = icmp eq i64 %indvars.iv.next885, %wide.trip.count887
  br i1 %exitcond888.not, label %.loopexit463, label %.preheader460.us, !llvm.loop !65

.preheader466:                                    ; preds = %250
  br i1 %or.cond1044, label %.preheader459.us.preheader, label %.loopexit463

.preheader459.us.preheader:                       ; preds = %.preheader466
  %ind.end1175 = add nsw i64 %n.vec1174, %251
  br label %.preheader459.us

.preheader459.us:                                 ; preds = %.preheader459.us.preheader, %._crit_edge644.us
  %indvars.iv894 = phi i64 [ %indvars.iv.next895, %._crit_edge644.us ], [ %164, %.preheader459.us.preheader ]
  %273 = mul nsw i64 %indvars.iv894, %159
  %.pre975 = load float, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.31, align 4, !tbaa !24
  br i1 %min.iters.check1171, label %scalar.ph1170.preheader, label %vector.ph1172

vector.ph1172:                                    ; preds = %.preheader459.us
  %broadcast.splatinsert1180 = insertelement <4 x float> poison, float %.pre975, i64 0
  %broadcast.splat1181 = shufflevector <4 x float> %broadcast.splatinsert1180, <4 x float> poison, <4 x i32> zeroinitializer
  br label %vector.body1177

vector.body1177:                                  ; preds = %vector.body1177, %vector.ph1172
  %index1178 = phi i64 [ 0, %vector.ph1172 ], [ %index.next1182, %vector.body1177 ]
  %offset.idx1179 = add i64 %index1178, %251
  %274 = add nsw i64 %273, %offset.idx1179
  %275 = shl i64 %274, 2
  %276 = getelementptr inbounds i8, ptr %0, i64 %275
  %277 = getelementptr inbounds i8, ptr %276, i64 16
  store <4 x float> %broadcast.splat1181, ptr %276, align 4, !tbaa !24
  store <4 x float> %broadcast.splat1181, ptr %277, align 4, !tbaa !24
  %index.next1182 = add nuw i64 %index1178, 8
  %278 = icmp eq i64 %index.next1182, %n.vec1174
  br i1 %278, label %middle.block1169, label %vector.body1177, !llvm.loop !66

middle.block1169:                                 ; preds = %vector.body1177
  br i1 %cmp.n1183, label %._crit_edge644.us, label %scalar.ph1170.preheader

scalar.ph1170.preheader:                          ; preds = %middle.block1169, %.preheader459.us
  %indvars.iv889.ph = phi i64 [ %251, %.preheader459.us ], [ %ind.end1175, %middle.block1169 ]
  br label %scalar.ph1170

scalar.ph1170:                                    ; preds = %scalar.ph1170.preheader, %scalar.ph1170
  %indvars.iv889 = phi i64 [ %indvars.iv.next890, %scalar.ph1170 ], [ %indvars.iv889.ph, %scalar.ph1170.preheader ]
  %279 = add nsw i64 %273, %indvars.iv889
  %280 = shl i64 %279, 2
  %281 = getelementptr inbounds i8, ptr %0, i64 %280
  store float %.pre975, ptr %281, align 4, !tbaa !24
  %indvars.iv.next890 = add nsw i64 %indvars.iv889, 1
  %lftr.wideiv892 = trunc i64 %indvars.iv.next890 to i32
  %exitcond893.not = icmp eq i32 %indvars.iv870, %lftr.wideiv892
  br i1 %exitcond893.not, label %._crit_edge644.us, label %scalar.ph1170, !llvm.loop !67

._crit_edge644.us:                                ; preds = %scalar.ph1170, %middle.block1169
  %indvars.iv.next895 = add nsw i64 %indvars.iv894, 1
  %exitcond898.not = icmp eq i64 %indvars.iv.next895, %wide.trip.count897
  br i1 %exitcond898.not, label %.loopexit463, label %.preheader459.us, !llvm.loop !68

.preheader464:                                    ; preds = %250
  br i1 %or.cond1044, label %.preheader458.us.preheader, label %.loopexit463

.preheader458.us.preheader:                       ; preds = %.preheader464
  %ind.end1160 = add nsw i64 %n.vec1159, %251
  br label %.preheader458.us

.preheader458.us:                                 ; preds = %.preheader458.us.preheader, %._crit_edge648.us
  %indvars.iv904 = phi i64 [ %indvars.iv.next905, %._crit_edge648.us ], [ %164, %.preheader458.us.preheader ]
  %282 = mul nsw i64 %indvars.iv904, %159
  %.pre976 = load i16, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.30, align 2, !tbaa !17
  br i1 %min.iters.check1156, label %scalar.ph1155.preheader, label %vector.ph1157

vector.ph1157:                                    ; preds = %.preheader458.us
  %broadcast.splatinsert1165 = insertelement <8 x i16> poison, i16 %.pre976, i64 0
  %broadcast.splat1166 = shufflevector <8 x i16> %broadcast.splatinsert1165, <8 x i16> poison, <8 x i32> zeroinitializer
  br label %vector.body1162

vector.body1162:                                  ; preds = %vector.body1162, %vector.ph1157
  %index1163 = phi i64 [ 0, %vector.ph1157 ], [ %index.next1167, %vector.body1162 ]
  %offset.idx1164 = add i64 %index1163, %251
  %283 = add nsw i64 %282, %offset.idx1164
  %284 = shl i64 %283, 1
  %285 = getelementptr inbounds i8, ptr %0, i64 %284
  %286 = getelementptr inbounds i8, ptr %285, i64 16
  store <8 x i16> %broadcast.splat1166, ptr %285, align 2, !tbaa !17
  store <8 x i16> %broadcast.splat1166, ptr %286, align 2, !tbaa !17
  %index.next1167 = add nuw i64 %index1163, 16
  %287 = icmp eq i64 %index.next1167, %n.vec1159
  br i1 %287, label %middle.block1154, label %vector.body1162, !llvm.loop !69

middle.block1154:                                 ; preds = %vector.body1162
  br i1 %cmp.n1168, label %._crit_edge648.us, label %scalar.ph1155.preheader

scalar.ph1155.preheader:                          ; preds = %middle.block1154, %.preheader458.us
  %indvars.iv899.ph = phi i64 [ %251, %.preheader458.us ], [ %ind.end1160, %middle.block1154 ]
  br label %scalar.ph1155

scalar.ph1155:                                    ; preds = %scalar.ph1155.preheader, %scalar.ph1155
  %indvars.iv899 = phi i64 [ %indvars.iv.next900, %scalar.ph1155 ], [ %indvars.iv899.ph, %scalar.ph1155.preheader ]
  %288 = add nsw i64 %282, %indvars.iv899
  %289 = shl i64 %288, 1
  %290 = getelementptr inbounds i8, ptr %0, i64 %289
  store i16 %.pre976, ptr %290, align 2, !tbaa !17
  %indvars.iv.next900 = add nsw i64 %indvars.iv899, 1
  %lftr.wideiv902 = trunc i64 %indvars.iv.next900 to i32
  %exitcond903.not = icmp eq i32 %indvars.iv870, %lftr.wideiv902
  br i1 %exitcond903.not, label %._crit_edge648.us, label %scalar.ph1155, !llvm.loop !70

._crit_edge648.us:                                ; preds = %scalar.ph1155, %middle.block1154
  %indvars.iv.next905 = add nsw i64 %indvars.iv904, 1
  %exitcond908.not = icmp eq i64 %indvars.iv.next905, %wide.trip.count907
  br i1 %exitcond908.not, label %.loopexit463, label %.preheader458.us, !llvm.loop !71

.preheader462:                                    ; preds = %250
  br i1 %or.cond1044, label %.preheader457.us, label %.loopexit463

.preheader457.us:                                 ; preds = %.preheader462, %._crit_edge656.us
  %indvars.iv914 = phi i64 [ %indvars.iv.next915, %._crit_edge656.us ], [ %164, %.preheader462 ]
  %291 = mul nsw i64 %indvars.iv914, %159
  br i1 %162, label %.lr.ph652.us.us, label %._crit_edge656.us

._crit_edge656.us:                                ; preds = %._crit_edge653.us.us, %.preheader457.us
  %indvars.iv.next915 = add nsw i64 %indvars.iv914, 1
  %exitcond918.not = icmp eq i64 %indvars.iv.next915, %wide.trip.count917
  br i1 %exitcond918.not, label %.loopexit463, label %.preheader457.us, !llvm.loop !72

.lr.ph652.us.us:                                  ; preds = %.preheader457.us, %._crit_edge653.us.us
  %indvars.iv909 = phi i64 [ %indvars.iv.next910, %._crit_edge653.us.us ], [ %251, %.preheader457.us ]
  %292 = add nsw i64 %291, %indvars.iv909
  %293 = mul i64 %292, %160
  %294 = getelementptr inbounds i8, ptr %0, i64 %293
  br label %295

295:                                              ; preds = %319, %.lr.ph652.us.us
  %.0407650.us.us = phi i8 [ 0, %.lr.ph652.us.us ], [ %324, %319 ]
  %296 = zext nneg i8 %.0407650.us.us to i64
  %297 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.34, i64 %296
  %298 = load i8, ptr %297, align 1, !tbaa !35
  %299 = getelementptr inbounds i8, ptr %294, i64 %296
  store i8 %298, ptr %299, align 1, !tbaa !35
  %300 = or disjoint i8 %.0407650.us.us, 1
  %301 = zext nneg i8 %300 to i32
  %302 = icmp sgt i32 %161, %301
  br i1 %302, label %303, label %._crit_edge653.us.us, !llvm.loop !73

303:                                              ; preds = %295
  %304 = zext nneg i8 %300 to i64
  %305 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.34, i64 %304
  %306 = load i8, ptr %305, align 1, !tbaa !35
  %307 = getelementptr inbounds i8, ptr %294, i64 %304
  store i8 %306, ptr %307, align 1, !tbaa !35
  %308 = or disjoint i8 %.0407650.us.us, 2
  %309 = zext nneg i8 %308 to i32
  %310 = icmp ugt i32 %161, %309
  br i1 %310, label %311, label %._crit_edge653.us.us, !llvm.loop !73

311:                                              ; preds = %303
  %312 = zext nneg i8 %308 to i64
  %313 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.34, i64 %312
  %314 = load i8, ptr %313, align 1, !tbaa !35
  %315 = getelementptr inbounds i8, ptr %294, i64 %312
  store i8 %314, ptr %315, align 1, !tbaa !35
  %316 = or disjoint i8 %.0407650.us.us, 3
  %317 = zext nneg i8 %316 to i32
  %318 = icmp ugt i32 %161, %317
  br i1 %318, label %319, label %._crit_edge653.us.us, !llvm.loop !73

319:                                              ; preds = %311
  %320 = zext nneg i8 %316 to i64
  %321 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.34, i64 %320
  %322 = load i8, ptr %321, align 1, !tbaa !35
  %323 = getelementptr inbounds i8, ptr %294, i64 %320
  store i8 %322, ptr %323, align 1, !tbaa !35
  %324 = add nuw nsw i8 %.0407650.us.us, 4
  %325 = zext nneg i8 %324 to i32
  %326 = icmp ugt i32 %161, %325
  br i1 %326, label %295, label %._crit_edge653.us.us, !llvm.loop !74

._crit_edge653.us.us:                             ; preds = %319, %311, %303, %295
  %indvars.iv.next910 = add nsw i64 %indvars.iv909, 1
  %lftr.wideiv912 = trunc i64 %indvars.iv.next910 to i32
  %exitcond913.not = icmp eq i32 %indvars.iv870, %lftr.wideiv912
  br i1 %exitcond913.not, label %._crit_edge656.us, label %.lr.ph652.us.us, !llvm.loop !75

.loopexit463:                                     ; preds = %._crit_edge636.us, %._crit_edge640.us, %._crit_edge644.us, %._crit_edge648.us, %._crit_edge656.us, %.preheader470, %.preheader468, %.preheader466, %.preheader464, %.preheader462
  %327 = add i32 %.5661, %7
  %328 = icmp slt i32 %327, %154
  %indvars.iv.next871 = add i32 %indvars.iv870, %7
  br i1 %328, label %250, label %._crit_edge669, !llvm.loop !76

._crit_edge669:                                   ; preds = %.loopexit463, %.preheader472
  %.5.lcssa = phi i32 [ %3, %.preheader472 ], [ %327, %.loopexit463 ]
  %329 = icmp slt i32 %.2.lcssa, %6
  switch i32 %157, label %.preheader444 [
    i32 0, label %.preheader446
    i32 1, label %.preheader449
    i32 3, label %.preheader452
    i32 7, label %.preheader455
  ]

.preheader455:                                    ; preds = %._crit_edge669
  br i1 %329, label %.preheader454.lr.ph, label %.loopexit

.preheader454.lr.ph:                              ; preds = %.preheader455
  %330 = icmp slt i32 %.5.lcssa, %4
  %331 = zext i32 %2 to i64
  br i1 %330, label %.preheader454.us.preheader, label %.loopexit

.preheader454.us.preheader:                       ; preds = %.preheader454.lr.ph
  %332 = sext i32 %.5.lcssa to i64
  %333 = sext i32 %.2.lcssa to i64
  %wide.trip.count927 = sext i32 %6 to i64
  %wide.trip.count922 = sext i32 %4 to i64
  %334 = sub nsw i64 %wide.trip.count922, %332
  %xtraiter1288 = and i64 %334, 1
  %lcmp.mod1289.not = icmp eq i64 %xtraiter1288, 0
  %indvars.iv.next920.prol = add nsw i64 %332, 1
  %335 = add nsw i64 %wide.trip.count922, -1
  %336 = icmp eq i64 %335, %332
  br label %.preheader454.us

.preheader454.us:                                 ; preds = %.preheader454.us.preheader, %._crit_edge673.us
  %indvars.iv924 = phi i64 [ %333, %.preheader454.us.preheader ], [ %indvars.iv.next925, %._crit_edge673.us ]
  %337 = mul nsw i64 %indvars.iv924, %331
  br i1 %lcmp.mod1289.not, label %.prol.loopexit1287, label %.prol.loopexit1287.unr-lcssa

.prol.loopexit1287.unr-lcssa:                     ; preds = %.preheader454.us
  %338 = add nsw i64 %337, %332
  %339 = shl i64 %338, 4
  %340 = getelementptr inbounds i8, ptr %0, i64 %339
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %340, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.38, i64 16, i1 false), !tbaa.struct !34
  br label %.prol.loopexit1287

.prol.loopexit1287:                               ; preds = %.prol.loopexit1287.unr-lcssa, %.preheader454.us
  %indvars.iv919.unr = phi i64 [ %332, %.preheader454.us ], [ %indvars.iv.next920.prol, %.prol.loopexit1287.unr-lcssa ]
  br i1 %336, label %._crit_edge673.us, label %.preheader454.us.new

.preheader454.us.new:                             ; preds = %.prol.loopexit1287, %.preheader454.us.new
  %indvars.iv919 = phi i64 [ %indvars.iv.next920.1, %.preheader454.us.new ], [ %indvars.iv919.unr, %.prol.loopexit1287 ]
  %341 = add nsw i64 %337, %indvars.iv919
  %342 = shl i64 %341, 4
  %343 = getelementptr inbounds i8, ptr %0, i64 %342
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %343, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.38, i64 16, i1 false), !tbaa.struct !34
  %indvars.iv.next920 = add nsw i64 %indvars.iv919, 1
  %344 = add nsw i64 %337, %indvars.iv.next920
  %345 = shl i64 %344, 4
  %346 = getelementptr inbounds i8, ptr %0, i64 %345
  call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %346, ptr noundef nonnull align 8 dereferenceable(16) @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.38, i64 16, i1 false), !tbaa.struct !34
  %indvars.iv.next920.1 = add nsw i64 %indvars.iv919, 2
  %exitcond923.not.1 = icmp eq i64 %indvars.iv.next920.1, %wide.trip.count922
  br i1 %exitcond923.not.1, label %._crit_edge673.us, label %.preheader454.us.new, !llvm.loop !77

._crit_edge673.us:                                ; preds = %.preheader454.us.new, %.prol.loopexit1287
  %indvars.iv.next925 = add nsw i64 %indvars.iv924, 1
  %exitcond928.not = icmp eq i64 %indvars.iv.next925, %wide.trip.count927
  br i1 %exitcond928.not, label %.loopexit, label %.preheader454.us, !llvm.loop !78

.preheader452:                                    ; preds = %._crit_edge669
  br i1 %329, label %.preheader451.lr.ph, label %.loopexit

.preheader451.lr.ph:                              ; preds = %.preheader452
  %347 = icmp slt i32 %.5.lcssa, %4
  %348 = zext i32 %2 to i64
  br i1 %347, label %.preheader451.us.preheader, label %.loopexit

.preheader451.us.preheader:                       ; preds = %.preheader451.lr.ph
  %349 = sext i32 %.5.lcssa to i64
  %350 = sext i32 %.2.lcssa to i64
  %wide.trip.count937 = sext i32 %6 to i64
  %wide.trip.count932 = sext i32 %4 to i64
  %351 = sub nsw i64 %wide.trip.count932, %349
  %min.iters.check1201 = icmp ult i64 %351, 4
  %n.vec1204 = and i64 %351, -4
  %ind.end1205 = add nsw i64 %n.vec1204, %349
  %cmp.n1213 = icmp eq i64 %351, %n.vec1204
  br label %.preheader451.us

.preheader451.us:                                 ; preds = %.preheader451.us.preheader, %._crit_edge677.us
  %indvars.iv934 = phi i64 [ %350, %.preheader451.us.preheader ], [ %indvars.iv.next935, %._crit_edge677.us ]
  %352 = mul nsw i64 %indvars.iv934, %348
  %.pre977 = load double, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.37, align 8, !tbaa !29
  br i1 %min.iters.check1201, label %scalar.ph1200.preheader, label %vector.ph1202

vector.ph1202:                                    ; preds = %.preheader451.us
  %broadcast.splatinsert1210 = insertelement <2 x double> poison, double %.pre977, i64 0
  %broadcast.splat1211 = shufflevector <2 x double> %broadcast.splatinsert1210, <2 x double> poison, <2 x i32> zeroinitializer
  br label %vector.body1207

vector.body1207:                                  ; preds = %vector.body1207, %vector.ph1202
  %index1208 = phi i64 [ 0, %vector.ph1202 ], [ %index.next1212, %vector.body1207 ]
  %offset.idx1209 = add i64 %index1208, %349
  %353 = add nsw i64 %352, %offset.idx1209
  %354 = shl i64 %353, 3
  %355 = getelementptr inbounds i8, ptr %0, i64 %354
  %356 = getelementptr inbounds i8, ptr %355, i64 16
  store <2 x double> %broadcast.splat1211, ptr %355, align 8, !tbaa !29
  store <2 x double> %broadcast.splat1211, ptr %356, align 8, !tbaa !29
  %index.next1212 = add nuw i64 %index1208, 4
  %357 = icmp eq i64 %index.next1212, %n.vec1204
  br i1 %357, label %middle.block1199, label %vector.body1207, !llvm.loop !79

middle.block1199:                                 ; preds = %vector.body1207
  br i1 %cmp.n1213, label %._crit_edge677.us, label %scalar.ph1200.preheader

scalar.ph1200.preheader:                          ; preds = %middle.block1199, %.preheader451.us
  %indvars.iv929.ph = phi i64 [ %349, %.preheader451.us ], [ %ind.end1205, %middle.block1199 ]
  br label %scalar.ph1200

scalar.ph1200:                                    ; preds = %scalar.ph1200.preheader, %scalar.ph1200
  %indvars.iv929 = phi i64 [ %indvars.iv.next930, %scalar.ph1200 ], [ %indvars.iv929.ph, %scalar.ph1200.preheader ]
  %358 = add nsw i64 %352, %indvars.iv929
  %359 = shl i64 %358, 3
  %360 = getelementptr inbounds i8, ptr %0, i64 %359
  store double %.pre977, ptr %360, align 8, !tbaa !29
  %indvars.iv.next930 = add nsw i64 %indvars.iv929, 1
  %exitcond933.not = icmp eq i64 %indvars.iv.next930, %wide.trip.count932
  br i1 %exitcond933.not, label %._crit_edge677.us, label %scalar.ph1200, !llvm.loop !80

._crit_edge677.us:                                ; preds = %scalar.ph1200, %middle.block1199
  %indvars.iv.next935 = add nsw i64 %indvars.iv934, 1
  %exitcond938.not = icmp eq i64 %indvars.iv.next935, %wide.trip.count937
  br i1 %exitcond938.not, label %.loopexit, label %.preheader451.us, !llvm.loop !81

.preheader449:                                    ; preds = %._crit_edge669
  br i1 %329, label %.preheader448.lr.ph, label %.loopexit

.preheader448.lr.ph:                              ; preds = %.preheader449
  %361 = icmp slt i32 %.5.lcssa, %4
  %362 = zext i32 %2 to i64
  br i1 %361, label %.preheader448.us.preheader, label %.loopexit

.preheader448.us.preheader:                       ; preds = %.preheader448.lr.ph
  %363 = sext i32 %.5.lcssa to i64
  %364 = sext i32 %.2.lcssa to i64
  %wide.trip.count947 = sext i32 %6 to i64
  %wide.trip.count942 = sext i32 %4 to i64
  %365 = sub nsw i64 %wide.trip.count942, %363
  %min.iters.check1216 = icmp ult i64 %365, 8
  %n.vec1219 = and i64 %365, -8
  %ind.end1220 = add nsw i64 %n.vec1219, %363
  %cmp.n1228 = icmp eq i64 %365, %n.vec1219
  br label %.preheader448.us

.preheader448.us:                                 ; preds = %.preheader448.us.preheader, %._crit_edge681.us
  %indvars.iv944 = phi i64 [ %364, %.preheader448.us.preheader ], [ %indvars.iv.next945, %._crit_edge681.us ]
  %366 = mul nsw i64 %indvars.iv944, %362
  %.pre978 = load float, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.36, align 4, !tbaa !24
  br i1 %min.iters.check1216, label %scalar.ph1215.preheader, label %vector.ph1217

vector.ph1217:                                    ; preds = %.preheader448.us
  %broadcast.splatinsert1225 = insertelement <4 x float> poison, float %.pre978, i64 0
  %broadcast.splat1226 = shufflevector <4 x float> %broadcast.splatinsert1225, <4 x float> poison, <4 x i32> zeroinitializer
  br label %vector.body1222

vector.body1222:                                  ; preds = %vector.body1222, %vector.ph1217
  %index1223 = phi i64 [ 0, %vector.ph1217 ], [ %index.next1227, %vector.body1222 ]
  %offset.idx1224 = add i64 %index1223, %363
  %367 = add nsw i64 %366, %offset.idx1224
  %368 = shl i64 %367, 2
  %369 = getelementptr inbounds i8, ptr %0, i64 %368
  %370 = getelementptr inbounds i8, ptr %369, i64 16
  store <4 x float> %broadcast.splat1226, ptr %369, align 4, !tbaa !24
  store <4 x float> %broadcast.splat1226, ptr %370, align 4, !tbaa !24
  %index.next1227 = add nuw i64 %index1223, 8
  %371 = icmp eq i64 %index.next1227, %n.vec1219
  br i1 %371, label %middle.block1214, label %vector.body1222, !llvm.loop !82

middle.block1214:                                 ; preds = %vector.body1222
  br i1 %cmp.n1228, label %._crit_edge681.us, label %scalar.ph1215.preheader

scalar.ph1215.preheader:                          ; preds = %middle.block1214, %.preheader448.us
  %indvars.iv939.ph = phi i64 [ %363, %.preheader448.us ], [ %ind.end1220, %middle.block1214 ]
  br label %scalar.ph1215

scalar.ph1215:                                    ; preds = %scalar.ph1215.preheader, %scalar.ph1215
  %indvars.iv939 = phi i64 [ %indvars.iv.next940, %scalar.ph1215 ], [ %indvars.iv939.ph, %scalar.ph1215.preheader ]
  %372 = add nsw i64 %366, %indvars.iv939
  %373 = shl i64 %372, 2
  %374 = getelementptr inbounds i8, ptr %0, i64 %373
  store float %.pre978, ptr %374, align 4, !tbaa !24
  %indvars.iv.next940 = add nsw i64 %indvars.iv939, 1
  %exitcond943.not = icmp eq i64 %indvars.iv.next940, %wide.trip.count942
  br i1 %exitcond943.not, label %._crit_edge681.us, label %scalar.ph1215, !llvm.loop !83

._crit_edge681.us:                                ; preds = %scalar.ph1215, %middle.block1214
  %indvars.iv.next945 = add nsw i64 %indvars.iv944, 1
  %exitcond948.not = icmp eq i64 %indvars.iv.next945, %wide.trip.count947
  br i1 %exitcond948.not, label %.loopexit, label %.preheader448.us, !llvm.loop !84

.preheader446:                                    ; preds = %._crit_edge669
  br i1 %329, label %.preheader445.lr.ph, label %.loopexit

.preheader445.lr.ph:                              ; preds = %.preheader446
  %375 = icmp slt i32 %.5.lcssa, %4
  %376 = zext i32 %2 to i64
  br i1 %375, label %.preheader445.us.preheader, label %.loopexit

.preheader445.us.preheader:                       ; preds = %.preheader445.lr.ph
  %377 = sext i32 %.5.lcssa to i64
  %378 = sext i32 %.2.lcssa to i64
  %wide.trip.count957 = sext i32 %6 to i64
  %wide.trip.count952 = sext i32 %4 to i64
  %379 = sub nsw i64 %wide.trip.count952, %377
  %min.iters.check1231 = icmp ult i64 %379, 16
  %n.vec1234 = and i64 %379, -16
  %ind.end1235 = add nsw i64 %n.vec1234, %377
  %cmp.n1243 = icmp eq i64 %379, %n.vec1234
  br label %.preheader445.us

.preheader445.us:                                 ; preds = %.preheader445.us.preheader, %._crit_edge685.us
  %indvars.iv954 = phi i64 [ %378, %.preheader445.us.preheader ], [ %indvars.iv.next955, %._crit_edge685.us ]
  %380 = mul nsw i64 %indvars.iv954, %376
  %.pre979 = load i16, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.35, align 2, !tbaa !17
  br i1 %min.iters.check1231, label %scalar.ph1230.preheader, label %vector.ph1232

vector.ph1232:                                    ; preds = %.preheader445.us
  %broadcast.splatinsert1240 = insertelement <8 x i16> poison, i16 %.pre979, i64 0
  %broadcast.splat1241 = shufflevector <8 x i16> %broadcast.splatinsert1240, <8 x i16> poison, <8 x i32> zeroinitializer
  br label %vector.body1237

vector.body1237:                                  ; preds = %vector.body1237, %vector.ph1232
  %index1238 = phi i64 [ 0, %vector.ph1232 ], [ %index.next1242, %vector.body1237 ]
  %offset.idx1239 = add i64 %index1238, %377
  %381 = add nsw i64 %380, %offset.idx1239
  %382 = shl i64 %381, 1
  %383 = getelementptr inbounds i8, ptr %0, i64 %382
  %384 = getelementptr inbounds i8, ptr %383, i64 16
  store <8 x i16> %broadcast.splat1241, ptr %383, align 2, !tbaa !17
  store <8 x i16> %broadcast.splat1241, ptr %384, align 2, !tbaa !17
  %index.next1242 = add nuw i64 %index1238, 16
  %385 = icmp eq i64 %index.next1242, %n.vec1234
  br i1 %385, label %middle.block1229, label %vector.body1237, !llvm.loop !85

middle.block1229:                                 ; preds = %vector.body1237
  br i1 %cmp.n1243, label %._crit_edge685.us, label %scalar.ph1230.preheader

scalar.ph1230.preheader:                          ; preds = %middle.block1229, %.preheader445.us
  %indvars.iv949.ph = phi i64 [ %377, %.preheader445.us ], [ %ind.end1235, %middle.block1229 ]
  br label %scalar.ph1230

scalar.ph1230:                                    ; preds = %scalar.ph1230.preheader, %scalar.ph1230
  %indvars.iv949 = phi i64 [ %indvars.iv.next950, %scalar.ph1230 ], [ %indvars.iv949.ph, %scalar.ph1230.preheader ]
  %386 = add nsw i64 %380, %indvars.iv949
  %387 = shl i64 %386, 1
  %388 = getelementptr inbounds i8, ptr %0, i64 %387
  store i16 %.pre979, ptr %388, align 2, !tbaa !17
  %indvars.iv.next950 = add nsw i64 %indvars.iv949, 1
  %exitcond953.not = icmp eq i64 %indvars.iv.next950, %wide.trip.count952
  br i1 %exitcond953.not, label %._crit_edge685.us, label %scalar.ph1230, !llvm.loop !86

._crit_edge685.us:                                ; preds = %scalar.ph1230, %middle.block1229
  %indvars.iv.next955 = add nsw i64 %indvars.iv954, 1
  %exitcond958.not = icmp eq i64 %indvars.iv.next955, %wide.trip.count957
  br i1 %exitcond958.not, label %.loopexit, label %.preheader445.us, !llvm.loop !87

.preheader444:                                    ; preds = %._crit_edge669
  br i1 %329, label %.preheader.lr.ph, label %.loopexit

.preheader.lr.ph:                                 ; preds = %.preheader444
  %389 = icmp slt i32 %.5.lcssa, %4
  %390 = zext i32 %1 to i64
  %391 = zext i32 %2 to i64
  %sext440 = shl i32 %1, 24
  %392 = ashr exact i32 %sext440, 24
  %393 = icmp sgt i32 %392, 0
  br i1 %389, label %.preheader.us.preheader, label %.loopexit

.preheader.us.preheader:                          ; preds = %.preheader.lr.ph
  %394 = sext i32 %.5.lcssa to i64
  %395 = sext i32 %.2.lcssa to i64
  %wide.trip.count967 = sext i32 %6 to i64
  %wide.trip.count962 = sext i32 %4 to i64
  br label %.preheader.us

.preheader.us:                                    ; preds = %.preheader.us.preheader, %._crit_edge693.us
  %indvars.iv964 = phi i64 [ %395, %.preheader.us.preheader ], [ %indvars.iv.next965, %._crit_edge693.us ]
  %396 = mul nsw i64 %indvars.iv964, %391
  br i1 %393, label %.lr.ph689.us.us, label %._crit_edge693.us

._crit_edge693.us:                                ; preds = %._crit_edge690.us.us, %.preheader.us
  %indvars.iv.next965 = add nsw i64 %indvars.iv964, 1
  %exitcond968.not = icmp eq i64 %indvars.iv.next965, %wide.trip.count967
  br i1 %exitcond968.not, label %.loopexit, label %.preheader.us, !llvm.loop !88

.lr.ph689.us.us:                                  ; preds = %.preheader.us, %._crit_edge690.us.us
  %indvars.iv959 = phi i64 [ %indvars.iv.next960, %._crit_edge690.us.us ], [ %394, %.preheader.us ]
  %397 = add nsw i64 %396, %indvars.iv959
  %398 = mul i64 %397, %390
  %399 = getelementptr inbounds i8, ptr %0, i64 %398
  br label %400

400:                                              ; preds = %424, %.lr.ph689.us.us
  %.0687.us.us = phi i8 [ 0, %.lr.ph689.us.us ], [ %429, %424 ]
  %401 = zext nneg i8 %.0687.us.us to i64
  %402 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.39, i64 %401
  %403 = load i8, ptr %402, align 1, !tbaa !35
  %404 = getelementptr inbounds i8, ptr %399, i64 %401
  store i8 %403, ptr %404, align 1, !tbaa !35
  %405 = or disjoint i8 %.0687.us.us, 1
  %406 = zext nneg i8 %405 to i32
  %407 = icmp sgt i32 %392, %406
  br i1 %407, label %408, label %._crit_edge690.us.us, !llvm.loop !89

408:                                              ; preds = %400
  %409 = zext nneg i8 %405 to i64
  %410 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.39, i64 %409
  %411 = load i8, ptr %410, align 1, !tbaa !35
  %412 = getelementptr inbounds i8, ptr %399, i64 %409
  store i8 %411, ptr %412, align 1, !tbaa !35
  %413 = or disjoint i8 %.0687.us.us, 2
  %414 = zext nneg i8 %413 to i32
  %415 = icmp ugt i32 %392, %414
  br i1 %415, label %416, label %._crit_edge690.us.us, !llvm.loop !89

416:                                              ; preds = %408
  %417 = zext nneg i8 %413 to i64
  %418 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.39, i64 %417
  %419 = load i8, ptr %418, align 1, !tbaa !35
  %420 = getelementptr inbounds i8, ptr %399, i64 %417
  store i8 %419, ptr %420, align 1, !tbaa !35
  %421 = or disjoint i8 %.0687.us.us, 3
  %422 = zext nneg i8 %421 to i32
  %423 = icmp ugt i32 %392, %422
  br i1 %423, label %424, label %._crit_edge690.us.us, !llvm.loop !89

424:                                              ; preds = %416
  %425 = zext nneg i8 %421 to i64
  %426 = getelementptr inbounds i8, ptr @libxsmm_matzero_internal.libxsmm_mzero_kernel_src_value_.39, i64 %425
  %427 = load i8, ptr %426, align 1, !tbaa !35
  %428 = getelementptr inbounds i8, ptr %399, i64 %425
  store i8 %427, ptr %428, align 1, !tbaa !35
  %429 = add nuw nsw i8 %.0687.us.us, 4
  %430 = zext nneg i8 %429 to i32
  %431 = icmp ugt i32 %392, %430
  br i1 %431, label %400, label %._crit_edge690.us.us, !llvm.loop !90

._crit_edge690.us.us:                             ; preds = %424, %416, %408, %400
  %indvars.iv.next960 = add nsw i64 %indvars.iv959, 1
  %exitcond963.not = icmp eq i64 %indvars.iv.next960, %wide.trip.count962
  br i1 %exitcond963.not, label %._crit_edge693.us, label %.lr.ph689.us.us, !llvm.loop !91

.loopexit:                                        ; preds = %._crit_edge673.us, %._crit_edge677.us, %._crit_edge681.us, %._crit_edge685.us, %._crit_edge693.us, %.preheader.lr.ph, %.preheader445.lr.ph, %.preheader448.lr.ph, %.preheader451.lr.ph, %.preheader454.lr.ph, %.preheader455, %.preheader452, %.preheader449, %.preheader446, %.preheader444
  ret void
}

; Function Attrs: mustprogress nocallback nofree nounwind willreturn memory(argmem: readwrite)
declare void @llvm.memcpy.p0.p0.i64(ptr noalias nocapture writeonly, ptr noalias nocapture readonly, i64, i1 immarg) #3

; Function Attrs: nocallback nofree nosync nounwind speculatable willreturn memory(none)
declare i32 @llvm.fshl.i32(i32, i32, i32) #4

attributes #0 = { mustprogress nocallback nofree nosync nounwind willreturn memory(argmem: readwrite) }
attributes #1 = { noreturn nounwind "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #2 = { nounwind uwtable "min-legal-vector-width"="0" "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #3 = { mustprogress nocallback nofree nounwind willreturn memory(argmem: readwrite) }
attributes #4 = { nocallback nofree nosync nounwind speculatable willreturn memory(none) }
attributes #5 = { noreturn nounwind }
attributes #6 = { nounwind }

!llvm.module.flags = !{!0, !1, !2, !3}
!llvm.ident = !{!4}

!0 = !{i32 1, !"wchar_size", i32 4}
!1 = !{i32 8, !"PIC Level", i32 2}
!2 = !{i32 7, !"PIE Level", i32 2}
!3 = !{i32 7, !"uwtable", i32 2}
!4 = !{!"clang version 19.1.0 (git@github.com:llvm/llvm-project.git a4bf6cd7cfb1a1421ba92bca9d017b49936c55e4)"}
!5 = !{!6, !8, i64 32}
!6 = !{!"libxsmm_meltw_unary_param", !7, i64 0, !11, i64 32, !11, i64 80}
!7 = !{!"libxsmm_matrix_op_arg", !8, i64 0, !8, i64 8, !8, i64 16, !8, i64 24}
!8 = !{!"any pointer", !9, i64 0}
!9 = !{!"omnipotent char", !10, i64 0}
!10 = !{!"Simple C/C++ TBAA"}
!11 = !{!"libxsmm_matrix_arg", !8, i64 0, !8, i64 8, !8, i64 16, !8, i64 24, !8, i64 32, !8, i64 40}
!12 = !{!6, !8, i64 80}
!13 = distinct !{!13, !14}
!14 = !{!"llvm.loop.mustprogress"}
!15 = distinct !{!15, !14}
!16 = distinct !{!16, !14}
!17 = !{!18, !18, i64 0}
!18 = !{!"short", !9, i64 0}
!19 = distinct !{!19, !14, !20, !21}
!20 = !{!"llvm.loop.isvectorized", i32 1}
!21 = !{!"llvm.loop.unroll.runtime.disable"}
!22 = distinct !{!22, !14, !21, !20}
!23 = distinct !{!23, !14}
!24 = !{!25, !25, i64 0}
!25 = !{!"float", !9, i64 0}
!26 = distinct !{!26, !14, !20, !21}
!27 = distinct !{!27, !14, !21, !20}
!28 = distinct !{!28, !14}
!29 = !{!30, !30, i64 0}
!30 = !{!"double", !9, i64 0}
!31 = distinct !{!31, !14, !20, !21}
!32 = distinct !{!32, !14, !21, !20}
!33 = distinct !{!33, !14}
!34 = !{i64 0, i64 16, !35}
!35 = !{!9, !9, i64 0}
!36 = distinct !{!36, !14}
!37 = distinct !{!37, !14}
!38 = distinct !{!38, !14, !39}
!39 = !{!"llvm.loop.unroll.count", i32 4}
!40 = distinct !{!40, !14, !41}
!41 = !{!"llvm.loop.unroll.disable"}
!42 = distinct !{!42, !14}
!43 = distinct !{!43, !14}
!44 = distinct !{!44, !14}
!45 = distinct !{!45, !14}
!46 = distinct !{!46, !14}
!47 = distinct !{!47, !14, !20, !21}
!48 = distinct !{!48, !14, !21, !20}
!49 = distinct !{!49, !14}
!50 = distinct !{!50, !14, !20, !21}
!51 = distinct !{!51, !14, !21, !20}
!52 = distinct !{!52, !14}
!53 = distinct !{!53, !14, !20, !21}
!54 = distinct !{!54, !14, !21, !20}
!55 = distinct !{!55, !14}
!56 = distinct !{!56, !14}
!57 = distinct !{!57, !14, !39}
!58 = distinct !{!58, !14, !41}
!59 = distinct !{!59, !14}
!60 = distinct !{!60, !14}
!61 = distinct !{!61, !14}
!62 = distinct !{!62, !14}
!63 = distinct !{!63, !14, !20, !21}
!64 = distinct !{!64, !14, !21, !20}
!65 = distinct !{!65, !14}
!66 = distinct !{!66, !14, !20, !21}
!67 = distinct !{!67, !14, !21, !20}
!68 = distinct !{!68, !14}
!69 = distinct !{!69, !14, !20, !21}
!70 = distinct !{!70, !14, !21, !20}
!71 = distinct !{!71, !14}
!72 = distinct !{!72, !14}
!73 = distinct !{!73, !14, !39}
!74 = distinct !{!74, !14, !41}
!75 = distinct !{!75, !14}
!76 = distinct !{!76, !14}
!77 = distinct !{!77, !14}
!78 = distinct !{!78, !14}
!79 = distinct !{!79, !14, !20, !21}
!80 = distinct !{!80, !14, !21, !20}
!81 = distinct !{!81, !14}
!82 = distinct !{!82, !14, !20, !21}
!83 = distinct !{!83, !14, !21, !20}
!84 = distinct !{!84, !14}
!85 = distinct !{!85, !14, !20, !21}
!86 = distinct !{!86, !14, !21, !20}
!87 = distinct !{!87, !14}
!88 = distinct !{!88, !14}
!89 = distinct !{!89, !14, !39}
!90 = distinct !{!90, !14, !41}
!91 = distinct !{!91, !14}


; Effective O3 passes: BDCEPass,CorrelatedValuePropagationPass,EarlyCSEPass,GVNPass,GlobalOptPass,IPSCCPPass,IndVarSimplifyPass,InferFunctionAttrsPass,InstCombinePass,InstSimplifyPass,JumpThreadingPass,LCSSAPass,LICMPass,LoopFullUnrollPass,LoopInstSimplifyPass,LoopLoadEliminationPass,LoopRotatePass,LoopSimplifyCFGPass,LoopSimplifyPass,LoopUnrollPass,LoopVectorizePass,ReassociatePass,SROAPass,SimplifyCFGPass,TailCallElimPass