; LLVM IR from libxsmm/libxsmm :: src (libxsmm_xcopy)

; Unoptimized IR (clang -disable-llvm-passes):
target datalayout = "e-m:e-p270:32:32-p271:32:32-p272:64:64-i64:64-i128:128-f80:128-n8:16:32:64-S128"
target triple = "x86_64-unknown-linux-gnu"

%union.libxsmm_xcopykernel = type { ptr }
%struct.libxsmm_meltw_unary_param = type { %struct.libxsmm_matrix_op_arg, %struct.libxsmm_matrix_arg, %struct.libxsmm_matrix_arg }
%struct.libxsmm_matrix_op_arg = type { ptr, ptr, ptr, ptr }
%struct.libxsmm_matrix_arg = type { ptr, ptr, ptr, ptr, ptr, ptr }

@.str.9 = external hidden unnamed_addr constant [69 x i8], align 1
@.str.18 = external hidden unnamed_addr constant [32 x i8], align 1
@.str.19 = external hidden unnamed_addr constant [260 x i8], align 1
@.str.53 = external hidden unnamed_addr constant [60 x i8], align 1
@__PRETTY_FUNCTION__.libxsmm_itrans_scratch_jit = external hidden unnamed_addr constant [151 x i8], align 1

; Function Attrs: nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.start.p0(i64 immarg, ptr nocapture) #0

; Function Attrs: nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.end.p0(i64 immarg, ptr nocapture) #0

; Function Attrs: noreturn nounwind
declare void @__assert_fail(ptr noundef, ptr noundef, i32 noundef, ptr noundef) #1

; Function Attrs: nocallback nofree nounwind willreturn memory(argmem: readwrite)
declare void @llvm.memcpy.p0.p0.i64(ptr noalias nocapture writeonly, ptr noalias nocapture readonly, i64, i1 immarg) #2

; Function Attrs: nounwind uwtable
define dso_local void @libxsmm_itrans_scratch_jit(ptr noundef %0, ptr noundef %1, i32 noundef %2, i32 noundef %3, i32 noundef %4, i32 noundef %5, i32 noundef %6, i64 %7) #3 {
  %9 = alloca %union.libxsmm_xcopykernel, align 8
  %10 = alloca ptr, align 8
  %11 = alloca ptr, align 8
  %12 = alloca i32, align 4
  %13 = alloca i32, align 4
  %14 = alloca i32, align 4
  %15 = alloca i32, align 4
  %16 = alloca i32, align 4
  %17 = alloca i32, align 4
  %18 = alloca i32, align 4
  %19 = alloca ptr, align 8
  %20 = alloca ptr, align 8
  %21 = alloca i32, align 4
  %22 = alloca i32, align 4
  %23 = alloca ptr, align 8
  %24 = alloca ptr, align 8
  %25 = alloca i32, align 4
  %26 = alloca i32, align 4
  %27 = alloca ptr, align 8
  %28 = alloca ptr, align 8
  %29 = alloca i32, align 4
  %30 = alloca i32, align 4
  %31 = alloca ptr, align 8
  %32 = alloca ptr, align 8
  %33 = alloca i32, align 4
  %34 = alloca i32, align 4
  %35 = alloca ptr, align 8
  %36 = alloca ptr, align 8
  %37 = alloca i8, align 1
  %38 = alloca ptr, align 8
  %39 = alloca i8, align 1
  %40 = alloca %struct.libxsmm_meltw_unary_param, align 8
  %41 = getelementptr inbounds %union.libxsmm_xcopykernel, ptr %9, i32 0, i32 0
  %42 = inttoptr i64 %7 to ptr
  store ptr %42, ptr %41, align 8
  store ptr %0, ptr %10, align 8, !tbaa !5
  store ptr %1, ptr %11, align 8, !tbaa !5
  store i32 %2, ptr %12, align 4, !tbaa !9
  store i32 %3, ptr %13, align 4, !tbaa !9
  store i32 %4, ptr %14, align 4, !tbaa !9
  store i32 %5, ptr %15, align 4, !tbaa !9
  store i32 %6, ptr %16, align 4, !tbaa !9
  %43 = load ptr, ptr %10, align 8, !tbaa !5
  %44 = icmp ne ptr null, %43
  br i1 %44, label %45, label %57

45:                                               ; preds = %8
  %46 = load i32, ptr %12, align 4, !tbaa !9
  %47 = icmp ult i32 0, %46
  br i1 %47, label %48, label %57

48:                                               ; preds = %45
  %49 = load i32, ptr %13, align 4, !tbaa !9
  %50 = load i32, ptr %15, align 4, !tbaa !9
  %51 = icmp sle i32 %49, %50
  br i1 %51, label %52, label %57

52:                                               ; preds = %48
  %53 = load i32, ptr %14, align 4, !tbaa !9
  %54 = load i32, ptr %16, align 4, !tbaa !9
  %55 = icmp sle i32 %53, %54
  br i1 %55, label %56, label %57

56:                                               ; preds = %52
  br label %58

57:                                               ; preds = %52, %48, %45, %8
  call void @__assert_fail(ptr noundef @.str.53, ptr noundef @.str.9, i32 noundef 524, ptr noundef @__PRETTY_FUNCTION__.libxsmm_itrans_scratch_jit) #4
  unreachable

58:                                               ; preds = %56
  br label %59

59:                                               ; preds = %58
  %60 = load i32, ptr %12, align 4, !tbaa !9
  switch i32 %60, label %244 [
    i32 2, label %61
    i32 4, label %107
    i32 8, label %153
    i32 16, label %199
  ]

61:                                               ; preds = %59
  br label %62

62:                                               ; preds = %61
  call void @llvm.lifetime.start.p0(i64 4, ptr %17) #5
  call void @llvm.lifetime.start.p0(i64 4, ptr %18) #5
  store i32 0, ptr %17, align 4, !tbaa !9
  br label %63

63:                                               ; preds = %102, %62
  %64 = load i32, ptr %17, align 4, !tbaa !9
  %65 = load i32, ptr %14, align 4, !tbaa !9
  %66 = icmp slt i32 %64, %65
  br i1 %66, label %67, label %105

67:                                               ; preds = %63
  store i32 0, ptr %18, align 4, !tbaa !9
  br label %68

68:                                               ; preds = %98, %67
  %69 = load i32, ptr %18, align 4, !tbaa !9
  %70 = load i32, ptr %13, align 4, !tbaa !9
  %71 = icmp slt i32 %69, %70
  br i1 %71, label %72, label %101

72:                                               ; preds = %68
  call void @llvm.lifetime.start.p0(i64 8, ptr %19) #5
  %73 = load ptr, ptr %10, align 8, !tbaa !5
  %74 = load i32, ptr %17, align 4, !tbaa !9
  %75 = sext i32 %74 to i64
  %76 = load i32, ptr %15, align 4, !tbaa !9
  %77 = sext i32 %76 to i64
  %78 = mul i64 %75, %77
  %79 = load i32, ptr %18, align 4, !tbaa !9
  %80 = sext i32 %79 to i64
  %81 = add i64 %78, %80
  %82 = mul i64 2, %81
  %83 = getelementptr inbounds i8, ptr %73, i64 %82
  store ptr %83, ptr %19, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %20) #5
  %84 = load ptr, ptr %11, align 8, !tbaa !5
  %85 = load i32, ptr %17, align 4, !tbaa !9
  %86 = sext i32 %85 to i64
  %87 = load i32, ptr %13, align 4, !tbaa !9
  %88 = sext i32 %87 to i64
  %89 = mul i64 %86, %88
  %90 = load i32, ptr %18, align 4, !tbaa !9
  %91 = sext i32 %90 to i64
  %92 = add i64 %89, %91
  %93 = mul i64 2, %92
  %94 = getelementptr inbounds i8, ptr %84, i64 %93
  store ptr %94, ptr %20, align 8, !tbaa !5
  %95 = load ptr, ptr %19, align 8, !tbaa !5
  %96 = load i16, ptr %95, align 2, !tbaa !11
  %97 = load ptr, ptr %20, align 8, !tbaa !5
  store i16 %96, ptr %97, align 2, !tbaa !11
  call void @llvm.lifetime.end.p0(i64 8, ptr %20) #5
  call void @llvm.lifetime.end.p0(i64 8, ptr %19) #5
  br label %98

98:                                               ; preds = %72
  %99 = load i32, ptr %18, align 4, !tbaa !9
  %100 = add nsw i32 %99, 1
  store i32 %100, ptr %18, align 4, !tbaa !9
  br label %68, !llvm.loop !13

101:                                              ; preds = %68
  br label %102

102:                                              ; preds = %101
  %103 = load i32, ptr %17, align 4, !tbaa !9
  %104 = add nsw i32 %103, 1
  store i32 %104, ptr %17, align 4, !tbaa !9
  br label %63, !llvm.loop !15

105:                                              ; preds = %63
  call void @llvm.lifetime.end.p0(i64 4, ptr %18) #5
  call void @llvm.lifetime.end.p0(i64 4, ptr %17) #5
  br label %106

106:                                              ; preds = %105
  br label %345

107:                                              ; preds = %59
  br label %108

108:                                              ; preds = %107
  call void @llvm.lifetime.start.p0(i64 4, ptr %21) #5
  call void @llvm.lifetime.start.p0(i64 4, ptr %22) #5
  store i32 0, ptr %21, align 4, !tbaa !9
  br label %109

109:                                              ; preds = %148, %108
  %110 = load i32, ptr %21, align 4, !tbaa !9
  %111 = load i32, ptr %14, align 4, !tbaa !9
  %112 = icmp slt i32 %110, %111
  br i1 %112, label %113, label %151

113:                                              ; preds = %109
  store i32 0, ptr %22, align 4, !tbaa !9
  br label %114

114:                                              ; preds = %144, %113
  %115 = load i32, ptr %22, align 4, !tbaa !9
  %116 = load i32, ptr %13, align 4, !tbaa !9
  %117 = icmp slt i32 %115, %116
  br i1 %117, label %118, label %147

118:                                              ; preds = %114
  call void @llvm.lifetime.start.p0(i64 8, ptr %23) #5
  %119 = load ptr, ptr %10, align 8, !tbaa !5
  %120 = load i32, ptr %21, align 4, !tbaa !9
  %121 = sext i32 %120 to i64
  %122 = load i32, ptr %15, align 4, !tbaa !9
  %123 = sext i32 %122 to i64
  %124 = mul i64 %121, %123
  %125 = load i32, ptr %22, align 4, !tbaa !9
  %126 = sext i32 %125 to i64
  %127 = add i64 %124, %126
  %128 = mul i64 4, %127
  %129 = getelementptr inbounds i8, ptr %119, i64 %128
  store ptr %129, ptr %23, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %24) #5
  %130 = load ptr, ptr %11, align 8, !tbaa !5
  %131 = load i32, ptr %21, align 4, !tbaa !9
  %132 = sext i32 %131 to i64
  %133 = load i32, ptr %13, align 4, !tbaa !9
  %134 = sext i32 %133 to i64
  %135 = mul i64 %132, %134
  %136 = load i32, ptr %22, align 4, !tbaa !9
  %137 = sext i32 %136 to i64
  %138 = add i64 %135, %137
  %139 = mul i64 4, %138
  %140 = getelementptr inbounds i8, ptr %130, i64 %139
  store ptr %140, ptr %24, align 8, !tbaa !5
  %141 = load ptr, ptr %23, align 8, !tbaa !5
  %142 = load float, ptr %141, align 4, !tbaa !16
  %143 = load ptr, ptr %24, align 8, !tbaa !5
  store float %142, ptr %143, align 4, !tbaa !16
  call void @llvm.lifetime.end.p0(i64 8, ptr %24) #5
  call void @llvm.lifetime.end.p0(i64 8, ptr %23) #5
  br label %144

144:                                              ; preds = %118
  %145 = load i32, ptr %22, align 4, !tbaa !9
  %146 = add nsw i32 %145, 1
  store i32 %146, ptr %22, align 4, !tbaa !9
  br label %114, !llvm.loop !18

147:                                              ; preds = %114
  br label %148

148:                                              ; preds = %147
  %149 = load i32, ptr %21, align 4, !tbaa !9
  %150 = add nsw i32 %149, 1
  store i32 %150, ptr %21, align 4, !tbaa !9
  br label %109, !llvm.loop !19

151:                                              ; preds = %109
  call void @llvm.lifetime.end.p0(i64 4, ptr %22) #5
  call void @llvm.lifetime.end.p0(i64 4, ptr %21) #5
  br label %152

152:                                              ; preds = %151
  br label %345

153:                                              ; preds = %59
  br label %154

154:                                              ; preds = %153
  call void @llvm.lifetime.start.p0(i64 4, ptr %25) #5
  call void @llvm.lifetime.start.p0(i64 4, ptr %26) #5
  store i32 0, ptr %25, align 4, !tbaa !9
  br label %155

155:                                              ; preds = %194, %154
  %156 = load i32, ptr %25, align 4, !tbaa !9
  %157 = load i32, ptr %14, align 4, !tbaa !9
  %158 = icmp slt i32 %156, %157
  br i1 %158, label %159, label %197

159:                                              ; preds = %155
  store i32 0, ptr %26, align 4, !tbaa !9
  br label %160

160:                                              ; preds = %190, %159
  %161 = load i32, ptr %26, align 4, !tbaa !9
  %162 = load i32, ptr %13, align 4, !tbaa !9
  %163 = icmp slt i32 %161, %162
  br i1 %163, label %164, label %193

164:                                              ; preds = %160
  call void @llvm.lifetime.start.p0(i64 8, ptr %27) #5
  %165 = load ptr, ptr %10, align 8, !tbaa !5
  %166 = load i32, ptr %25, align 4, !tbaa !9
  %167 = sext i32 %166 to i64
  %168 = load i32, ptr %15, align 4, !tbaa !9
  %169 = sext i32 %168 to i64
  %170 = mul i64 %167, %169
  %171 = load i32, ptr %26, align 4, !tbaa !9
  %172 = sext i32 %171 to i64
  %173 = add i64 %170, %172
  %174 = mul i64 8, %173
  %175 = getelementptr inbounds i8, ptr %165, i64 %174
  store ptr %175, ptr %27, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %28) #5
  %176 = load ptr, ptr %11, align 8, !tbaa !5
  %177 = load i32, ptr %25, align 4, !tbaa !9
  %178 = sext i32 %177 to i64
  %179 = load i32, ptr %13, align 4, !tbaa !9
  %180 = sext i32 %179 to i64
  %181 = mul i64 %178, %180
  %182 = load i32, ptr %26, align 4, !tbaa !9
  %183 = sext i32 %182 to i64
  %184 = add i64 %181, %183
  %185 = mul i64 8, %184
  %186 = getelementptr inbounds i8, ptr %176, i64 %185
  store ptr %186, ptr %28, align 8, !tbaa !5
  %187 = load ptr, ptr %27, align 8, !tbaa !5
  %188 = load double, ptr %187, align 8, !tbaa !20
  %189 = load ptr, ptr %28, align 8, !tbaa !5
  store double %188, ptr %189, align 8, !tbaa !20
  call void @llvm.lifetime.end.p0(i64 8, ptr %28) #5
  call void @llvm.lifetime.end.p0(i64 8, ptr %27) #5
  br label %190

190:                                              ; preds = %164
  %191 = load i32, ptr %26, align 4, !tbaa !9
  %192 = add nsw i32 %191, 1
  store i32 %192, ptr %26, align 4, !tbaa !9
  br label %160, !llvm.loop !22

193:                                              ; preds = %160
  br label %194

194:                                              ; preds = %193
  %195 = load i32, ptr %25, align 4, !tbaa !9
  %196 = add nsw i32 %195, 1
  store i32 %196, ptr %25, align 4, !tbaa !9
  br label %155, !llvm.loop !23

197:                                              ; preds = %155
  call void @llvm.lifetime.end.p0(i64 4, ptr %26) #5
  call void @llvm.lifetime.end.p0(i64 4, ptr %25) #5
  br label %198

198:                                              ; preds = %197
  br label %345

199:                                              ; preds = %59
  br label %200

200:                                              ; preds = %199
  call void @llvm.lifetime.start.p0(i64 4, ptr %29) #5
  call void @llvm.lifetime.start.p0(i64 4, ptr %30) #5
  store i32 0, ptr %29, align 4, !tbaa !9
  br label %201

201:                                              ; preds = %239, %200
  %202 = load i32, ptr %29, align 4, !tbaa !9
  %203 = load i32, ptr %14, align 4, !tbaa !9
  %204 = icmp slt i32 %202, %203
  br i1 %204, label %205, label %242

205:                                              ; preds = %201
  store i32 0, ptr %30, align 4, !tbaa !9
  br label %206

206:                                              ; preds = %235, %205
  %207 = load i32, ptr %30, align 4, !tbaa !9
  %208 = load i32, ptr %13, align 4, !tbaa !9
  %209 = icmp slt i32 %207, %208
  br i1 %209, label %210, label %238

210:                                              ; preds = %206
  call void @llvm.lifetime.start.p0(i64 8, ptr %31) #5
  %211 = load ptr, ptr %10, align 8, !tbaa !5
  %212 = load i32, ptr %29, align 4, !tbaa !9
  %213 = sext i32 %212 to i64
  %214 = load i32, ptr %15, align 4, !tbaa !9
  %215 = sext i32 %214 to i64
  %216 = mul i64 %213, %215
  %217 = load i32, ptr %30, align 4, !tbaa !9
  %218 = sext i32 %217 to i64
  %219 = add i64 %216, %218
  %220 = mul i64 16, %219
  %221 = getelementptr inbounds i8, ptr %211, i64 %220
  store ptr %221, ptr %31, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %32) #5
  %222 = load ptr, ptr %11, align 8, !tbaa !5
  %223 = load i32, ptr %29, align 4, !tbaa !9
  %224 = sext i32 %223 to i64
  %225 = load i32, ptr %13, align 4, !tbaa !9
  %226 = sext i32 %225 to i64
  %227 = mul i64 %224, %226
  %228 = load i32, ptr %30, align 4, !tbaa !9
  %229 = sext i32 %228 to i64
  %230 = add i64 %227, %229
  %231 = mul i64 16, %230
  %232 = getelementptr inbounds i8, ptr %222, i64 %231
  store ptr %232, ptr %32, align 8, !tbaa !5
  %233 = load ptr, ptr %32, align 8, !tbaa !5
  %234 = load ptr, ptr %31, align 8, !tbaa !5
  call void @llvm.memcpy.p0.p0.i64(ptr align 8 %233, ptr align 8 %234, i64 16, i1 false), !tbaa.struct !24
  call void @llvm.lifetime.end.p0(i64 8, ptr %32) #5
  call void @llvm.lifetime.end.p0(i64 8, ptr %31) #5
  br label %235

235:                                              ; preds = %210
  %236 = load i32, ptr %30, align 4, !tbaa !9
  %237 = add nsw i32 %236, 1
  store i32 %237, ptr %30, align 4, !tbaa !9
  br label %206, !llvm.loop !26

238:                                              ; preds = %206
  br label %239

239:                                              ; preds = %238
  %240 = load i32, ptr %29, align 4, !tbaa !9
  %241 = add nsw i32 %240, 1
  store i32 %241, ptr %29, align 4, !tbaa !9
  br label %201, !llvm.loop !27

242:                                              ; preds = %201
  call void @llvm.lifetime.end.p0(i64 4, ptr %30) #5
  call void @llvm.lifetime.end.p0(i64 4, ptr %29) #5
  br label %243

243:                                              ; preds = %242
  br label %345

244:                                              ; preds = %59
  call void @llvm.lifetime.start.p0(i64 4, ptr %33) #5
  call void @llvm.lifetime.start.p0(i64 4, ptr %34) #5
  store i32 0, ptr %33, align 4, !tbaa !9
  br label %245

245:                                              ; preds = %341, %244
  %246 = load i32, ptr %33, align 4, !tbaa !9
  %247 = load i32, ptr %14, align 4, !tbaa !9
  %248 = icmp slt i32 %246, %247
  br i1 %248, label %249, label %344

249:                                              ; preds = %245
  store i32 0, ptr %34, align 4, !tbaa !9
  br label %250

250:                                              ; preds = %337, %249
  %251 = load i32, ptr %34, align 4, !tbaa !9
  %252 = load i32, ptr %13, align 4, !tbaa !9
  %253 = icmp slt i32 %251, %252
  br i1 %253, label %254, label %340

254:                                              ; preds = %250
  call void @llvm.lifetime.start.p0(i64 8, ptr %35) #5
  %255 = load ptr, ptr %10, align 8, !tbaa !5
  %256 = load i32, ptr %12, align 4, !tbaa !9
  %257 = zext i32 %256 to i64
  %258 = load i32, ptr %33, align 4, !tbaa !9
  %259 = sext i32 %258 to i64
  %260 = load i32, ptr %15, align 4, !tbaa !9
  %261 = sext i32 %260 to i64
  %262 = mul i64 %259, %261
  %263 = load i32, ptr %34, align 4, !tbaa !9
  %264 = sext i32 %263 to i64
  %265 = add i64 %262, %264
  %266 = mul i64 %257, %265
  %267 = getelementptr inbounds i8, ptr %255, i64 %266
  store ptr %267, ptr %35, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 8, ptr %36) #5
  %268 = load ptr, ptr %11, align 8, !tbaa !5
  %269 = load i32, ptr %12, align 4, !tbaa !9
  %270 = zext i32 %269 to i64
  %271 = load i32, ptr %33, align 4, !tbaa !9
  %272 = sext i32 %271 to i64
  %273 = load i32, ptr %13, align 4, !tbaa !9
  %274 = sext i32 %273 to i64
  %275 = mul i64 %272, %274
  %276 = load i32, ptr %34, align 4, !tbaa !9
  %277 = sext i32 %276 to i64
  %278 = add i64 %275, %277
  %279 = mul i64 %270, %278
  %280 = getelementptr inbounds i8, ptr %268, i64 %279
  store ptr %280, ptr %36, align 8, !tbaa !5
  br label %281

281:                                              ; preds = %254
  call void @llvm.lifetime.start.p0(i64 1, ptr %37) #5
  %282 = load i32, ptr %12, align 4, !tbaa !9
  %283 = trunc i32 %282 to i8
  %284 = sext i8 %283 to i32
  %285 = icmp eq i32 -128, %284
  br i1 %285, label %291, label %286

286:                                              ; preds = %281
  %287 = load i32, ptr %12, align 4, !tbaa !9
  %288 = trunc i32 %287 to i8
  %289 = sext i8 %288 to i32
  %290 = icmp slt i32 -128, %289
  br i1 %290, label %291, label %310

291:                                              ; preds = %286, %281
  %292 = load i32, ptr %12, align 4, !tbaa !9
  %293 = zext i32 %292 to i64
  %294 = mul i64 1, %293
  %295 = icmp ult i64 %294, 127
  br i1 %295, label %296, label %300

296:                                              ; preds = %291
  %297 = load i32, ptr %12, align 4, !tbaa !9
  %298 = zext i32 %297 to i64
  %299 = mul i64 1, %298
  br label %301

300:                                              ; preds = %291
  br label %301

301:                                              ; preds = %300, %296
  %302 = phi i64 [ %299, %296 ], [ 127, %300 ]
  %303 = icmp ule i64 %302, 127
  br i1 %303, label %304, label %310

304:                                              ; preds = %301
  %305 = load i32, ptr %12, align 4, !tbaa !9
  %306 = uitofp i32 %305 to double
  %307 = fcmp ole double 0.000000e+00, %306
  br i1 %307, label %309, label %308

308:                                              ; preds = %304
  br i1 true, label %309, label %310

309:                                              ; preds = %308, %304
  br label %311

310:                                              ; preds = %308, %301, %286
  call void @__assert_fail(ptr noundef @.str.19, ptr noundef @.str.9, i32 noundef 525, ptr noundef @__PRETTY_FUNCTION__.libxsmm_itrans_scratch_jit) #4
  unreachable

311:                                              ; preds = %309
  %312 = load i32, ptr %12, align 4, !tbaa !9
  %313 = trunc i32 %312 to i8
  store i8 %313, ptr %37, align 1, !tbaa !25
  call void @llvm.lifetime.start.p0(i64 8, ptr %38) #5
  %314 = load ptr, ptr %36, align 8, !tbaa !5
  store ptr %314, ptr %38, align 8, !tbaa !5
  call void @llvm.lifetime.start.p0(i64 1, ptr %39) #5
  store i8 0, ptr %39, align 1, !tbaa !25
  br label %315

315:                                              ; preds = %331, %311
  %316 = load i8, ptr %39, align 1, !tbaa !25
  %317 = sext i8 %316 to i32
  %318 = load i8, ptr %37, align 1, !tbaa !25
  %319 = sext i8 %318 to i32
  %320 = icmp slt i32 %317, %319
  br i1 %320, label %321, label %334

321:                                              ; preds = %315
  %322 = load ptr, ptr %35, align 8, !tbaa !5
  %323 = load i8, ptr %39, align 1, !tbaa !25
  %324 = sext i8 %323 to i64
  %325 = getelementptr inbounds i8, ptr %322, i64 %324
  %326 = load i8, ptr %325, align 1, !tbaa !25
  %327 = load ptr, ptr %38, align 8, !tbaa !5
  %328 = load i8, ptr %39, align 1, !tbaa !25
  %329 = sext i8 %328 to i64
  %330 = getelementptr inbounds i8, ptr %327, i64 %329
  store i8 %326, ptr %330, align 1, !tbaa !25
  br label %331

331:                                              ; preds = %321
  %332 = load i8, ptr %39, align 1, !tbaa !25
  %333 = add i8 %332, 1
  store i8 %333, ptr %39, align 1, !tbaa !25
  br label %315, !llvm.loop !28

334:                                              ; preds = %315
  call void @llvm.lifetime.end.p0(i64 1, ptr %39) #5
  call void @llvm.lifetime.end.p0(i64 8, ptr %38) #5
  call void @llvm.lifetime.end.p0(i64 1, ptr %37) #5
  br label %335

335:                                              ; preds = %334
  br label %336

336:                                              ; preds = %335
  call void @llvm.lifetime.end.p0(i64 8, ptr %36) #5
  call void @llvm.lifetime.end.p0(i64 8, ptr %35) #5
  br label %337

337:                                              ; preds = %336
  %338 = load i32, ptr %34, align 4, !tbaa !9
  %339 = add nsw i32 %338, 1
  store i32 %339, ptr %34, align 4, !tbaa !9
  br label %250, !llvm.loop !30

340:                                              ; preds = %250
  br label %341

341:                                              ; preds = %340
  %342 = load i32, ptr %33, align 4, !tbaa !9
  %343 = add nsw i32 %342, 1
  store i32 %343, ptr %33, align 4, !tbaa !9
  br label %245, !llvm.loop !31

344:                                              ; preds = %245
  call void @llvm.lifetime.end.p0(i64 4, ptr %34) #5
  call void @llvm.lifetime.end.p0(i64 4, ptr %33) #5
  br label %345

345:                                              ; preds = %344, %243, %198, %152, %106
  br label %346

346:                                              ; preds = %345
  br label %347

347:                                              ; preds = %346
  call void @llvm.lifetime.start.p0(i64 128, ptr %40) #5
  %348 = load ptr, ptr %11, align 8, !tbaa !5
  %349 = getelementptr inbounds %struct.libxsmm_meltw_unary_param, ptr %40, i32 0, i32 1
  %350 = getelementptr inbounds %struct.libxsmm_matrix_arg, ptr %349, i32 0, i32 0
  store ptr %348, ptr %350, align 8, !tbaa !32
  %351 = load ptr, ptr %10, align 8, !tbaa !5
  %352 = getelementptr inbounds %struct.libxsmm_meltw_unary_param, ptr %40, i32 0, i32 2
  %353 = getelementptr inbounds %struct.libxsmm_matrix_arg, ptr %352, i32 0, i32 0
  store ptr %351, ptr %353, align 8, !tbaa !36
  %354 = load ptr, ptr %9, align 8, !tbaa !25
  %355 = icmp ne ptr null, %354
  br i1 %355, label %356, label %357

356:                                              ; preds = %347
  br label %358

357:                                              ; preds = %347
  call void @__assert_fail(ptr noundef @.str.18, ptr noundef @.str.9, i32 noundef 526, ptr noundef @__PRETTY_FUNCTION__.libxsmm_itrans_scratch_jit) #4
  unreachable

358:                                              ; preds = %356
  %359 = load ptr, ptr %9, align 8, !tbaa !25
  call void %359(ptr noundef %40)
  %360 = load i32, ptr %16, align 4, !tbaa !9
  call void @llvm.lifetime.end.p0(i64 128, ptr %40) #5
  br label %361

361:                                              ; preds = %358
  ret void
}

attributes #0 = { nocallback nofree nosync nounwind willreturn memory(argmem: readwrite) }
attributes #1 = { noreturn nounwind "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #2 = { nocallback nofree nounwind willreturn memory(argmem: readwrite) }
attributes #3 = { nounwind uwtable "min-legal-vector-width"="0" "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #4 = { noreturn nounwind }
attributes #5 = { nounwind }

!llvm.module.flags = !{!0, !1, !2, !3}
!llvm.ident = !{!4}

!0 = !{i32 1, !"wchar_size", i32 4}
!1 = !{i32 8, !"PIC Level", i32 2}
!2 = !{i32 7, !"PIE Level", i32 2}
!3 = !{i32 7, !"uwtable", i32 2}
!4 = !{!"clang version 19.1.0 (git@github.com:llvm/llvm-project.git a4bf6cd7cfb1a1421ba92bca9d017b49936c55e4)"}
!5 = !{!6, !6, i64 0}
!6 = !{!"any pointer", !7, i64 0}
!7 = !{!"omnipotent char", !8, i64 0}
!8 = !{!"Simple C/C++ TBAA"}
!9 = !{!10, !10, i64 0}
!10 = !{!"int", !7, i64 0}
!11 = !{!12, !12, i64 0}
!12 = !{!"short", !7, i64 0}
!13 = distinct !{!13, !14}
!14 = !{!"llvm.loop.mustprogress"}
!15 = distinct !{!15, !14}
!16 = !{!17, !17, i64 0}
!17 = !{!"float", !7, i64 0}
!18 = distinct !{!18, !14}
!19 = distinct !{!19, !14}
!20 = !{!21, !21, i64 0}
!21 = !{!"double", !7, i64 0}
!22 = distinct !{!22, !14}
!23 = distinct !{!23, !14}
!24 = !{i64 0, i64 16, !25}
!25 = !{!7, !7, i64 0}
!26 = distinct !{!26, !14}
!27 = distinct !{!27, !14}
!28 = distinct !{!28, !14, !29}
!29 = !{!"llvm.loop.unroll.count", i32 4}
!30 = distinct !{!30, !14}
!31 = distinct !{!31, !14}
!32 = !{!33, !6, i64 32}
!33 = !{!"libxsmm_meltw_unary_param", !34, i64 0, !35, i64 32, !35, i64 80}
!34 = !{!"libxsmm_matrix_op_arg", !6, i64 0, !6, i64 8, !6, i64 16, !6, i64 24}
!35 = !{!"libxsmm_matrix_arg", !6, i64 0, !6, i64 8, !6, i64 16, !6, i64 24, !6, i64 32, !6, i64 40}
!36 = !{!33, !6, i64 80}


; Optimized IR (opt -passes='default<O3>'):
target datalayout = "e-m:e-p270:32:32-p271:32:32-p272:64:64-i64:64-i128:128-f80:128-n8:16:32:64-S128"
target triple = "x86_64-unknown-linux-gnu"

%struct.libxsmm_meltw_unary_param = type { %struct.libxsmm_matrix_op_arg, %struct.libxsmm_matrix_arg, %struct.libxsmm_matrix_arg }
%struct.libxsmm_matrix_op_arg = type { ptr, ptr, ptr, ptr }
%struct.libxsmm_matrix_arg = type { ptr, ptr, ptr, ptr, ptr, ptr }

@.str.9 = external hidden unnamed_addr constant [69 x i8], align 1
@.str.18 = external hidden unnamed_addr constant [32 x i8], align 1
@.str.53 = external hidden unnamed_addr constant [60 x i8], align 1
@__PRETTY_FUNCTION__.libxsmm_itrans_scratch_jit = external hidden unnamed_addr constant [151 x i8], align 1

; Function Attrs: mustprogress nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.start.p0(i64 immarg, ptr nocapture) #0

; Function Attrs: mustprogress nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.end.p0(i64 immarg, ptr nocapture) #0

; Function Attrs: noreturn nounwind
declare void @__assert_fail(ptr noundef, ptr noundef, i32 noundef, ptr noundef) local_unnamed_addr #1

; Function Attrs: mustprogress nocallback nofree nounwind willreturn memory(argmem: readwrite)
declare void @llvm.memcpy.p0.p0.i64(ptr noalias nocapture writeonly, ptr noalias nocapture readonly, i64, i1 immarg) #2

; Function Attrs: nounwind uwtable
define dso_local void @libxsmm_itrans_scratch_jit(ptr noundef %0, ptr noundef %1, i32 noundef %2, i32 noundef %3, i32 noundef %4, i32 noundef %5, i32 noundef %6, i64 %7) local_unnamed_addr #3 {
  %9 = alloca %struct.libxsmm_meltw_unary_param, align 8
  %10 = icmp eq ptr %0, null
  %11 = icmp eq i32 %2, 0
  %or.cond.not128 = or i1 %10, %11
  %.not = icmp sgt i32 %3, %5
  %or.cond124 = or i1 %or.cond.not128, %.not
  %.not122 = icmp sgt i32 %4, %6
  %or.cond125 = or i1 %or.cond124, %.not122
  br i1 %or.cond125, label %12, label %13

12:                                               ; preds = %8
  tail call void @__assert_fail(ptr noundef nonnull @.str.53, ptr noundef nonnull @.str.9, i32 noundef 524, ptr noundef nonnull @__PRETTY_FUNCTION__.libxsmm_itrans_scratch_jit) #5
  unreachable

13:                                               ; preds = %8
  %14 = add i32 %2, -2
  %15 = tail call i32 @llvm.fshl.i32(i32 %14, i32 %14, i32 31)
  %16 = icmp sgt i32 %4, 0
  switch i32 %15, label %.preheader129 [
    i32 0, label %.preheader131
    i32 1, label %.preheader134
    i32 3, label %.preheader137
    i32 7, label %.preheader140
  ]

.preheader140:                                    ; preds = %13
  br i1 %16, label %.preheader139.lr.ph, label %.loopexit

.preheader139.lr.ph:                              ; preds = %.preheader140
  %17 = icmp sgt i32 %3, 0
  %18 = sext i32 %5 to i64
  %19 = zext i32 %3 to i64
  br i1 %17, label %.preheader139.us.preheader, label %.loopexit

.preheader139.us.preheader:                       ; preds = %.preheader139.lr.ph
  %wide.trip.count177 = zext nneg i32 %4 to i64
  %xtraiter = and i64 %19, 1
  %20 = icmp eq i32 %3, 1
  %unroll_iter = and i64 %19, 2147483646
  %lcmp.mod.not = icmp eq i64 %xtraiter, 0
  br label %.preheader139.us

.preheader139.us:                                 ; preds = %.preheader139.us.preheader, %._crit_edge.us
  %indvars.iv174 = phi i64 [ 0, %.preheader139.us.preheader ], [ %indvars.iv.next175, %._crit_edge.us ]
  %21 = mul nsw i64 %indvars.iv174, %18
  %22 = mul nuw nsw i64 %indvars.iv174, %19
  br i1 %20, label %._crit_edge.us.unr-lcssa, label %.preheader139.us.new

.preheader139.us.new:                             ; preds = %.preheader139.us, %.preheader139.us.new
  %indvars.iv = phi i64 [ %indvars.iv.next.1, %.preheader139.us.new ], [ 0, %.preheader139.us ]
  %niter = phi i64 [ %niter.next.1, %.preheader139.us.new ], [ 0, %.preheader139.us ]
  %23 = add nsw i64 %21, %indvars.iv
  %24 = shl i64 %23, 4
  %25 = getelementptr inbounds i8, ptr %0, i64 %24
  %26 = add nuw nsw i64 %22, %indvars.iv
  %27 = shl i64 %26, 4
  %28 = getelementptr inbounds i8, ptr %1, i64 %27
  tail call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %28, ptr noundef nonnull align 8 dereferenceable(16) %25, i64 16, i1 false), !tbaa.struct !5
  %indvars.iv.next = or disjoint i64 %indvars.iv, 1
  %29 = add nsw i64 %21, %indvars.iv.next
  %30 = shl i64 %29, 4
  %31 = getelementptr inbounds i8, ptr %0, i64 %30
  %32 = add nuw nsw i64 %22, %indvars.iv.next
  %33 = shl i64 %32, 4
  %34 = getelementptr inbounds i8, ptr %1, i64 %33
  tail call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %34, ptr noundef nonnull align 8 dereferenceable(16) %31, i64 16, i1 false), !tbaa.struct !5
  %indvars.iv.next.1 = add nuw nsw i64 %indvars.iv, 2
  %niter.next.1 = add i64 %niter, 2
  %niter.ncmp.1 = icmp eq i64 %niter.next.1, %unroll_iter
  br i1 %niter.ncmp.1, label %._crit_edge.us.unr-lcssa, label %.preheader139.us.new, !llvm.loop !9

._crit_edge.us.unr-lcssa:                         ; preds = %.preheader139.us.new, %.preheader139.us
  %indvars.iv.unr = phi i64 [ 0, %.preheader139.us ], [ %indvars.iv.next.1, %.preheader139.us.new ]
  br i1 %lcmp.mod.not, label %._crit_edge.us, label %._crit_edge.us.epilog-lcssa

._crit_edge.us.epilog-lcssa:                      ; preds = %._crit_edge.us.unr-lcssa
  %35 = add nsw i64 %21, %indvars.iv.unr
  %36 = shl i64 %35, 4
  %37 = getelementptr inbounds i8, ptr %0, i64 %36
  %38 = add nuw nsw i64 %22, %indvars.iv.unr
  %39 = shl i64 %38, 4
  %40 = getelementptr inbounds i8, ptr %1, i64 %39
  tail call void @llvm.memcpy.p0.p0.i64(ptr noundef nonnull align 8 dereferenceable(16) %40, ptr noundef nonnull align 8 dereferenceable(16) %37, i64 16, i1 false), !tbaa.struct !5
  br label %._crit_edge.us

._crit_edge.us:                                   ; preds = %._crit_edge.us.unr-lcssa, %._crit_edge.us.epilog-lcssa
  %indvars.iv.next175 = add nuw nsw i64 %indvars.iv174, 1
  %exitcond178.not = icmp eq i64 %indvars.iv.next175, %wide.trip.count177
  br i1 %exitcond178.not, label %.loopexit, label %.preheader139.us, !llvm.loop !11

.preheader137:                                    ; preds = %13
  br i1 %16, label %.preheader136.lr.ph, label %.loopexit

.preheader136.lr.ph:                              ; preds = %.preheader137
  %41 = icmp sgt i32 %3, 0
  %42 = sext i32 %5 to i64
  %43 = zext i32 %3 to i64
  br i1 %41, label %.preheader136.us.preheader, label %.loopexit

.preheader136.us.preheader:                       ; preds = %.preheader136.lr.ph
  %wide.trip.count188 = zext nneg i32 %4 to i64
  %44 = mul nuw nsw i64 %wide.trip.count188, %43
  %45 = shl i64 %44, 3
  %scevgep = getelementptr i8, ptr %1, i64 %45
  %46 = add nuw nsw i64 %wide.trip.count188, 2305843009213693951
  %47 = mul i64 %46, %42
  %48 = add i64 %47, %43
  %49 = shl i64 %48, 3
  %scevgep230 = getelementptr i8, ptr %0, i64 %49
  %min.iters.check = icmp ult i32 %3, 4
  %bound0 = icmp ugt ptr %scevgep230, %1
  %bound1 = icmp ugt ptr %scevgep, %0
  %found.conflict = and i1 %bound0, %bound1
  %n.vec = and i64 %43, 2147483644
  %cmp.n = icmp eq i64 %n.vec, %43
  %xtraiter274 = and i64 %43, 1
  %lcmp.mod275.not = icmp eq i64 %xtraiter274, 0
  %50 = add nsw i64 %43, -1
  br label %.preheader136.us

.preheader136.us:                                 ; preds = %.preheader136.us.preheader, %._crit_edge.us146
  %indvars.iv185 = phi i64 [ 0, %.preheader136.us.preheader ], [ %indvars.iv.next186, %._crit_edge.us146 ]
  %51 = mul nsw i64 %indvars.iv185, %42
  %52 = mul nuw nsw i64 %indvars.iv185, %43
  %brmerge = select i1 %min.iters.check, i1 true, i1 %found.conflict
  br i1 %brmerge, label %scalar.ph.preheader, label %vector.body

vector.body:                                      ; preds = %.preheader136.us, %vector.body
  %index = phi i64 [ %index.next, %vector.body ], [ 0, %.preheader136.us ]
  %53 = add nsw i64 %51, %index
  %54 = shl i64 %53, 3
  %55 = getelementptr inbounds i8, ptr %0, i64 %54
  %56 = add nuw nsw i64 %52, %index
  %57 = shl i64 %56, 3
  %58 = getelementptr inbounds i8, ptr %1, i64 %57
  %59 = getelementptr inbounds i8, ptr %55, i64 16
  %wide.load = load <2 x double>, ptr %55, align 8, !tbaa !12, !alias.scope !14
  %wide.load231 = load <2 x double>, ptr %59, align 8, !tbaa !12, !alias.scope !14
  %60 = getelementptr inbounds i8, ptr %58, i64 16
  store <2 x double> %wide.load, ptr %58, align 8, !tbaa !12, !alias.scope !17, !noalias !14
  store <2 x double> %wide.load231, ptr %60, align 8, !tbaa !12, !alias.scope !17, !noalias !14
  %index.next = add nuw i64 %index, 4
  %61 = icmp eq i64 %index.next, %n.vec
  br i1 %61, label %middle.block, label %vector.body, !llvm.loop !19

middle.block:                                     ; preds = %vector.body
  br i1 %cmp.n, label %._crit_edge.us146, label %scalar.ph.preheader

scalar.ph.preheader:                              ; preds = %.preheader136.us, %middle.block
  %indvars.iv180.ph = phi i64 [ 0, %.preheader136.us ], [ %n.vec, %middle.block ]
  br i1 %lcmp.mod275.not, label %scalar.ph.prol.loopexit, label %scalar.ph.prol

scalar.ph.prol:                                   ; preds = %scalar.ph.preheader
  %62 = add nsw i64 %51, %indvars.iv180.ph
  %63 = shl i64 %62, 3
  %64 = getelementptr inbounds i8, ptr %0, i64 %63
  %65 = add nuw nsw i64 %52, %indvars.iv180.ph
  %66 = shl i64 %65, 3
  %67 = getelementptr inbounds i8, ptr %1, i64 %66
  %68 = load double, ptr %64, align 8, !tbaa !12
  store double %68, ptr %67, align 8, !tbaa !12
  %indvars.iv.next181.prol = or disjoint i64 %indvars.iv180.ph, 1
  br label %scalar.ph.prol.loopexit

scalar.ph.prol.loopexit:                          ; preds = %scalar.ph.prol, %scalar.ph.preheader
  %indvars.iv180.unr = phi i64 [ %indvars.iv180.ph, %scalar.ph.preheader ], [ %indvars.iv.next181.prol, %scalar.ph.prol ]
  %69 = icmp eq i64 %indvars.iv180.ph, %50
  br i1 %69, label %._crit_edge.us146, label %scalar.ph

scalar.ph:                                        ; preds = %scalar.ph.prol.loopexit, %scalar.ph
  %indvars.iv180 = phi i64 [ %indvars.iv.next181.1, %scalar.ph ], [ %indvars.iv180.unr, %scalar.ph.prol.loopexit ]
  %70 = add nsw i64 %51, %indvars.iv180
  %71 = shl i64 %70, 3
  %72 = getelementptr inbounds i8, ptr %0, i64 %71
  %73 = add nuw nsw i64 %52, %indvars.iv180
  %74 = shl i64 %73, 3
  %75 = getelementptr inbounds i8, ptr %1, i64 %74
  %76 = load double, ptr %72, align 8, !tbaa !12
  store double %76, ptr %75, align 8, !tbaa !12
  %indvars.iv.next181 = add nuw nsw i64 %indvars.iv180, 1
  %77 = add nsw i64 %51, %indvars.iv.next181
  %78 = shl i64 %77, 3
  %79 = getelementptr inbounds i8, ptr %0, i64 %78
  %80 = add nuw nsw i64 %52, %indvars.iv.next181
  %81 = shl i64 %80, 3
  %82 = getelementptr inbounds i8, ptr %1, i64 %81
  %83 = load double, ptr %79, align 8, !tbaa !12
  store double %83, ptr %82, align 8, !tbaa !12
  %indvars.iv.next181.1 = add nuw nsw i64 %indvars.iv180, 2
  %exitcond184.not.1 = icmp eq i64 %indvars.iv.next181.1, %43
  br i1 %exitcond184.not.1, label %._crit_edge.us146, label %scalar.ph, !llvm.loop !22

._crit_edge.us146:                                ; preds = %scalar.ph.prol.loopexit, %scalar.ph, %middle.block
  %indvars.iv.next186 = add nuw nsw i64 %indvars.iv185, 1
  %exitcond189.not = icmp eq i64 %indvars.iv.next186, %wide.trip.count188
  br i1 %exitcond189.not, label %.loopexit, label %.preheader136.us, !llvm.loop !23

.preheader134:                                    ; preds = %13
  br i1 %16, label %.preheader133.lr.ph, label %.loopexit

.preheader133.lr.ph:                              ; preds = %.preheader134
  %84 = icmp sgt i32 %3, 0
  %85 = sext i32 %5 to i64
  %86 = zext i32 %3 to i64
  br i1 %84, label %.preheader133.us.preheader, label %.loopexit

.preheader133.us.preheader:                       ; preds = %.preheader133.lr.ph
  %wide.trip.count199 = zext nneg i32 %4 to i64
  %87 = mul nuw nsw i64 %wide.trip.count199, %86
  %88 = shl nuw i64 %87, 2
  %scevgep233 = getelementptr i8, ptr %1, i64 %88
  %89 = add nuw nsw i64 %wide.trip.count199, 4611686018427387903
  %90 = mul i64 %89, %85
  %91 = add i64 %90, %86
  %92 = shl i64 %91, 2
  %scevgep234 = getelementptr i8, ptr %0, i64 %92
  %min.iters.check240 = icmp ult i32 %3, 8
  %bound0235 = icmp ugt ptr %scevgep234, %1
  %bound1236 = icmp ugt ptr %scevgep233, %0
  %found.conflict237 = and i1 %bound0235, %bound1236
  %n.vec243 = and i64 %86, 2147483640
  %cmp.n250 = icmp eq i64 %n.vec243, %86
  %xtraiter276 = and i64 %86, 1
  %lcmp.mod277.not = icmp eq i64 %xtraiter276, 0
  %93 = add nsw i64 %86, -1
  br label %.preheader133.us

.preheader133.us:                                 ; preds = %.preheader133.us.preheader, %._crit_edge.us149
  %indvars.iv196 = phi i64 [ 0, %.preheader133.us.preheader ], [ %indvars.iv.next197, %._crit_edge.us149 ]
  %94 = mul nsw i64 %indvars.iv196, %85
  %95 = mul nuw nsw i64 %indvars.iv196, %86
  %brmerge280 = select i1 %min.iters.check240, i1 true, i1 %found.conflict237
  br i1 %brmerge280, label %scalar.ph239.preheader, label %vector.body245

vector.body245:                                   ; preds = %.preheader133.us, %vector.body245
  %index246 = phi i64 [ %index.next249, %vector.body245 ], [ 0, %.preheader133.us ]
  %96 = add nsw i64 %94, %index246
  %97 = shl i64 %96, 2
  %98 = getelementptr inbounds i8, ptr %0, i64 %97
  %99 = add nuw nsw i64 %95, %index246
  %100 = shl i64 %99, 2
  %101 = getelementptr inbounds i8, ptr %1, i64 %100
  %102 = getelementptr inbounds i8, ptr %98, i64 16
  %wide.load247 = load <4 x float>, ptr %98, align 4, !tbaa !24, !alias.scope !26
  %wide.load248 = load <4 x float>, ptr %102, align 4, !tbaa !24, !alias.scope !26
  %103 = getelementptr inbounds i8, ptr %101, i64 16
  store <4 x float> %wide.load247, ptr %101, align 4, !tbaa !24, !alias.scope !29, !noalias !26
  store <4 x float> %wide.load248, ptr %103, align 4, !tbaa !24, !alias.scope !29, !noalias !26
  %index.next249 = add nuw i64 %index246, 8
  %104 = icmp eq i64 %index.next249, %n.vec243
  br i1 %104, label %middle.block238, label %vector.body245, !llvm.loop !31

middle.block238:                                  ; preds = %vector.body245
  br i1 %cmp.n250, label %._crit_edge.us149, label %scalar.ph239.preheader

scalar.ph239.preheader:                           ; preds = %.preheader133.us, %middle.block238
  %indvars.iv191.ph = phi i64 [ 0, %.preheader133.us ], [ %n.vec243, %middle.block238 ]
  br i1 %lcmp.mod277.not, label %scalar.ph239.prol.loopexit, label %scalar.ph239.prol

scalar.ph239.prol:                                ; preds = %scalar.ph239.preheader
  %105 = add nsw i64 %94, %indvars.iv191.ph
  %106 = shl i64 %105, 2
  %107 = getelementptr inbounds i8, ptr %0, i64 %106
  %108 = add nuw nsw i64 %95, %indvars.iv191.ph
  %109 = shl i64 %108, 2
  %110 = getelementptr inbounds i8, ptr %1, i64 %109
  %111 = load float, ptr %107, align 4, !tbaa !24
  store float %111, ptr %110, align 4, !tbaa !24
  %indvars.iv.next192.prol = or disjoint i64 %indvars.iv191.ph, 1
  br label %scalar.ph239.prol.loopexit

scalar.ph239.prol.loopexit:                       ; preds = %scalar.ph239.prol, %scalar.ph239.preheader
  %indvars.iv191.unr = phi i64 [ %indvars.iv191.ph, %scalar.ph239.preheader ], [ %indvars.iv.next192.prol, %scalar.ph239.prol ]
  %112 = icmp eq i64 %indvars.iv191.ph, %93
  br i1 %112, label %._crit_edge.us149, label %scalar.ph239

scalar.ph239:                                     ; preds = %scalar.ph239.prol.loopexit, %scalar.ph239
  %indvars.iv191 = phi i64 [ %indvars.iv.next192.1, %scalar.ph239 ], [ %indvars.iv191.unr, %scalar.ph239.prol.loopexit ]
  %113 = add nsw i64 %94, %indvars.iv191
  %114 = shl i64 %113, 2
  %115 = getelementptr inbounds i8, ptr %0, i64 %114
  %116 = add nuw nsw i64 %95, %indvars.iv191
  %117 = shl i64 %116, 2
  %118 = getelementptr inbounds i8, ptr %1, i64 %117
  %119 = load float, ptr %115, align 4, !tbaa !24
  store float %119, ptr %118, align 4, !tbaa !24
  %indvars.iv.next192 = add nuw nsw i64 %indvars.iv191, 1
  %120 = add nsw i64 %94, %indvars.iv.next192
  %121 = shl i64 %120, 2
  %122 = getelementptr inbounds i8, ptr %0, i64 %121
  %123 = add nuw nsw i64 %95, %indvars.iv.next192
  %124 = shl i64 %123, 2
  %125 = getelementptr inbounds i8, ptr %1, i64 %124
  %126 = load float, ptr %122, align 4, !tbaa !24
  store float %126, ptr %125, align 4, !tbaa !24
  %indvars.iv.next192.1 = add nuw nsw i64 %indvars.iv191, 2
  %exitcond195.not.1 = icmp eq i64 %indvars.iv.next192.1, %86
  br i1 %exitcond195.not.1, label %._crit_edge.us149, label %scalar.ph239, !llvm.loop !32

._crit_edge.us149:                                ; preds = %scalar.ph239.prol.loopexit, %scalar.ph239, %middle.block238
  %indvars.iv.next197 = add nuw nsw i64 %indvars.iv196, 1
  %exitcond200.not = icmp eq i64 %indvars.iv.next197, %wide.trip.count199
  br i1 %exitcond200.not, label %.loopexit, label %.preheader133.us, !llvm.loop !33

.preheader131:                                    ; preds = %13
  br i1 %16, label %.preheader130.lr.ph, label %.loopexit

.preheader130.lr.ph:                              ; preds = %.preheader131
  %127 = icmp sgt i32 %3, 0
  %128 = sext i32 %5 to i64
  %129 = zext i32 %3 to i64
  br i1 %127, label %.preheader130.us.preheader, label %.loopexit

.preheader130.us.preheader:                       ; preds = %.preheader130.lr.ph
  %wide.trip.count210 = zext nneg i32 %4 to i64
  %130 = mul nuw nsw i64 %wide.trip.count210, %129
  %131 = shl nuw nsw i64 %130, 1
  %scevgep252 = getelementptr i8, ptr %1, i64 %131
  %132 = add nuw i64 %wide.trip.count210, 9223372036854775807
  %133 = mul i64 %132, %128
  %134 = add i64 %133, %129
  %135 = shl i64 %134, 1
  %scevgep253 = getelementptr i8, ptr %0, i64 %135
  %min.iters.check259 = icmp ult i32 %3, 16
  %bound0254 = icmp ugt ptr %scevgep253, %1
  %bound1255 = icmp ugt ptr %scevgep252, %0
  %found.conflict256 = and i1 %bound0254, %bound1255
  %n.vec262 = and i64 %129, 2147483632
  %cmp.n269 = icmp eq i64 %n.vec262, %129
  %xtraiter278 = and i64 %129, 1
  %lcmp.mod279.not = icmp eq i64 %xtraiter278, 0
  %136 = add nsw i64 %129, -1
  br label %.preheader130.us

.preheader130.us:                                 ; preds = %.preheader130.us.preheader, %._crit_edge.us152
  %indvars.iv207 = phi i64 [ 0, %.preheader130.us.preheader ], [ %indvars.iv.next208, %._crit_edge.us152 ]
  %137 = mul nsw i64 %indvars.iv207, %128
  %138 = mul nuw nsw i64 %indvars.iv207, %129
  %brmerge281 = select i1 %min.iters.check259, i1 true, i1 %found.conflict256
  br i1 %brmerge281, label %scalar.ph258.preheader, label %vector.body264

vector.body264:                                   ; preds = %.preheader130.us, %vector.body264
  %index265 = phi i64 [ %index.next268, %vector.body264 ], [ 0, %.preheader130.us ]
  %139 = add nsw i64 %137, %index265
  %140 = shl i64 %139, 1
  %141 = getelementptr inbounds i8, ptr %0, i64 %140
  %142 = add nuw nsw i64 %138, %index265
  %143 = shl nuw i64 %142, 1
  %144 = getelementptr inbounds i8, ptr %1, i64 %143
  %145 = getelementptr inbounds i8, ptr %141, i64 16
  %wide.load266 = load <8 x i16>, ptr %141, align 2, !tbaa !34, !alias.scope !36
  %wide.load267 = load <8 x i16>, ptr %145, align 2, !tbaa !34, !alias.scope !36
  %146 = getelementptr inbounds i8, ptr %144, i64 16
  store <8 x i16> %wide.load266, ptr %144, align 2, !tbaa !34, !alias.scope !39, !noalias !36
  store <8 x i16> %wide.load267, ptr %146, align 2, !tbaa !34, !alias.scope !39, !noalias !36
  %index.next268 = add nuw i64 %index265, 16
  %147 = icmp eq i64 %index.next268, %n.vec262
  br i1 %147, label %middle.block257, label %vector.body264, !llvm.loop !41

middle.block257:                                  ; preds = %vector.body264
  br i1 %cmp.n269, label %._crit_edge.us152, label %scalar.ph258.preheader

scalar.ph258.preheader:                           ; preds = %.preheader130.us, %middle.block257
  %indvars.iv202.ph = phi i64 [ 0, %.preheader130.us ], [ %n.vec262, %middle.block257 ]
  br i1 %lcmp.mod279.not, label %scalar.ph258.prol.loopexit, label %scalar.ph258.prol

scalar.ph258.prol:                                ; preds = %scalar.ph258.preheader
  %148 = add nsw i64 %137, %indvars.iv202.ph
  %149 = shl i64 %148, 1
  %150 = getelementptr inbounds i8, ptr %0, i64 %149
  %151 = add nuw nsw i64 %138, %indvars.iv202.ph
  %152 = shl nuw i64 %151, 1
  %153 = getelementptr inbounds i8, ptr %1, i64 %152
  %154 = load i16, ptr %150, align 2, !tbaa !34
  store i16 %154, ptr %153, align 2, !tbaa !34
  %indvars.iv.next203.prol = or disjoint i64 %indvars.iv202.ph, 1
  br label %scalar.ph258.prol.loopexit

scalar.ph258.prol.loopexit:                       ; preds = %scalar.ph258.prol, %scalar.ph258.preheader
  %indvars.iv202.unr = phi i64 [ %indvars.iv202.ph, %scalar.ph258.preheader ], [ %indvars.iv.next203.prol, %scalar.ph258.prol ]
  %155 = icmp eq i64 %indvars.iv202.ph, %136
  br i1 %155, label %._crit_edge.us152, label %scalar.ph258

scalar.ph258:                                     ; preds = %scalar.ph258.prol.loopexit, %scalar.ph258
  %indvars.iv202 = phi i64 [ %indvars.iv.next203.1, %scalar.ph258 ], [ %indvars.iv202.unr, %scalar.ph258.prol.loopexit ]
  %156 = add nsw i64 %137, %indvars.iv202
  %157 = shl i64 %156, 1
  %158 = getelementptr inbounds i8, ptr %0, i64 %157
  %159 = add nuw nsw i64 %138, %indvars.iv202
  %160 = shl nuw i64 %159, 1
  %161 = getelementptr inbounds i8, ptr %1, i64 %160
  %162 = load i16, ptr %158, align 2, !tbaa !34
  store i16 %162, ptr %161, align 2, !tbaa !34
  %indvars.iv.next203 = add nuw nsw i64 %indvars.iv202, 1
  %163 = add nsw i64 %137, %indvars.iv.next203
  %164 = shl i64 %163, 1
  %165 = getelementptr inbounds i8, ptr %0, i64 %164
  %166 = add nuw nsw i64 %138, %indvars.iv.next203
  %167 = shl nuw i64 %166, 1
  %168 = getelementptr inbounds i8, ptr %1, i64 %167
  %169 = load i16, ptr %165, align 2, !tbaa !34
  store i16 %169, ptr %168, align 2, !tbaa !34
  %indvars.iv.next203.1 = add nuw nsw i64 %indvars.iv202, 2
  %exitcond206.not.1 = icmp eq i64 %indvars.iv.next203.1, %129
  br i1 %exitcond206.not.1, label %._crit_edge.us152, label %scalar.ph258, !llvm.loop !42

._crit_edge.us152:                                ; preds = %scalar.ph258.prol.loopexit, %scalar.ph258, %middle.block257
  %indvars.iv.next208 = add nuw nsw i64 %indvars.iv207, 1
  %exitcond211.not = icmp eq i64 %indvars.iv.next208, %wide.trip.count210
  br i1 %exitcond211.not, label %.loopexit, label %.preheader130.us, !llvm.loop !43

.preheader129:                                    ; preds = %13
  br i1 %16, label %.preheader.lr.ph, label %.loopexit

.preheader.lr.ph:                                 ; preds = %.preheader129
  %170 = icmp sgt i32 %3, 0
  %171 = zext i32 %2 to i64
  %172 = sext i32 %5 to i64
  %173 = sext i32 %3 to i64
  %sext = shl i32 %2, 24
  %174 = ashr exact i32 %sext, 24
  %175 = icmp sgt i32 %174, 0
  %or.cond = select i1 %170, i1 %175, i1 false
  br i1 %or.cond, label %.preheader.us.us.preheader, label %.loopexit

.preheader.us.us.preheader:                       ; preds = %.preheader.lr.ph
  %wide.trip.count220 = zext nneg i32 %4 to i64
  %wide.trip.count215 = zext nneg i32 %3 to i64
  br label %.preheader.us.us

.preheader.us.us:                                 ; preds = %.preheader.us.us.preheader, %._crit_edge156.split.us.us.us
  %indvars.iv217 = phi i64 [ 0, %.preheader.us.us.preheader ], [ %indvars.iv.next218, %._crit_edge156.split.us.us.us ]
  %176 = mul nsw i64 %indvars.iv217, %172
  %177 = mul nuw nsw i64 %indvars.iv217, %173
  br label %.lr.ph.us.us.us

.lr.ph.us.us.us:                                  ; preds = %._crit_edge.us157.us.us, %.preheader.us.us
  %indvars.iv212 = phi i64 [ %indvars.iv.next213, %._crit_edge.us157.us.us ], [ 0, %.preheader.us.us ]
  %178 = add nsw i64 %176, %indvars.iv212
  %179 = mul i64 %178, %171
  %180 = getelementptr inbounds i8, ptr %0, i64 %179
  %181 = add nuw nsw i64 %177, %indvars.iv212
  %182 = mul i64 %181, %171
  %183 = getelementptr inbounds i8, ptr %1, i64 %182
  br label %184

184:                                              ; preds = %208, %.lr.ph.us.us.us
  %.0153.us.us.us = phi i8 [ 0, %.lr.ph.us.us.us ], [ %213, %208 ]
  %185 = zext nneg i8 %.0153.us.us.us to i64
  %186 = getelementptr inbounds i8, ptr %180, i64 %185
  %187 = load i8, ptr %186, align 1, !tbaa !6
  %188 = getelementptr inbounds i8, ptr %183, i64 %185
  store i8 %187, ptr %188, align 1, !tbaa !6
  %189 = or disjoint i8 %.0153.us.us.us, 1
  %190 = zext nneg i8 %189 to i32
  %191 = icmp sgt i32 %174, %190
  br i1 %191, label %192, label %._crit_edge.us157.us.us, !llvm.loop !44

192:                                              ; preds = %184
  %193 = zext nneg i8 %189 to i64
  %194 = getelementptr inbounds i8, ptr %180, i64 %193
  %195 = load i8, ptr %194, align 1, !tbaa !6
  %196 = getelementptr inbounds i8, ptr %183, i64 %193
  store i8 %195, ptr %196, align 1, !tbaa !6
  %197 = or disjoint i8 %.0153.us.us.us, 2
  %198 = zext nneg i8 %197 to i32
  %199 = icmp ugt i32 %174, %198
  br i1 %199, label %200, label %._crit_edge.us157.us.us, !llvm.loop !44

200:                                              ; preds = %192
  %201 = zext nneg i8 %197 to i64
  %202 = getelementptr inbounds i8, ptr %180, i64 %201
  %203 = load i8, ptr %202, align 1, !tbaa !6
  %204 = getelementptr inbounds i8, ptr %183, i64 %201
  store i8 %203, ptr %204, align 1, !tbaa !6
  %205 = or disjoint i8 %.0153.us.us.us, 3
  %206 = zext nneg i8 %205 to i32
  %207 = icmp ugt i32 %174, %206
  br i1 %207, label %208, label %._crit_edge.us157.us.us, !llvm.loop !44

208:                                              ; preds = %200
  %209 = zext nneg i8 %205 to i64
  %210 = getelementptr inbounds i8, ptr %180, i64 %209
  %211 = load i8, ptr %210, align 1, !tbaa !6
  %212 = getelementptr inbounds i8, ptr %183, i64 %209
  store i8 %211, ptr %212, align 1, !tbaa !6
  %213 = add nuw nsw i8 %.0153.us.us.us, 4
  %214 = zext nneg i8 %213 to i32
  %215 = icmp ugt i32 %174, %214
  br i1 %215, label %184, label %._crit_edge.us157.us.us, !llvm.loop !46

._crit_edge.us157.us.us:                          ; preds = %208, %200, %192, %184
  %indvars.iv.next213 = add nuw nsw i64 %indvars.iv212, 1
  %exitcond216.not = icmp eq i64 %indvars.iv.next213, %wide.trip.count215
  br i1 %exitcond216.not, label %._crit_edge156.split.us.us.us, label %.lr.ph.us.us.us, !llvm.loop !48

._crit_edge156.split.us.us.us:                    ; preds = %._crit_edge.us157.us.us
  %indvars.iv.next218 = add nuw nsw i64 %indvars.iv217, 1
  %exitcond221.not = icmp eq i64 %indvars.iv.next218, %wide.trip.count220
  br i1 %exitcond221.not, label %.loopexit, label %.preheader.us.us, !llvm.loop !49

.loopexit:                                        ; preds = %._crit_edge.us, %._crit_edge.us146, %._crit_edge.us149, %._crit_edge.us152, %._crit_edge156.split.us.us.us, %.preheader.lr.ph, %.preheader130.lr.ph, %.preheader133.lr.ph, %.preheader136.lr.ph, %.preheader139.lr.ph, %.preheader140, %.preheader137, %.preheader134, %.preheader131, %.preheader129
  call void @llvm.lifetime.start.p0(i64 128, ptr nonnull %9) #6
  %216 = getelementptr inbounds i8, ptr %9, i64 32
  store ptr %1, ptr %216, align 8, !tbaa !50
  %217 = getelementptr inbounds i8, ptr %9, i64 80
  store ptr %0, ptr %217, align 8, !tbaa !55
  %.not123 = icmp eq i64 %7, 0
  br i1 %.not123, label %218, label %219

218:                                              ; preds = %.loopexit
  tail call void @__assert_fail(ptr noundef nonnull @.str.18, ptr noundef nonnull @.str.9, i32 noundef 526, ptr noundef nonnull @__PRETTY_FUNCTION__.libxsmm_itrans_scratch_jit) #5
  unreachable

219:                                              ; preds = %.loopexit
  %220 = inttoptr i64 %7 to ptr
  call void %220(ptr noundef nonnull %9) #6
  call void @llvm.lifetime.end.p0(i64 128, ptr nonnull %9) #6
  ret void
}

; Function Attrs: nocallback nofree nosync nounwind speculatable willreturn memory(none)
declare i32 @llvm.fshl.i32(i32, i32, i32) #4

attributes #0 = { mustprogress nocallback nofree nosync nounwind willreturn memory(argmem: readwrite) }
attributes #1 = { noreturn nounwind "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #2 = { mustprogress nocallback nofree nounwind willreturn memory(argmem: readwrite) }
attributes #3 = { nounwind uwtable "min-legal-vector-width"="0" "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #4 = { nocallback nofree nosync nounwind speculatable willreturn memory(none) }
attributes #5 = { noreturn nounwind }
attributes #6 = { nounwind }

!llvm.module.flags = !{!0, !1, !2, !3}
!llvm.ident = !{!4}

!0 = !{i32 1, !"wchar_size", i32 4}
!1 = !{i32 8, !"PIC Level", i32 2}
!2 = !{i32 7, !"PIE Level", i32 2}
!3 = !{i32 7, !"uwtable", i32 2}
!4 = !{!"clang version 19.1.0 (git@github.com:llvm/llvm-project.git a4bf6cd7cfb1a1421ba92bca9d017b49936c55e4)"}
!5 = !{i64 0, i64 16, !6}
!6 = !{!7, !7, i64 0}
!7 = !{!"omnipotent char", !8, i64 0}
!8 = !{!"Simple C/C++ TBAA"}
!9 = distinct !{!9, !10}
!10 = !{!"llvm.loop.mustprogress"}
!11 = distinct !{!11, !10}
!12 = !{!13, !13, i64 0}
!13 = !{!"double", !7, i64 0}
!14 = !{!15}
!15 = distinct !{!15, !16}
!16 = distinct !{!16, !"LVerDomain"}
!17 = !{!18}
!18 = distinct !{!18, !16}
!19 = distinct !{!19, !10, !20, !21}
!20 = !{!"llvm.loop.isvectorized", i32 1}
!21 = !{!"llvm.loop.unroll.runtime.disable"}
!22 = distinct !{!22, !10, !20}
!23 = distinct !{!23, !10}
!24 = !{!25, !25, i64 0}
!25 = !{!"float", !7, i64 0}
!26 = !{!27}
!27 = distinct !{!27, !28}
!28 = distinct !{!28, !"LVerDomain"}
!29 = !{!30}
!30 = distinct !{!30, !28}
!31 = distinct !{!31, !10, !20, !21}
!32 = distinct !{!32, !10, !20}
!33 = distinct !{!33, !10}
!34 = !{!35, !35, i64 0}
!35 = !{!"short", !7, i64 0}
!36 = !{!37}
!37 = distinct !{!37, !38}
!38 = distinct !{!38, !"LVerDomain"}
!39 = !{!40}
!40 = distinct !{!40, !38}
!41 = distinct !{!41, !10, !20, !21}
!42 = distinct !{!42, !10, !20}
!43 = distinct !{!43, !10}
!44 = distinct !{!44, !10, !45}
!45 = !{!"llvm.loop.unroll.count", i32 4}
!46 = distinct !{!46, !10, !47}
!47 = !{!"llvm.loop.unroll.disable"}
!48 = distinct !{!48, !10}
!49 = distinct !{!49, !10}
!50 = !{!51, !53, i64 32}
!51 = !{!"libxsmm_meltw_unary_param", !52, i64 0, !54, i64 32, !54, i64 80}
!52 = !{!"libxsmm_matrix_op_arg", !53, i64 0, !53, i64 8, !53, i64 16, !53, i64 24}
!53 = !{!"any pointer", !7, i64 0}
!54 = !{!"libxsmm_matrix_arg", !53, i64 0, !53, i64 8, !53, i64 16, !53, i64 24, !53, i64 32, !53, i64 40}
!55 = !{!51, !53, i64 80}


; Effective O3 passes: CorrelatedValuePropagationPass,EarlyCSEPass,GVNPass,GlobalOptPass,IPSCCPPass,IndVarSimplifyPass,InferFunctionAttrsPass,InstCombinePass,InstSimplifyPass,JumpThreadingPass,LCSSAPass,LICMPass,LoopFullUnrollPass,LoopInstSimplifyPass,LoopLoadEliminationPass,LoopRotatePass,LoopSimplifyCFGPass,LoopSimplifyPass,LoopUnrollPass,LoopVectorizePass,ReassociatePass,SROAPass,SimplifyCFGPass,TailCallElimPass