; LLVM IR from libxsmm/libxsmm :: src (generator_mateltwise_gather_scatter_avx_avx512)

; Unoptimized IR (clang -disable-llvm-passes):
target datalayout = "e-m:e-p270:32:32-p271:32:32-p272:64:64-i64:64-i128:128-f80:128-n8:16:32:64-S128"
target triple = "x86_64-unknown-linux-gnu"

%struct.libxsmm_mateltwise_gp_reg_mapping_struct = type { i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32 }
%struct.libxsmm_mateltwise_kernel_config_struct = type { i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i32, i8 }

; Function Attrs: nounwind uwtable
declare dso_local void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i8 noundef signext, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef) #0

declare void @libxsmm_x86_instruction_unified_vec_move(ptr noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i8 noundef signext, i32 noundef, i32 noundef, i32 noundef, i32 noundef) #1

; Function Attrs: nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.start.p0(i64 immarg, ptr nocapture) #2

; Function Attrs: nocallback nofree nosync nounwind willreturn memory(argmem: readwrite)
declare void @llvm.lifetime.end.p0(i64 immarg, ptr nocapture) #2

declare void @libxsmm_x86_instruction_alu_imm(ptr noundef, i32 noundef, i32 noundef, i64 noundef) #1

; Function Attrs: nounwind uwtable
define dso_local void @libxsmm_generator_gather_scatter_cols_avx_avx512_m_loop(ptr noundef %0, ptr noundef %1, ptr noundef %2, ptr noundef %3, i32 noundef %4, i32 noundef %5, i32 noundef %6, i32 noundef %7, i32 noundef %8, i32 noundef %9, i32 noundef %10, i8 noundef signext %11, i32 noundef %12, i32 noundef %13, i32 noundef %14, i32 noundef %15, i32 noundef %16, i32 noundef %17, i32 noundef %18, i32 noundef %19, i32 noundef %20, i32 noundef %21, i32 noundef %22) #0 {
  %24 = alloca ptr, align 8
  %25 = alloca ptr, align 8
  %26 = alloca ptr, align 8
  %27 = alloca ptr, align 8
  %28 = alloca i32, align 4
  %29 = alloca i32, align 4
  %30 = alloca i32, align 4
  %31 = alloca i32, align 4
  %32 = alloca i32, align 4
  %33 = alloca i32, align 4
  %34 = alloca i32, align 4
  %35 = alloca i8, align 1
  %36 = alloca i32, align 4
  %37 = alloca i32, align 4
  %38 = alloca i32, align 4
  %39 = alloca i32, align 4
  %40 = alloca i32, align 4
  %41 = alloca i32, align 4
  %42 = alloca i32, align 4
  %43 = alloca i32, align 4
  %44 = alloca i32, align 4
  %45 = alloca i32, align 4
  %46 = alloca i32, align 4
  %47 = alloca i32, align 4
  store ptr %0, ptr %24, align 8, !tbaa !5
  store ptr %1, ptr %25, align 8, !tbaa !5
  store ptr %2, ptr %26, align 8, !tbaa !5
  store ptr %3, ptr %27, align 8, !tbaa !5
  store i32 %4, ptr %28, align 4, !tbaa !9
  store i32 %5, ptr %29, align 4, !tbaa !9
  store i32 %6, ptr %30, align 4, !tbaa !9
  store i32 %7, ptr %31, align 4, !tbaa !9
  store i32 %8, ptr %32, align 4, !tbaa !9
  store i32 %9, ptr %33, align 4, !tbaa !9
  store i32 %10, ptr %34, align 4, !tbaa !9
  store i8 %11, ptr %35, align 1, !tbaa !11
  store i32 %12, ptr %36, align 4, !tbaa !9
  store i32 %13, ptr %37, align 4, !tbaa !9
  store i32 %14, ptr %38, align 4, !tbaa !9
  store i32 %15, ptr %39, align 4, !tbaa !9
  store i32 %16, ptr %40, align 4, !tbaa !9
  store i32 %17, ptr %41, align 4, !tbaa !9
  store i32 %18, ptr %42, align 4, !tbaa !9
  store i32 %19, ptr %43, align 4, !tbaa !9
  store i32 %20, ptr %44, align 4, !tbaa !9
  store i32 %21, ptr %45, align 4, !tbaa !9
  store i32 %22, ptr %46, align 4, !tbaa !9
  call void @llvm.lifetime.start.p0(i64 4, ptr %47) #3
  store i32 0, ptr %47, align 4, !tbaa !9
  %48 = load i32, ptr %28, align 4, !tbaa !9
  %49 = icmp uge i32 %48, 1
  br i1 %49, label %50, label %238

50:                                               ; preds = %23
  %51 = load i32, ptr %28, align 4, !tbaa !9
  %52 = icmp ugt i32 %51, 1
  br i1 %52, label %53, label %60

53:                                               ; preds = %50
  %54 = load ptr, ptr %24, align 8, !tbaa !5
  %55 = load ptr, ptr %25, align 8, !tbaa !5
  %56 = load ptr, ptr %27, align 8, !tbaa !5
  %57 = load ptr, ptr %26, align 8, !tbaa !5
  %58 = getelementptr inbounds %struct.libxsmm_mateltwise_gp_reg_mapping_struct, ptr %57, i32 0, i32 24
  %59 = load i32, ptr %58, align 4, !tbaa !12
  call void @libxsmm_generator_mateltwise_header_m_loop(ptr noundef %54, ptr noundef %55, ptr noundef %56, i32 noundef %59)
  br label %60

60:                                               ; preds = %53, %50
  %61 = load i32, ptr %41, align 4, !tbaa !9
  %62 = icmp eq i32 %61, 1
  br i1 %62, label %63, label %123

63:                                               ; preds = %60
  store i32 0, ptr %47, align 4, !tbaa !9
  br label %64

64:                                               ; preds = %100, %63
  %65 = load i32, ptr %47, align 4, !tbaa !9
  %66 = load i32, ptr %29, align 4, !tbaa !9
  %67 = icmp ult i32 %65, %66
  br i1 %67, label %68, label %103

68:                                               ; preds = %64
  %69 = load ptr, ptr %24, align 8, !tbaa !5
  %70 = load i32, ptr %31, align 4, !tbaa !9
  %71 = load i32, ptr %42, align 4, !tbaa !9
  %72 = load i32, ptr %47, align 4, !tbaa !9
  %73 = load i32, ptr %34, align 4, !tbaa !9
  %74 = mul i32 %72, %73
  %75 = load i32, ptr %45, align 4, !tbaa !9
  %76 = mul i32 %74, %75
  %77 = load i8, ptr %35, align 1, !tbaa !11
  %78 = load i32, ptr %47, align 4, !tbaa !9
  call void @libxsmm_x86_instruction_unified_vec_move(ptr noundef %69, i32 noundef %70, i32 noundef %71, i32 noundef 127, i32 noundef 0, i32 noundef %76, i8 noundef signext %77, i32 noundef %78, i32 noundef 0, i32 noundef 0, i32 noundef 0)
  %79 = load i32, ptr %40, align 4, !tbaa !9
  %80 = icmp ugt i32 %79, 0
  br i1 %80, label %81, label %99

81:                                               ; preds = %68
  %82 = load i32, ptr %47, align 4, !tbaa !9
  %83 = load i32, ptr %34, align 4, !tbaa !9
  %84 = mul i32 %82, %83
  %85 = load i32, ptr %45, align 4, !tbaa !9
  %86 = mul i32 %84, %85
  %87 = urem i32 %86, 64
  %88 = icmp eq i32 %87, 0
  br i1 %88, label %89, label %98

89:                                               ; preds = %81
  %90 = load ptr, ptr %24, align 8, !tbaa !5
  %91 = load i32, ptr %33, align 4, !tbaa !9
  %92 = load i32, ptr %43, align 4, !tbaa !9
  %93 = load i32, ptr %47, align 4, !tbaa !9
  %94 = load i32, ptr %34, align 4, !tbaa !9
  %95 = mul i32 %93, %94
  %96 = load i32, ptr %45, align 4, !tbaa !9
  %97 = mul i32 %95, %96
  call void @libxsmm_x86_instruction_prefetch(ptr noundef %90, i32 noundef %91, i32 noundef %92, i32 noundef 127, i32 noundef 0, i32 noundef %97)
  br label %98

98:                                               ; preds = %89, %81
  br label %99

99:                                               ; preds = %98, %68
  br label %100

100:                                              ; preds = %99
  %101 = load i32, ptr %47, align 4, !tbaa !9
  %102 = add i32 %101, 1
  store i32 %102, ptr %47, align 4, !tbaa !9
  br label %64, !llvm.loop !14

103:                                              ; preds = %64
  store i32 0, ptr %47, align 4, !tbaa !9
  br label %104

104:                                              ; preds = %119, %103
  %105 = load i32, ptr %47, align 4, !tbaa !9
  %106 = load i32, ptr %29, align 4, !tbaa !9
  %107 = icmp ult i32 %105, %106
  br i1 %107, label %108, label %122

108:                                              ; preds = %104
  %109 = load ptr, ptr %24, align 8, !tbaa !5
  %110 = load i32, ptr %32, align 4, !tbaa !9
  %111 = load i32, ptr %44, align 4, !tbaa !9
  %112 = load i32, ptr %47, align 4, !tbaa !9
  %113 = load i32, ptr %34, align 4, !tbaa !9
  %114 = mul i32 %112, %113
  %115 = load i32, ptr %46, align 4, !tbaa !9
  %116 = mul i32 %114, %115
  %117 = load i8, ptr %35, align 1, !tbaa !11
  %118 = load i32, ptr %47, align 4, !tbaa !9
  call void @libxsmm_x86_instruction_unified_vec_move(ptr noundef %109, i32 noundef %110, i32 noundef %111, i32 noundef 127, i32 noundef 0, i32 noundef %116, i8 noundef signext %117, i32 noundef %118, i32 noundef 0, i32 noundef 0, i32 noundef 1)
  br label %119

119:                                              ; preds = %108
  %120 = load i32, ptr %47, align 4, !tbaa !9
  %121 = add i32 %120, 1
  store i32 %121, ptr %47, align 4, !tbaa !9
  br label %104, !llvm.loop !16

122:                                              ; preds = %104
  br label %183

123:                                              ; preds = %60
  store i32 0, ptr %47, align 4, !tbaa !9
  br label %124

124:                                              ; preds = %139, %123
  %125 = load i32, ptr %47, align 4, !tbaa !9
  %126 = load i32, ptr %29, align 4, !tbaa !9
  %127 = icmp ult i32 %125, %126
  br i1 %127, label %128, label %142

128:                                              ; preds = %124
  %129 = load ptr, ptr %24, align 8, !tbaa !5
  %130 = load i32, ptr %31, align 4, !tbaa !9
  %131 = load i32, ptr %44, align 4, !tbaa !9
  %132 = load i32, ptr %47, align 4, !tbaa !9
  %133 = load i32, ptr %34, align 4, !tbaa !9
  %134 = mul i32 %132, %133
  %135 = load i32, ptr %46, align 4, !tbaa !9
  %136 = mul i32 %134, %135
  %137 = load i8, ptr %35, align 1, !tbaa !11
  %138 = load i32, ptr %47, align 4, !tbaa !9
  call void @libxsmm_x86_instruction_unified_vec_move(ptr noundef %129, i32 noundef %130, i32 noundef %131, i32 noundef 127, i32 noundef 0, i32 noundef %136, i8 noundef signext %137, i32 noundef %138, i32 noundef 0, i32 noundef 0, i32 noundef 0)
  br label %139

139:                                              ; preds = %128
  %140 = load i32, ptr %47, align 4, !tbaa !9
  %141 = add i32 %140, 1
  store i32 %141, ptr %47, align 4, !tbaa !9
  br label %124, !llvm.loop !17

142:                                              ; preds = %124
  store i32 0, ptr %47, align 4, !tbaa !9
  br label %143

143:                                              ; preds = %179, %142
  %144 = load i32, ptr %47, align 4, !tbaa !9
  %145 = load i32, ptr %29, align 4, !tbaa !9
  %146 = icmp ult i32 %144, %145
  br i1 %146, label %147, label %182

147:                                              ; preds = %143
  %148 = load ptr, ptr %24, align 8, !tbaa !5
  %149 = load i32, ptr %32, align 4, !tbaa !9
  %150 = load i32, ptr %42, align 4, !tbaa !9
  %151 = load i32, ptr %47, align 4, !tbaa !9
  %152 = load i32, ptr %34, align 4, !tbaa !9
  %153 = mul i32 %151, %152
  %154 = load i32, ptr %45, align 4, !tbaa !9
  %155 = mul i32 %153, %154
  %156 = load i8, ptr %35, align 1, !tbaa !11
  %157 = load i32, ptr %47, align 4, !tbaa !9
  call void @libxsmm_x86_instruction_unified_vec_move(ptr noundef %148, i32 noundef %149, i32 noundef %150, i32 noundef 127, i32 noundef 0, i32 noundef %155, i8 noundef signext %156, i32 noundef %157, i32 noundef 0, i32 noundef 0, i32 noundef 1)
  %158 = load i32, ptr %40, align 4, !tbaa !9
  %159 = icmp ugt i32 %158, 0
  br i1 %159, label %160, label %178

160:                                              ; preds = %147
  %161 = load i32, ptr %47, align 4, !tbaa !9
  %162 = load i32, ptr %34, align 4, !tbaa !9
  %163 = mul i32 %161, %162
  %164 = load i32, ptr %45, align 4, !tbaa !9
  %165 = mul i32 %163, %164
  %166 = urem i32 %165, 64
  %167 = icmp eq i32 %166, 0
  br i1 %167, label %168, label %177

168:                                              ; preds = %160
  %169 = load ptr, ptr %24, align 8, !tbaa !5
  %170 = load i32, ptr %33, align 4, !tbaa !9
  %171 = load i32, ptr %43, align 4, !tbaa !9
  %172 = load i32, ptr %47, align 4, !tbaa !9
  %173 = load i32, ptr %34, align 4, !tbaa !9
  %174 = mul i32 %172, %173
  %175 = load i32, ptr %45, align 4, !tbaa !9
  %176 = mul i32 %174, %175
  call void @libxsmm_x86_instruction_prefetch(ptr noundef %169, i32 noundef %170, i32 noundef %171, i32 noundef 127, i32 noundef 0, i32 noundef %176)
  br label %177

177:                                              ; preds = %168, %160
  br label %178

178:                                              ; preds = %177, %147
  br label %179

179:                                              ; preds = %178
  %180 = load i32, ptr %47, align 4, !tbaa !9
  %181 = add i32 %180, 1
  store i32 %181, ptr %47, align 4, !tbaa !9
  br label %143, !llvm.loop !18

182:                                              ; preds = %143
  br label %183

183:                                              ; preds = %182, %122
  %184 = load i32, ptr %28, align 4, !tbaa !9
  %185 = icmp ugt i32 %184, 1
  br i1 %185, label %186, label %237

186:                                              ; preds = %183
  %187 = load ptr, ptr %24, align 8, !tbaa !5
  %188 = load ptr, ptr %27, align 8, !tbaa !5
  %189 = getelementptr inbounds %struct.libxsmm_mateltwise_kernel_config_struct, ptr %188, i32 0, i32 10
  %190 = load i32, ptr %189, align 4, !tbaa !19
  %191 = load i32, ptr %44, align 4, !tbaa !9
  %192 = load i32, ptr %29, align 4, !tbaa !9
  %193 = zext i32 %192 to i64
  %194 = load i32, ptr %34, align 4, !tbaa !9
  %195 = zext i32 %194 to i64
  %196 = mul nsw i64 %193, %195
  %197 = load i32, ptr %46, align 4, !tbaa !9
  %198 = zext i32 %197 to i64
  %199 = mul nsw i64 %196, %198
  call void @libxsmm_x86_instruction_alu_imm(ptr noundef %187, i32 noundef %190, i32 noundef %191, i64 noundef %199)
  %200 = load ptr, ptr %24, align 8, !tbaa !5
  %201 = load ptr, ptr %27, align 8, !tbaa !5
  %202 = getelementptr inbounds %struct.libxsmm_mateltwise_kernel_config_struct, ptr %201, i32 0, i32 10
  %203 = load i32, ptr %202, align 4, !tbaa !19
  %204 = load i32, ptr %42, align 4, !tbaa !9
  %205 = load i32, ptr %29, align 4, !tbaa !9
  %206 = zext i32 %205 to i64
  %207 = load i32, ptr %34, align 4, !tbaa !9
  %208 = zext i32 %207 to i64
  %209 = mul nsw i64 %206, %208
  %210 = load i32, ptr %45, align 4, !tbaa !9
  %211 = zext i32 %210 to i64
  %212 = mul nsw i64 %209, %211
  call void @libxsmm_x86_instruction_alu_imm(ptr noundef %200, i32 noundef %203, i32 noundef %204, i64 noundef %212)
  %213 = load i32, ptr %40, align 4, !tbaa !9
  %214 = icmp ugt i32 %213, 0
  br i1 %214, label %215, label %229

215:                                              ; preds = %186
  %216 = load ptr, ptr %24, align 8, !tbaa !5
  %217 = load ptr, ptr %27, align 8, !tbaa !5
  %218 = getelementptr inbounds %struct.libxsmm_mateltwise_kernel_config_struct, ptr %217, i32 0, i32 10
  %219 = load i32, ptr %218, align 4, !tbaa !19
  %220 = load i32, ptr %43, align 4, !tbaa !9
  %221 = load i32, ptr %29, align 4, !tbaa !9
  %222 = zext i32 %221 to i64
  %223 = load i32, ptr %34, align 4, !tbaa !9
  %224 = zext i32 %223 to i64
  %225 = mul nsw i64 %222, %224
  %226 = load i32, ptr %45, align 4, !tbaa !9
  %227 = zext i32 %226 to i64
  %228 = mul nsw i64 %225, %227
  call void @libxsmm_x86_instruction_alu_imm(ptr noundef %216, i32 noundef %219, i32 noundef %220, i64 noundef %228)
  br label %229

229:                                              ; preds = %215, %186
  %230 = load ptr, ptr %24, align 8, !tbaa !5
  %231 = load ptr, ptr %25, align 8, !tbaa !5
  %232 = load ptr, ptr %27, align 8, !tbaa !5
  %233 = load ptr, ptr %26, align 8, !tbaa !5
  %234 = getelementptr inbounds %struct.libxsmm_mateltwise_gp_reg_mapping_struct, ptr %233, i32 0, i32 24
  %235 = load i32, ptr %234, align 4, !tbaa !12
  %236 = load i32, ptr %28, align 4, !tbaa !9
  call void @libxsmm_generator_mateltwise_footer_m_loop(ptr noundef %230, ptr noundef %231, ptr noundef %232, i32 noundef %235, i32 noundef %236)
  br label %237

237:                                              ; preds = %229, %183
  br label %238

238:                                              ; preds = %237, %23
  %239 = load i32, ptr %30, align 4, !tbaa !9
  %240 = icmp ugt i32 %239, 0
  br i1 %240, label %241, label %524

241:                                              ; preds = %238
  %242 = load i32, ptr %28, align 4, !tbaa !9
  %243 = icmp eq i32 %242, 1
  br i1 %243, label %244, label %288

244:                                              ; preds = %241
  %245 = load ptr, ptr %24, align 8, !tbaa !5
  %246 = load ptr, ptr %27, align 8, !tbaa !5
  %247 = getelementptr inbounds %struct.libxsmm_mateltwise_kernel_config_struct, ptr %246, i32 0, i32 10
  %248 = load i32, ptr %247, align 4, !tbaa !19
  %249 = load i32, ptr %44, align 4, !tbaa !9
  %250 = load i32, ptr %29, align 4, !tbaa !9
  %251 = zext i32 %250 to i64
  %252 = load i32, ptr %34, align 4, !tbaa !9
  %253 = zext i32 %252 to i64
  %254 = mul nsw i64 %251, %253
  %255 = load i32, ptr %46, align 4, !tbaa !9
  %256 = zext i32 %255 to i64
  %257 = mul nsw i64 %254, %256
  call void @libxsmm_x86_instruction_alu_imm(ptr noundef %245, i32 noundef %248, i32 noundef %249, i64 noundef %257)
  %258 = load ptr, ptr %24, align 8, !tbaa !5
  %259 = load ptr, ptr %27, align 8, !tbaa !5
  %260 = getelementptr inbounds %struct.libxsmm_mateltwise_kernel_config_struct, ptr %259, i32 0, i32 10
  %261 = load i32, ptr %260, align 4, !tbaa !19
  %262 = load i32, ptr %42, align 4, !tbaa !9
  %263 = load i32, ptr %29, align 4, !tbaa !9
  %264 = zext i32 %263 to i64
  %265 = load i32, ptr %34, align 4, !tbaa !9
  %266 = zext i32 %265 to i64
  %267 = mul nsw i64 %264, %266
  %268 = load i32, ptr %45, align 4, !tbaa !9
  %269 = zext i32 %268 to i64
  %270 = mul nsw i64 %267, %269
  call void @libxsmm_x86_instruction_alu_imm(ptr noundef %258, i32 noundef %261, i32 noundef %262, i64 noundef %270)
  %271 = load i32, ptr %40, align 4, !tbaa !9
  %272 = icmp ugt i32 %271, 0
  br i1 %272, label %273, label %287

273:                                              ; preds = %244
  %274 = load ptr, ptr %24, align 8, !tbaa !5
  %275 = load ptr, ptr %27, align 8, !tbaa !5
  %276 = getelementptr inbounds %struct.libxsmm_mateltwise_kernel_config_struct, ptr %275, i32 0, i32 10
  %277 = load i32, ptr %276, align 4, !tbaa !19
  %278 = load i32, ptr %43, align 4, !tbaa !9
  %279 = load i32, ptr %29, align 4, !tbaa !9
  %280 = zext i32 %279 to i64
  %281 = load i32, ptr %34, align 4, !tbaa !9
  %282 = zext i32 %281 to i64
  %283 = mul nsw i64 %280, %282
  %284 = load i32, ptr %45, align 4, !tbaa !9
  %285 = zext i32 %284 to i64
  %286 = mul nsw i64 %283, %285
  call void @libxsmm_x86_instruction_alu_imm(ptr noundef %274, i32 noundef %277, i32 noundef %278, i64 noundef %286)
  br label %287

287:                                              ; preds = %273, %244
  br label %288

288:                                              ; preds = %287, %241
  %289 = load i32, ptr %41, align 4, !tbaa !9
  %290 = icmp eq i32 %289, 1
  br i1 %290, label %291, label %407

291:                                              ; preds = %288
  store i32 0, ptr %47, align 4, !tbaa !9
  br label %292

292:                                              ; preds = %356, %291
  %293 = load i32, ptr %47, align 4, !tbaa !9
  %294 = load i32, ptr %30, align 4, !tbaa !9
  %295 = icmp ult i32 %293, %294
  br i1 %295, label %296, label %359

296:                                              ; preds = %292
  %297 = load ptr, ptr %24, align 8, !tbaa !5
  %298 = load i32, ptr %31, align 4, !tbaa !9
  %299 = load i32, ptr %42, align 4, !tbaa !9
  %300 = load i32, ptr %47, align 4, !tbaa !9
  %301 = load i32, ptr %34, align 4, !tbaa !9
  %302 = mul i32 %300, %301
  %303 = load i32, ptr %45, align 4, !tbaa !9
  %304 = mul i32 %302, %303
  %305 = load i8, ptr %35, align 1, !tbaa !11
  %306 = load i32, ptr %47, align 4, !tbaa !9
  %307 = load i32, ptr %47, align 4, !tbaa !9
  %308 = load i32, ptr %30, align 4, !tbaa !9
  %309 = sub i32 %308, 1
  %310 = icmp eq i32 %307, %309
  br i1 %310, label %311, label %314

311:                                              ; preds = %296
  %312 = load i32, ptr %36, align 4, !tbaa !9
  %313 = icmp ugt i32 %312, 0
  br label %314

314:                                              ; preds = %311, %296
  %315 = phi i1 [ false, %296 ], [ %313, %311 ]
  %316 = zext i1 %315 to i64
  %317 = select i1 %315, i32 1, i32 0
  %318 = load i32, ptr %47, align 4, !tbaa !9
  %319 = load i32, ptr %30, align 4, !tbaa !9
  %320 = sub i32 %319, 1
  %321 = icmp eq i32 %318, %320
  br i1 %321, label %322, label %327

322:                                              ; preds = %314
  %323 = load i32, ptr %36, align 4, !tbaa !9
  %324 = icmp ugt i32 %323, 0
  br i1 %324, label %325, label %327

325:                                              ; preds = %322
  %326 = load i32, ptr %39, align 4, !tbaa !9
  br label %328

327:                                              ; preds = %322, %314
  br label %328

328:                                              ; preds = %327, %325
  %329 = phi i32 [ %326, %325 ], [ 0, %327 ]
  %330 = load i32, ptr %37, align 4, !tbaa !9
  %331 = load i32, ptr %38, align 4, !tbaa !9
  %332 = load ptr, ptr %26, align 8, !tbaa !5
  %333 = getelementptr inbounds %struct.libxsmm_mateltwise_gp_reg_mapping_struct, ptr %332, i32 0, i32 24
  %334 = load i32, ptr %333, align 4, !tbaa !12
  call void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef %297, i32 noundef %298, i32 noundef %299, i32 noundef 127, i32 noundef 0, i32 noundef %304, i8 noundef signext %305, i32 noundef %306, i32 noundef %317, i32 noundef %329, i32 noundef %330, i32 noundef %331, i32 noundef %334, i32 noundef 0)
  %335 = load i32, ptr %40, align 4, !tbaa !9
  %336 = icmp ugt i32 %335, 0
  br i1 %336, label %337, label %355

337:                                              ; preds = %328
  %338 = load i32, ptr %47, align 4, !tbaa !9
  %339 = load i32, ptr %34, align 4, !tbaa !9
  %340 = mul i32 %338, %339
  %341 = load i32, ptr %45, align 4, !tbaa !9
  %342 = mul i32 %340, %341
  %343 = urem i32 %342, 64
  %344 = icmp eq i32 %343, 0
  br i1 %344, label %345, label %354

345:                                              ; preds = %337
  %346 = load ptr, ptr %24, align 8, !tbaa !5
  %347 = load i32, ptr %33, align 4, !tbaa !9
  %348 = load i32, ptr %43, align 4, !tbaa !9
  %349 = load i32, ptr %47, align 4, !tbaa !9
  %350 = load i32, ptr %34, align 4, !tbaa !9
  %351 = mul i32 %349, %350
  %352 = load i32, ptr %45, align 4, !tbaa !9
  %353 = mul i32 %351, %352
  call void @libxsmm_x86_instruction_prefetch(ptr noundef %346, i32 noundef %347, i32 noundef %348, i32 noundef 127, i32 noundef 0, i32 noundef %353)
  br label %354

354:                                              ; preds = %345, %337
  br label %355

355:                                              ; preds = %354, %328
  br label %356

356:                                              ; preds = %355
  %357 = load i32, ptr %47, align 4, !tbaa !9
  %358 = add i32 %357, 1
  store i32 %358, ptr %47, align 4, !tbaa !9
  br label %292, !llvm.loop !21

359:                                              ; preds = %292
  store i32 0, ptr %47, align 4, !tbaa !9
  br label %360

360:                                              ; preds = %403, %359
  %361 = load i32, ptr %47, align 4, !tbaa !9
  %362 = load i32, ptr %30, align 4, !tbaa !9
  %363 = icmp ult i32 %361, %362
  br i1 %363, label %364, label %406

364:                                              ; preds = %360
  %365 = load ptr, ptr %24, align 8, !tbaa !5
  %366 = load i32, ptr %32, align 4, !tbaa !9
  %367 = load i32, ptr %44, align 4, !tbaa !9
  %368 = load i32, ptr %47, align 4, !tbaa !9
  %369 = load i32, ptr %34, align 4, !tbaa !9
  %370 = mul i32 %368, %369
  %371 = load i32, ptr %46, align 4, !tbaa !9
  %372 = mul i32 %370, %371
  %373 = load i8, ptr %35, align 1, !tbaa !11
  %374 = load i32, ptr %47, align 4, !tbaa !9
  %375 = load i32, ptr %47, align 4, !tbaa !9
  %376 = load i32, ptr %30, align 4, !tbaa !9
  %377 = sub i32 %376, 1
  %378 = icmp eq i32 %375, %377
  br i1 %378, label %379, label %382

379:                                              ; preds = %364
  %380 = load i32, ptr %36, align 4, !tbaa !9
  %381 = icmp ugt i32 %380, 0
  br label %382

382:                                              ; preds = %379, %364
  %383 = phi i1 [ false, %364 ], [ %381, %379 ]
  %384 = zext i1 %383 to i64
  %385 = select i1 %383, i32 1, i32 0
  %386 = load i32, ptr %47, align 4, !tbaa !9
  %387 = load i32, ptr %30, align 4, !tbaa !9
  %388 = sub i32 %387, 1
  %389 = icmp eq i32 %386, %388
  br i1 %389, label %390, label %395

390:                                              ; preds = %382
  %391 = load i32, ptr %36, align 4, !tbaa !9
  %392 = icmp ugt i32 %391, 0
  br i1 %392, label %393, label %395

393:                                              ; preds = %390
  %394 = load i32, ptr %39, align 4, !tbaa !9
  br label %396

395:                                              ; preds = %390, %382
  br label %396

396:                                              ; preds = %395, %393
  %397 = phi i32 [ %394, %393 ], [ 0, %395 ]
  %398 = load i32, ptr %37, align 4, !tbaa !9
  %399 = load i32, ptr %38, align 4, !tbaa !9
  %400 = load ptr, ptr %26, align 8, !tbaa !5
  %401 = getelementptr inbounds %struct.libxsmm_mateltwise_gp_reg_mapping_struct, ptr %400, i32 0, i32 24
  %402 = load i32, ptr %401, align 4, !tbaa !12
  call void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef %365, i32 noundef %366, i32 noundef %367, i32 noundef 127, i32 noundef 0, i32 noundef %372, i8 noundef signext %373, i32 noundef %374, i32 noundef %385, i32 noundef %397, i32 noundef %398, i32 noundef %399, i32 noundef %402, i32 noundef 1)
  br label %403

403:                                              ; preds = %396
  %404 = load i32, ptr %47, align 4, !tbaa !9
  %405 = add i32 %404, 1
  store i32 %405, ptr %47, align 4, !tbaa !9
  br label %360, !llvm.loop !22

406:                                              ; preds = %360
  br label %523

407:                                              ; preds = %288
  store i32 0, ptr %47, align 4, !tbaa !9
  br label %408

408:                                              ; preds = %451, %407
  %409 = load i32, ptr %47, align 4, !tbaa !9
  %410 = load i32, ptr %30, align 4, !tbaa !9
  %411 = icmp ult i32 %409, %410
  br i1 %411, label %412, label %454

412:                                              ; preds = %408
  %413 = load ptr, ptr %24, align 8, !tbaa !5
  %414 = load i32, ptr %31, align 4, !tbaa !9
  %415 = load i32, ptr %44, align 4, !tbaa !9
  %416 = load i32, ptr %47, align 4, !tbaa !9
  %417 = load i32, ptr %34, align 4, !tbaa !9
  %418 = mul i32 %416, %417
  %419 = load i32, ptr %46, align 4, !tbaa !9
  %420 = mul i32 %418, %419
  %421 = load i8, ptr %35, align 1, !tbaa !11
  %422 = load i32, ptr %47, align 4, !tbaa !9
  %423 = load i32, ptr %47, align 4, !tbaa !9
  %424 = load i32, ptr %30, align 4, !tbaa !9
  %425 = sub i32 %424, 1
  %426 = icmp eq i32 %423, %425
  br i1 %426, label %427, label %430

427:                                              ; preds = %412
  %428 = load i32, ptr %36, align 4, !tbaa !9
  %429 = icmp ugt i32 %428, 0
  br label %430

430:                                              ; preds = %427, %412
  %431 = phi i1 [ false, %412 ], [ %429, %427 ]
  %432 = zext i1 %431 to i64
  %433 = select i1 %431, i32 1, i32 0
  %434 = load i32, ptr %47, align 4, !tbaa !9
  %435 = load i32, ptr %30, align 4, !tbaa !9
  %436 = sub i32 %435, 1
  %437 = icmp eq i32 %434, %436
  br i1 %437, label %438, label %443

438:                                              ; preds = %430
  %439 = load i32, ptr %36, align 4, !tbaa !9
  %440 = icmp ugt i32 %439, 0
  br i1 %440, label %441, label %443

441:                                              ; preds = %438
  %442 = load i32, ptr %39, align 4, !tbaa !9
  br label %444

443:                                              ; preds = %438, %430
  br label %444

444:                                              ; preds = %443, %441
  %445 = phi i32 [ %442, %441 ], [ 0, %443 ]
  %446 = load i32, ptr %37, align 4, !tbaa !9
  %447 = load i32, ptr %38, align 4, !tbaa !9
  %448 = load ptr, ptr %26, align 8, !tbaa !5
  %449 = getelementptr inbounds %struct.libxsmm_mateltwise_gp_reg_mapping_struct, ptr %448, i32 0, i32 24
  %450 = load i32, ptr %449, align 4, !tbaa !12
  call void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef %413, i32 noundef %414, i32 noundef %415, i32 noundef 127, i32 noundef 0, i32 noundef %420, i8 noundef signext %421, i32 noundef %422, i32 noundef %433, i32 noundef %445, i32 noundef %446, i32 noundef %447, i32 noundef %450, i32 noundef 0)
  br label %451

451:                                              ; preds = %444
  %452 = load i32, ptr %47, align 4, !tbaa !9
  %453 = add i32 %452, 1
  store i32 %453, ptr %47, align 4, !tbaa !9
  br label %408, !llvm.loop !23

454:                                              ; preds = %408
  store i32 0, ptr %47, align 4, !tbaa !9
  br label %455

455:                                              ; preds = %519, %454
  %456 = load i32, ptr %47, align 4, !tbaa !9
  %457 = load i32, ptr %30, align 4, !tbaa !9
  %458 = icmp ult i32 %456, %457
  br i1 %458, label %459, label %522

459:                                              ; preds = %455
  %460 = load ptr, ptr %24, align 8, !tbaa !5
  %461 = load i32, ptr %32, align 4, !tbaa !9
  %462 = load i32, ptr %42, align 4, !tbaa !9
  %463 = load i32, ptr %47, align 4, !tbaa !9
  %464 = load i32, ptr %34, align 4, !tbaa !9
  %465 = mul i32 %463, %464
  %466 = load i32, ptr %45, align 4, !tbaa !9
  %467 = mul i32 %465, %466
  %468 = load i8, ptr %35, align 1, !tbaa !11
  %469 = load i32, ptr %47, align 4, !tbaa !9
  %470 = load i32, ptr %47, align 4, !tbaa !9
  %471 = load i32, ptr %30, align 4, !tbaa !9
  %472 = sub i32 %471, 1
  %473 = icmp eq i32 %470, %472
  br i1 %473, label %474, label %477

474:                                              ; preds = %459
  %475 = load i32, ptr %36, align 4, !tbaa !9
  %476 = icmp ugt i32 %475, 0
  br label %477

477:                                              ; preds = %474, %459
  %478 = phi i1 [ false, %459 ], [ %476, %474 ]
  %479 = zext i1 %478 to i64
  %480 = select i1 %478, i32 1, i32 0
  %481 = load i32, ptr %47, align 4, !tbaa !9
  %482 = load i32, ptr %30, align 4, !tbaa !9
  %483 = sub i32 %482, 1
  %484 = icmp eq i32 %481, %483
  br i1 %484, label %485, label %490

485:                                              ; preds = %477
  %486 = load i32, ptr %36, align 4, !tbaa !9
  %487 = icmp ugt i32 %486, 0
  br i1 %487, label %488, label %490

488:                                              ; preds = %485
  %489 = load i32, ptr %39, align 4, !tbaa !9
  br label %491

490:                                              ; preds = %485, %477
  br label %491

491:                                              ; preds = %490, %488
  %492 = phi i32 [ %489, %488 ], [ 0, %490 ]
  %493 = load i32, ptr %37, align 4, !tbaa !9
  %494 = load i32, ptr %38, align 4, !tbaa !9
  %495 = load ptr, ptr %26, align 8, !tbaa !5
  %496 = getelementptr inbounds %struct.libxsmm_mateltwise_gp_reg_mapping_struct, ptr %495, i32 0, i32 24
  %497 = load i32, ptr %496, align 4, !tbaa !12
  call void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef %460, i32 noundef %461, i32 noundef %462, i32 noundef 127, i32 noundef 0, i32 noundef %467, i8 noundef signext %468, i32 noundef %469, i32 noundef %480, i32 noundef %492, i32 noundef %493, i32 noundef %494, i32 noundef %497, i32 noundef 1)
  %498 = load i32, ptr %40, align 4, !tbaa !9
  %499 = icmp ugt i32 %498, 0
  br i1 %499, label %500, label %518

500:                                              ; preds = %491
  %501 = load i32, ptr %47, align 4, !tbaa !9
  %502 = load i32, ptr %34, align 4, !tbaa !9
  %503 = mul i32 %501, %502
  %504 = load i32, ptr %45, align 4, !tbaa !9
  %505 = mul i32 %503, %504
  %506 = urem i32 %505, 64
  %507 = icmp eq i32 %506, 0
  br i1 %507, label %508, label %517

508:                                              ; preds = %500
  %509 = load ptr, ptr %24, align 8, !tbaa !5
  %510 = load i32, ptr %33, align 4, !tbaa !9
  %511 = load i32, ptr %43, align 4, !tbaa !9
  %512 = load i32, ptr %47, align 4, !tbaa !9
  %513 = load i32, ptr %34, align 4, !tbaa !9
  %514 = mul i32 %512, %513
  %515 = load i32, ptr %45, align 4, !tbaa !9
  %516 = mul i32 %514, %515
  call void @libxsmm_x86_instruction_prefetch(ptr noundef %509, i32 noundef %510, i32 noundef %511, i32 noundef 127, i32 noundef 0, i32 noundef %516)
  br label %517

517:                                              ; preds = %508, %500
  br label %518

518:                                              ; preds = %517, %491
  br label %519

519:                                              ; preds = %518
  %520 = load i32, ptr %47, align 4, !tbaa !9
  %521 = add i32 %520, 1
  store i32 %521, ptr %47, align 4, !tbaa !9
  br label %455, !llvm.loop !24

522:                                              ; preds = %455
  br label %523

523:                                              ; preds = %522, %406
  br label %524

524:                                              ; preds = %523, %238
  %525 = load i32, ptr %28, align 4, !tbaa !9
  %526 = icmp uge i32 %525, 1
  br i1 %526, label %527, label %569

527:                                              ; preds = %524
  %528 = load i32, ptr %30, align 4, !tbaa !9
  %529 = icmp ugt i32 %528, 0
  br i1 %529, label %530, label %547

530:                                              ; preds = %527
  %531 = load ptr, ptr %24, align 8, !tbaa !5
  %532 = load ptr, ptr %27, align 8, !tbaa !5
  %533 = getelementptr inbounds %struct.libxsmm_mateltwise_kernel_config_struct, ptr %532, i32 0, i32 11
  %534 = load i32, ptr %533, align 4, !tbaa !25
  %535 = load i32, ptr %44, align 4, !tbaa !9
  %536 = load i32, ptr %28, align 4, !tbaa !9
  %537 = zext i32 %536 to i64
  %538 = load i32, ptr %29, align 4, !tbaa !9
  %539 = zext i32 %538 to i64
  %540 = mul nsw i64 %537, %539
  %541 = load i32, ptr %34, align 4, !tbaa !9
  %542 = zext i32 %541 to i64
  %543 = mul nsw i64 %540, %542
  %544 = load i32, ptr %46, align 4, !tbaa !9
  %545 = zext i32 %544 to i64
  %546 = mul nsw i64 %543, %545
  call void @libxsmm_x86_instruction_alu_imm(ptr noundef %531, i32 noundef %534, i32 noundef %535, i64 noundef %546)
  br label %568

547:                                              ; preds = %527
  %548 = load i32, ptr %28, align 4, !tbaa !9
  %549 = icmp ugt i32 %548, 1
  br i1 %549, label %550, label %567

550:                                              ; preds = %547
  %551 = load ptr, ptr %24, align 8, !tbaa !5
  %552 = load ptr, ptr %27, align 8, !tbaa !5
  %553 = getelementptr inbounds %struct.libxsmm_mateltwise_kernel_config_struct, ptr %552, i32 0, i32 11
  %554 = load i32, ptr %553, align 4, !tbaa !25
  %555 = load i32, ptr %44, align 4, !tbaa !9
  %556 = load i32, ptr %28, align 4, !tbaa !9
  %557 = zext i32 %556 to i64
  %558 = load i32, ptr %29, align 4, !tbaa !9
  %559 = zext i32 %558 to i64
  %560 = mul nsw i64 %557, %559
  %561 = load i32, ptr %34, align 4, !tbaa !9
  %562 = zext i32 %561 to i64
  %563 = mul nsw i64 %560, %562
  %564 = load i32, ptr %46, align 4, !tbaa !9
  %565 = zext i32 %564 to i64
  %566 = mul nsw i64 %563, %565
  call void @libxsmm_x86_instruction_alu_imm(ptr noundef %551, i32 noundef %554, i32 noundef %555, i64 noundef %566)
  br label %567

567:                                              ; preds = %550, %547
  br label %568

568:                                              ; preds = %567, %530
  br label %569

569:                                              ; preds = %568, %524
  call void @llvm.lifetime.end.p0(i64 4, ptr %47) #3
  ret void
}

declare void @libxsmm_generator_mateltwise_header_m_loop(ptr noundef, ptr noundef, ptr noundef, i32 noundef) #1

declare void @libxsmm_x86_instruction_prefetch(ptr noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef) #1

declare void @libxsmm_generator_mateltwise_footer_m_loop(ptr noundef, ptr noundef, ptr noundef, i32 noundef, i32 noundef) #1

attributes #0 = { nounwind uwtable "min-legal-vector-width"="0" "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #1 = { "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #2 = { nocallback nofree nosync nounwind willreturn memory(argmem: readwrite) }
attributes #3 = { nounwind }

!llvm.module.flags = !{!0, !1, !2, !3}
!llvm.ident = !{!4}

!0 = !{i32 1, !"wchar_size", i32 4}
!1 = !{i32 8, !"PIC Level", i32 2}
!2 = !{i32 7, !"PIE Level", i32 2}
!3 = !{i32 7, !"uwtable", i32 2}
!4 = !{!"clang version 19.1.0 (git@github.com:llvm/llvm-project.git a4bf6cd7cfb1a1421ba92bca9d017b49936c55e4)"}
!5 = !{!6, !6, i64 0}
!6 = !{!"any pointer", !7, i64 0}
!7 = !{!"omnipotent char", !8, i64 0}
!8 = !{!"Simple C/C++ TBAA"}
!9 = !{!10, !10, i64 0}
!10 = !{!"int", !7, i64 0}
!11 = !{!7, !7, i64 0}
!12 = !{!13, !10, i64 96}
!13 = !{!"libxsmm_mateltwise_gp_reg_mapping_struct", !10, i64 0, !10, i64 4, !10, i64 8, !10, i64 12, !10, i64 16, !10, i64 20, !10, i64 24, !10, i64 28, !10, i64 32, !10, i64 36, !10, i64 40, !10, i64 44, !10, i64 48, !10, i64 52, !10, i64 56, !10, i64 60, !10, i64 64, !10, i64 68, !10, i64 72, !10, i64 76, !10, i64 80, !10, i64 84, !10, i64 88, !10, i64 92, !10, i64 96, !10, i64 100, !10, i64 104, !10, i64 108, !10, i64 112, !10, i64 116, !10, i64 120, !10, i64 124, !10, i64 128, !10, i64 132, !10, i64 136, !10, i64 140, !10, i64 144}
!14 = distinct !{!14, !15}
!15 = !{!"llvm.loop.mustprogress"}
!16 = distinct !{!16, !15}
!17 = distinct !{!17, !15}
!18 = distinct !{!18, !15}
!19 = !{!20, !10, i64 40}
!20 = !{!"libxsmm_mateltwise_kernel_config_struct", !10, i64 0, !10, i64 4, !10, i64 8, !10, i64 12, !10, i64 16, !10, i64 20, !10, i64 24, !10, i64 28, !10, i64 32, !10, i64 36, !10, i64 40, !10, i64 44, !10, i64 48, !10, i64 52, !10, i64 56, !10, i64 60, !10, i64 64, !10, i64 68, !10, i64 72, !10, i64 76, !10, i64 80, !10, i64 84, !10, i64 88, !10, i64 92, !10, i64 96, !10, i64 100, !10, i64 104, !10, i64 108, !10, i64 112, !10, i64 116, !10, i64 120, !10, i64 124, !10, i64 128, !10, i64 132, !10, i64 136, !10, i64 140, !10, i64 144, !10, i64 148, !10, i64 152, !10, i64 156, !10, i64 160, !10, i64 164, !10, i64 168, !10, i64 172, !10, i64 176, !10, i64 180, !10, i64 184, !10, i64 188, !10, i64 192, !10, i64 196, !10, i64 200, !10, i64 204, !10, i64 208, !10, i64 212, !10, i64 216, !10, i64 220, !10, i64 224, !10, i64 228, !10, i64 232, !10, i64 236, !10, i64 240, !10, i64 244, !10, i64 248, !10, i64 252, !10, i64 256, !10, i64 260, !10, i64 264, !10, i64 268, !10, i64 272, !10, i64 276, !10, i64 280, !10, i64 284, !10, i64 288, !10, i64 292, !10, i64 296, !10, i64 300, !10, i64 304, !10, i64 308, !10, i64 312, !10, i64 316, !10, i64 320, !10, i64 324, !10, i64 328, !10, i64 332, !10, i64 336, !10, i64 340, !10, i64 344, !10, i64 348, !10, i64 352, !10, i64 356, !10, i64 360, !10, i64 364, !10, i64 368, !10, i64 372, !10, i64 376, !10, i64 380, !10, i64 384, !10, i64 388, !10, i64 392, !10, i64 396, !10, i64 400, !10, i64 404, !10, i64 408, !10, i64 412, !10, i64 416, !10, i64 420, !10, i64 424, !10, i64 428, !10, i64 432, !10, i64 436, !10, i64 440, !10, i64 444, !10, i64 448, !10, i64 452, !10, i64 456, !10, i64 460, !10, i64 464, !10, i64 468, !10, i64 472, !10, i64 476, !10, i64 480, !10, i64 484, !10, i64 488, !10, i64 492, !10, i64 496, !10, i64 500, !10, i64 504, !10, i64 508, !7, i64 512}
!21 = distinct !{!21, !15}
!22 = distinct !{!22, !15}
!23 = distinct !{!23, !15}
!24 = distinct !{!24, !15}
!25 = !{!20, !10, i64 44}


; Optimized IR (opt -passes='default<O3>'):
target datalayout = "e-m:e-p270:32:32-p271:32:32-p272:64:64-i64:64-i128:128-f80:128-n8:16:32:64-S128"
target triple = "x86_64-unknown-linux-gnu"

; Function Attrs: nounwind uwtable
declare dso_local void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i8 noundef signext, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef) local_unnamed_addr #0

declare void @libxsmm_x86_instruction_unified_vec_move(ptr noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i8 noundef signext, i32 noundef, i32 noundef, i32 noundef, i32 noundef) local_unnamed_addr #1

declare void @libxsmm_x86_instruction_alu_imm(ptr noundef, i32 noundef, i32 noundef, i64 noundef) local_unnamed_addr #1

; Function Attrs: nounwind uwtable
define dso_local void @libxsmm_generator_gather_scatter_cols_avx_avx512_m_loop(ptr noundef %0, ptr noundef %1, ptr nocapture noundef readonly %2, ptr noundef %3, i32 noundef %4, i32 noundef %5, i32 noundef %6, i32 noundef %7, i32 noundef %8, i32 noundef %9, i32 noundef %10, i8 noundef signext %11, i32 noundef %12, i32 noundef %13, i32 noundef %14, i32 noundef %15, i32 noundef %16, i32 noundef %17, i32 noundef %18, i32 noundef %19, i32 noundef %20, i32 noundef %21, i32 noundef %22) local_unnamed_addr #0 {
  %.not = icmp eq i32 %4, 0
  br i1 %.not, label %.thread, label %24

24:                                               ; preds = %23
  %.not250 = icmp eq i32 %4, 1
  br i1 %.not250, label %28, label %25

25:                                               ; preds = %24
  %26 = getelementptr inbounds i8, ptr %2, i64 96
  %27 = load i32, ptr %26, align 4, !tbaa !5
  tail call void @libxsmm_generator_mateltwise_header_m_loop(ptr noundef %0, ptr noundef %1, ptr noundef %3, i32 noundef %27) #2
  br label %28

28:                                               ; preds = %25, %24
  %29 = icmp eq i32 %17, 1
  %.not313 = icmp eq i32 %5, 0
  br i1 %29, label %.preheader292, label %.preheader295

.preheader295:                                    ; preds = %28
  br i1 %.not313, label %.loopexit291, label %.lr.ph

.lr.ph:                                           ; preds = %.preheader295
  %30 = mul i32 %22, %10
  br label %44

.preheader292:                                    ; preds = %28
  br i1 %.not313, label %.loopexit291, label %.lr.ph300

.lr.ph300:                                        ; preds = %.preheader292
  %31 = mul i32 %21, %10
  %.not258 = icmp ne i32 %16, 0
  br label %33

.lr.ph302:                                        ; preds = %38
  %32 = mul i32 %22, %10
  br label %40

33:                                               ; preds = %.lr.ph300, %38
  %.0299 = phi i32 [ 0, %.lr.ph300 ], [ %39, %38 ]
  %34 = mul i32 %31, %.0299
  tail call void @libxsmm_x86_instruction_unified_vec_move(ptr noundef %0, i32 noundef %7, i32 noundef %18, i32 noundef 127, i32 noundef 0, i32 noundef %34, i8 noundef signext %11, i32 noundef %.0299, i32 noundef 0, i32 noundef 0, i32 noundef 0) #2
  %35 = and i32 %34, 63
  %36 = icmp eq i32 %35, 0
  %or.cond = and i1 %.not258, %36
  br i1 %or.cond, label %37, label %38

37:                                               ; preds = %33
  tail call void @libxsmm_x86_instruction_prefetch(ptr noundef %0, i32 noundef %9, i32 noundef %19, i32 noundef 127, i32 noundef 0, i32 noundef %34) #2
  br label %38

38:                                               ; preds = %33, %37
  %39 = add nuw i32 %.0299, 1
  %exitcond322.not = icmp eq i32 %39, %5
  br i1 %exitcond322.not, label %.lr.ph302, label %33, !llvm.loop !10

40:                                               ; preds = %.lr.ph302, %40
  %.1301 = phi i32 [ 0, %.lr.ph302 ], [ %42, %40 ]
  %41 = mul i32 %32, %.1301
  tail call void @libxsmm_x86_instruction_unified_vec_move(ptr noundef %0, i32 noundef %8, i32 noundef %20, i32 noundef 127, i32 noundef 0, i32 noundef %41, i8 noundef signext %11, i32 noundef %.1301, i32 noundef 0, i32 noundef 0, i32 noundef 1) #2
  %42 = add nuw i32 %.1301, 1
  %exitcond323.not = icmp eq i32 %42, %5
  br i1 %exitcond323.not, label %.loopexit291, label %40, !llvm.loop !12

.lr.ph298:                                        ; preds = %44
  %43 = mul i32 %21, %10
  %.not251 = icmp ne i32 %16, 0
  br label %47

44:                                               ; preds = %.lr.ph, %44
  %.2296 = phi i32 [ 0, %.lr.ph ], [ %46, %44 ]
  %45 = mul i32 %30, %.2296
  tail call void @libxsmm_x86_instruction_unified_vec_move(ptr noundef %0, i32 noundef %7, i32 noundef %20, i32 noundef 127, i32 noundef 0, i32 noundef %45, i8 noundef signext %11, i32 noundef %.2296, i32 noundef 0, i32 noundef 0, i32 noundef 0) #2
  %46 = add nuw i32 %.2296, 1
  %exitcond.not = icmp eq i32 %46, %5
  br i1 %exitcond.not, label %.lr.ph298, label %44, !llvm.loop !13

47:                                               ; preds = %.lr.ph298, %52
  %.3297 = phi i32 [ 0, %.lr.ph298 ], [ %53, %52 ]
  %48 = mul i32 %43, %.3297
  tail call void @libxsmm_x86_instruction_unified_vec_move(ptr noundef %0, i32 noundef %8, i32 noundef %18, i32 noundef 127, i32 noundef 0, i32 noundef %48, i8 noundef signext %11, i32 noundef %.3297, i32 noundef 0, i32 noundef 0, i32 noundef 1) #2
  %49 = and i32 %48, 63
  %50 = icmp eq i32 %49, 0
  %or.cond261 = and i1 %.not251, %50
  br i1 %or.cond261, label %51, label %52

51:                                               ; preds = %47
  tail call void @libxsmm_x86_instruction_prefetch(ptr noundef %0, i32 noundef %9, i32 noundef %19, i32 noundef 127, i32 noundef 0, i32 noundef %48) #2
  br label %52

52:                                               ; preds = %47, %51
  %53 = add nuw i32 %.3297, 1
  %exitcond321.not = icmp eq i32 %53, %5
  br i1 %exitcond321.not, label %.loopexit291, label %47, !llvm.loop !14

.loopexit291:                                     ; preds = %52, %40, %.preheader292, %.preheader295
  br i1 %.not250, label %.thread272, label %54

54:                                               ; preds = %.loopexit291
  %55 = getelementptr inbounds i8, ptr %3, i64 40
  %56 = load i32, ptr %55, align 4, !tbaa !15
  %57 = zext i32 %5 to i64
  %58 = zext i32 %10 to i64
  %59 = mul nuw nsw i64 %58, %57
  %60 = zext i32 %22 to i64
  %61 = mul nuw nsw i64 %59, %60
  tail call void @libxsmm_x86_instruction_alu_imm(ptr noundef %0, i32 noundef %56, i32 noundef %20, i64 noundef %61) #2
  %62 = load i32, ptr %55, align 4, !tbaa !15
  %63 = zext i32 %21 to i64
  %64 = mul nuw nsw i64 %59, %63
  tail call void @libxsmm_x86_instruction_alu_imm(ptr noundef %0, i32 noundef %62, i32 noundef %18, i64 noundef %64) #2
  %.not252 = icmp eq i32 %16, 0
  br i1 %.not252, label %67, label %65

65:                                               ; preds = %54
  %66 = load i32, ptr %55, align 4, !tbaa !15
  tail call void @libxsmm_x86_instruction_alu_imm(ptr noundef %0, i32 noundef %66, i32 noundef %19, i64 noundef %64) #2
  br label %67

67:                                               ; preds = %54, %65
  %68 = getelementptr inbounds i8, ptr %2, i64 96
  %69 = load i32, ptr %68, align 4, !tbaa !5
  tail call void @libxsmm_generator_mateltwise_footer_m_loop(ptr noundef %0, ptr noundef %1, ptr noundef nonnull %3, i32 noundef %69, i32 noundef %4) #2
  %.not253 = icmp eq i32 %6, 0
  br i1 %.not253, label %.loopexit.thread, label %.thread269

.thread272:                                       ; preds = %.loopexit291
  %.not253273 = icmp eq i32 %6, 0
  br i1 %.not253273, label %.thread284, label %.thread274

.thread:                                          ; preds = %23
  %.not253266 = icmp eq i32 %6, 0
  br i1 %.not253266, label %.thread284, label %.thread269

.thread274:                                       ; preds = %.thread272
  %70 = getelementptr inbounds i8, ptr %3, i64 40
  %71 = load i32, ptr %70, align 4, !tbaa !15
  %72 = zext i32 %5 to i64
  %73 = zext i32 %10 to i64
  %74 = mul nuw nsw i64 %73, %72
  %75 = zext i32 %22 to i64
  %76 = mul nuw nsw i64 %74, %75
  tail call void @libxsmm_x86_instruction_alu_imm(ptr noundef %0, i32 noundef %71, i32 noundef %20, i64 noundef %76) #2
  %77 = load i32, ptr %70, align 4, !tbaa !15
  %78 = zext i32 %21 to i64
  %79 = mul nuw nsw i64 %74, %78
  tail call void @libxsmm_x86_instruction_alu_imm(ptr noundef %0, i32 noundef %77, i32 noundef %18, i64 noundef %79) #2
  %.not254 = icmp eq i32 %16, 0
  br i1 %.not254, label %.thread269, label %80

80:                                               ; preds = %.thread274
  %81 = load i32, ptr %70, align 4, !tbaa !15
  tail call void @libxsmm_x86_instruction_alu_imm(ptr noundef %0, i32 noundef %81, i32 noundef %19, i64 noundef %79) #2
  br label %.thread269

.thread269:                                       ; preds = %67, %.thread, %.thread274, %80
  %82 = icmp eq i32 %17, 1
  %83 = add i32 %6, -1
  %84 = icmp ne i32 %12, 0
  %85 = getelementptr inbounds i8, ptr %2, i64 96
  br i1 %82, label %.lr.ph308, label %.lr.ph304

.lr.ph304:                                        ; preds = %.thread269
  %86 = mul i32 %22, %10
  br label %116

.lr.ph308:                                        ; preds = %.thread269
  %87 = mul i32 %21, %10
  %.not257 = icmp ne i32 %16, 0
  br label %92

.lr.ph310:                                        ; preds = %102
  %88 = mul i32 %22, %10
  %89 = add i32 %6, -1
  %90 = icmp ne i32 %12, 0
  %91 = getelementptr inbounds i8, ptr %2, i64 96
  br label %104

92:                                               ; preds = %.lr.ph308, %102
  %.4307 = phi i32 [ 0, %.lr.ph308 ], [ %103, %102 ]
  %93 = mul i32 %87, %.4307
  %94 = icmp eq i32 %.4307, %83
  %95 = and i1 %84, %94
  %96 = zext i1 %95 to i32
  %97 = select i1 %95, i32 %15, i32 0
  %98 = load i32, ptr %85, align 4, !tbaa !5
  tail call void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef %0, i32 noundef %7, i32 noundef %18, i32 noundef 127, i32 noundef 0, i32 noundef %93, i8 noundef signext %11, i32 noundef %.4307, i32 noundef %96, i32 noundef %97, i32 noundef %13, i32 noundef %14, i32 noundef %98, i32 noundef 0)
  %99 = and i32 %93, 63
  %100 = icmp eq i32 %99, 0
  %or.cond263 = and i1 %.not257, %100
  br i1 %or.cond263, label %101, label %102

101:                                              ; preds = %92
  tail call void @libxsmm_x86_instruction_prefetch(ptr noundef %0, i32 noundef %9, i32 noundef %19, i32 noundef 127, i32 noundef 0, i32 noundef %93) #2
  br label %102

102:                                              ; preds = %92, %101
  %103 = add nuw i32 %.4307, 1
  %exitcond326.not = icmp eq i32 %103, %6
  br i1 %exitcond326.not, label %.lr.ph310, label %92, !llvm.loop !17

104:                                              ; preds = %.lr.ph310, %104
  %.5309 = phi i32 [ 0, %.lr.ph310 ], [ %111, %104 ]
  %105 = mul i32 %88, %.5309
  %106 = icmp eq i32 %.5309, %89
  %107 = and i1 %90, %106
  %108 = zext i1 %107 to i32
  %109 = select i1 %107, i32 %15, i32 0
  %110 = load i32, ptr %91, align 4, !tbaa !5
  tail call void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef %0, i32 noundef %8, i32 noundef %20, i32 noundef 127, i32 noundef 0, i32 noundef %105, i8 noundef signext %11, i32 noundef %.5309, i32 noundef %108, i32 noundef %109, i32 noundef %13, i32 noundef %14, i32 noundef %110, i32 noundef 1)
  %111 = add nuw i32 %.5309, 1
  %exitcond327.not = icmp eq i32 %111, %6
  br i1 %exitcond327.not, label %.loopexit, label %104, !llvm.loop !18

.lr.ph306:                                        ; preds = %116
  %112 = mul i32 %21, %10
  %113 = add i32 %6, -1
  %114 = icmp ne i32 %12, 0
  %115 = getelementptr inbounds i8, ptr %2, i64 96
  %.not255 = icmp ne i32 %16, 0
  br label %124

116:                                              ; preds = %.lr.ph304, %116
  %.6303 = phi i32 [ 0, %.lr.ph304 ], [ %123, %116 ]
  %117 = mul i32 %86, %.6303
  %118 = icmp eq i32 %.6303, %83
  %119 = and i1 %84, %118
  %120 = zext i1 %119 to i32
  %121 = select i1 %119, i32 %15, i32 0
  %122 = load i32, ptr %85, align 4, !tbaa !5
  tail call void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef %0, i32 noundef %7, i32 noundef %20, i32 noundef 127, i32 noundef 0, i32 noundef %117, i8 noundef signext %11, i32 noundef %.6303, i32 noundef %120, i32 noundef %121, i32 noundef %13, i32 noundef %14, i32 noundef %122, i32 noundef 0)
  %123 = add nuw i32 %.6303, 1
  %exitcond324.not = icmp eq i32 %123, %6
  br i1 %exitcond324.not, label %.lr.ph306, label %116, !llvm.loop !19

124:                                              ; preds = %.lr.ph306, %134
  %.7305 = phi i32 [ 0, %.lr.ph306 ], [ %135, %134 ]
  %125 = mul i32 %112, %.7305
  %126 = icmp eq i32 %.7305, %113
  %127 = and i1 %114, %126
  %128 = zext i1 %127 to i32
  %129 = select i1 %127, i32 %15, i32 0
  %130 = load i32, ptr %115, align 4, !tbaa !5
  tail call void @libxsmm_x86_instruction_unified_vec_move_ext(ptr noundef %0, i32 noundef %8, i32 noundef %18, i32 noundef 127, i32 noundef 0, i32 noundef %125, i8 noundef signext %11, i32 noundef %.7305, i32 noundef %128, i32 noundef %129, i32 noundef %13, i32 noundef %14, i32 noundef %130, i32 noundef 1)
  %131 = and i32 %125, 63
  %132 = icmp eq i32 %131, 0
  %or.cond265 = and i1 %.not255, %132
  br i1 %or.cond265, label %133, label %134

133:                                              ; preds = %124
  tail call void @libxsmm_x86_instruction_prefetch(ptr noundef %0, i32 noundef %9, i32 noundef %19, i32 noundef 127, i32 noundef 0, i32 noundef %125) #2
  br label %134

134:                                              ; preds = %124, %133
  %135 = add nuw i32 %.7305, 1
  %exitcond325.not = icmp eq i32 %135, %6
  br i1 %exitcond325.not, label %.loopexit, label %124, !llvm.loop !20

.loopexit:                                        ; preds = %134, %104
  br i1 %.not, label %.thread284, label %.thread284.sink.split

.loopexit.thread:                                 ; preds = %67
  br i1 %.not, label %.thread284, label %.thread284.sink.split

.thread284.sink.split:                            ; preds = %.loopexit.thread, %.loopexit
  %136 = getelementptr inbounds i8, ptr %3, i64 44
  %137 = load i32, ptr %136, align 4, !tbaa !21
  %138 = zext i32 %4 to i64
  %139 = zext i32 %5 to i64
  %140 = mul nuw nsw i64 %139, %138
  %141 = zext i32 %10 to i64
  %142 = mul nuw nsw i64 %140, %141
  %143 = zext i32 %22 to i64
  %144 = mul nuw nsw i64 %142, %143
  tail call void @libxsmm_x86_instruction_alu_imm(ptr noundef %0, i32 noundef %137, i32 noundef %20, i64 noundef %144) #2
  br label %.thread284

.thread284:                                       ; preds = %.thread284.sink.split, %.loopexit.thread, %.thread, %.thread272, %.loopexit
  ret void
}

declare void @libxsmm_generator_mateltwise_header_m_loop(ptr noundef, ptr noundef, ptr noundef, i32 noundef) local_unnamed_addr #1

declare void @libxsmm_x86_instruction_prefetch(ptr noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef, i32 noundef) local_unnamed_addr #1

declare void @libxsmm_generator_mateltwise_footer_m_loop(ptr noundef, ptr noundef, ptr noundef, i32 noundef, i32 noundef) local_unnamed_addr #1

attributes #0 = { nounwind uwtable "min-legal-vector-width"="0" "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #1 = { "no-trapping-math"="true" "stack-protector-buffer-size"="8" "target-cpu"="x86-64" "target-features"="+cmov,+cx8,+fxsr,+mmx,+sse,+sse2,+x87" "tune-cpu"="generic" }
attributes #2 = { nounwind }

!llvm.module.flags = !{!0, !1, !2, !3}
!llvm.ident = !{!4}

!0 = !{i32 1, !"wchar_size", i32 4}
!1 = !{i32 8, !"PIC Level", i32 2}
!2 = !{i32 7, !"PIE Level", i32 2}
!3 = !{i32 7, !"uwtable", i32 2}
!4 = !{!"clang version 19.1.0 (git@github.com:llvm/llvm-project.git a4bf6cd7cfb1a1421ba92bca9d017b49936c55e4)"}
!5 = !{!6, !7, i64 96}
!6 = !{!"libxsmm_mateltwise_gp_reg_mapping_struct", !7, i64 0, !7, i64 4, !7, i64 8, !7, i64 12, !7, i64 16, !7, i64 20, !7, i64 24, !7, i64 28, !7, i64 32, !7, i64 36, !7, i64 40, !7, i64 44, !7, i64 48, !7, i64 52, !7, i64 56, !7, i64 60, !7, i64 64, !7, i64 68, !7, i64 72, !7, i64 76, !7, i64 80, !7, i64 84, !7, i64 88, !7, i64 92, !7, i64 96, !7, i64 100, !7, i64 104, !7, i64 108, !7, i64 112, !7, i64 116, !7, i64 120, !7, i64 124, !7, i64 128, !7, i64 132, !7, i64 136, !7, i64 140, !7, i64 144}
!7 = !{!"int", !8, i64 0}
!8 = !{!"omnipotent char", !9, i64 0}
!9 = !{!"Simple C/C++ TBAA"}
!10 = distinct !{!10, !11}
!11 = !{!"llvm.loop.mustprogress"}
!12 = distinct !{!12, !11}
!13 = distinct !{!13, !11}
!14 = distinct !{!14, !11}
!15 = !{!16, !7, i64 40}
!16 = !{!"libxsmm_mateltwise_kernel_config_struct", !7, i64 0, !7, i64 4, !7, i64 8, !7, i64 12, !7, i64 16, !7, i64 20, !7, i64 24, !7, i64 28, !7, i64 32, !7, i64 36, !7, i64 40, !7, i64 44, !7, i64 48, !7, i64 52, !7, i64 56, !7, i64 60, !7, i64 64, !7, i64 68, !7, i64 72, !7, i64 76, !7, i64 80, !7, i64 84, !7, i64 88, !7, i64 92, !7, i64 96, !7, i64 100, !7, i64 104, !7, i64 108, !7, i64 112, !7, i64 116, !7, i64 120, !7, i64 124, !7, i64 128, !7, i64 132, !7, i64 136, !7, i64 140, !7, i64 144, !7, i64 148, !7, i64 152, !7, i64 156, !7, i64 160, !7, i64 164, !7, i64 168, !7, i64 172, !7, i64 176, !7, i64 180, !7, i64 184, !7, i64 188, !7, i64 192, !7, i64 196, !7, i64 200, !7, i64 204, !7, i64 208, !7, i64 212, !7, i64 216, !7, i64 220, !7, i64 224, !7, i64 228, !7, i64 232, !7, i64 236, !7, i64 240, !7, i64 244, !7, i64 248, !7, i64 252, !7, i64 256, !7, i64 260, !7, i64 264, !7, i64 268, !7, i64 272, !7, i64 276, !7, i64 280, !7, i64 284, !7, i64 288, !7, i64 292, !7, i64 296, !7, i64 300, !7, i64 304, !7, i64 308, !7, i64 312, !7, i64 316, !7, i64 320, !7, i64 324, !7, i64 328, !7, i64 332, !7, i64 336, !7, i64 340, !7, i64 344, !7, i64 348, !7, i64 352, !7, i64 356, !7, i64 360, !7, i64 364, !7, i64 368, !7, i64 372, !7, i64 376, !7, i64 380, !7, i64 384, !7, i64 388, !7, i64 392, !7, i64 396, !7, i64 400, !7, i64 404, !7, i64 408, !7, i64 412, !7, i64 416, !7, i64 420, !7, i64 424, !7, i64 428, !7, i64 432, !7, i64 436, !7, i64 440, !7, i64 444, !7, i64 448, !7, i64 452, !7, i64 456, !7, i64 460, !7, i64 464, !7, i64 468, !7, i64 472, !7, i64 476, !7, i64 480, !7, i64 484, !7, i64 488, !7, i64 492, !7, i64 496, !7, i64 500, !7, i64 504, !7, i64 508, !8, i64 512}
!17 = distinct !{!17, !11}
!18 = distinct !{!18, !11}
!19 = distinct !{!19, !11}
!20 = distinct !{!20, !11}
!21 = !{!16, !7, i64 44}


; Effective O3 passes: CorrelatedValuePropagationPass,EarlyCSEPass,GVNPass,GlobalOptPass,IPSCCPPass,IndVarSimplifyPass,InferFunctionAttrsPass,InstCombinePass,JumpThreadingPass,LICMPass,LoopRotatePass,LoopSimplifyPass,LoopUnrollPass,PostOrderFunctionAttrsPass,ReassociatePass,SROAPass,SimplifyCFGPass,TailCallElimPass