void cpu_gemm_tn(int TA, int TB, int M, int N, int K, float ALPHA, float *A,
                 int lda, float *B, int ldb, float BETA, float *C, int ldc) {
  int i, j, k;
  for (i = 0; i < M; ++i) {
    for (k = 0; k < K; ++k) {
      register float A_PART = ALPHA * A[k * lda + i];
      for (j = 0; j < N; ++j) {
        C[i * ldc + j] += A_PART * B[k * ldb + j];
      }
    }
  }
}


x86 assembly (clang, -O0):
<cpu_gemm_tn>:
push   %rbp
mov    %rsp,%rbp
mov    0x30(%rbp),%eax
mov    0x28(%rbp),%rax
mov    0x20(%rbp),%eax
mov    0x18(%rbp),%rax
mov    0x10(%rbp),%eax
mov    %edi,-0x4(%rbp)
mov    %esi,-0x8(%rbp)
mov    %edx,-0xc(%rbp)
mov    %ecx,-0x10(%rbp)
mov    %r8d,-0x14(%rbp)
movss  %xmm0,-0x18(%rbp)
mov    %r9,-0x20(%rbp)
movss  %xmm1,-0x24(%rbp)
movl   $0x0,-0x28(%rbp)
mov    -0x28(%rbp),%eax
cmp    -0xc(%rbp),%eax
jge    11fe <cpu_gemm_tn+0xfe>
movl   $0x0,-0x30(%rbp)
mov    -0x30(%rbp),%eax
cmp    -0x14(%rbp),%eax
jge    11eb <cpu_gemm_tn+0xeb>
movss  -0x18(%rbp),%xmm0
mov    -0x20(%rbp),%rax
mov    -0x30(%rbp),%ecx
imul   0x10(%rbp),%ecx
add    -0x28(%rbp),%ecx
movslq %ecx,%rcx
mulss  (%rax,%rcx,4),%xmm0
movss  %xmm0,-0x34(%rbp)
movl   $0x0,-0x2c(%rbp)
mov    -0x2c(%rbp),%eax
cmp    -0x10(%rbp),%eax
jge    11d8 <cpu_gemm_tn+0xd8>
movss  -0x34(%rbp),%xmm0
mov    0x18(%rbp),%rax
mov    -0x30(%rbp),%ecx
imul   0x20(%rbp),%ecx
add    -0x2c(%rbp),%ecx
movslq %ecx,%rcx
movss  (%rax,%rcx,4),%xmm2
mov    0x28(%rbp),%rax
mov    -0x28(%rbp),%ecx
imul   0x30(%rbp),%ecx
add    -0x2c(%rbp),%ecx
movslq %ecx,%rcx
movss  (%rax,%rcx,4),%xmm1
mulss  %xmm2,%xmm0
addss  %xmm1,%xmm0
movss  %xmm0,(%rax,%rcx,4)
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
jmp    1180 <cpu_gemm_tn+0x80>
jmp    11dd <cpu_gemm_tn+0xdd>
mov    -0x30(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x30(%rbp)
jmp    114d <cpu_gemm_tn+0x4d>
jmp    11f0 <cpu_gemm_tn+0xf0>
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    113a <cpu_gemm_tn+0x3a>
pop    %rbp
ret

x86 assembly (clang, -O2):
<cpu_gemm_tn>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
mov    %r8d,-0x7c(%rsp)
test   %edx,%edx
jle    13fd <cpu_gemm_tn+0x2fd>
mov    0x50(%rsp),%r8
mov    0x40(%rsp),%rbx
movslq 0x38(%rsp),%rsi
mov    %rsi,-0x8(%rsp)
movslq 0x48(%rsp),%rsi
movslq 0x58(%rsp),%rdi
mov    %edx,%edx
mov    %rdx,-0x58(%rsp)
mov    -0x7c(%rsp),%r13d
mov    %ecx,%edx
mov    %edx,%ebp
and    $0xfffffff8,%ebp
mov    %rbp,-0x38(%rsp)
add    $0xfffffffffffffff8,%rbp
mov    %rbp,-0x40(%rsp)
mov    %rbp,%rax
shr    $0x3,%rax
add    $0x1,%rax
mov    %rax,%rbp
mov    %rax,-0x48(%rsp)
and    $0xfffffffffffffffe,%rax
mov    %rax,-0x50(%rsp)
mov    %rdx,%rax
neg    %rax
mov    %rax,-0x18(%rsp)
lea    0x30(%rbx),%rax
mov    %rax,-0x70(%rsp)
mov    %rsi,-0x10(%rsp)
lea    0x0(,%rsi,4),%r14
lea    0x30(%r8),%rbp
mov    %rdi,-0x68(%rsp)
lea    0x0(,%rdi,4),%rax
mov    %rax,-0x60(%rsp)
add    $0x4,%r8
xor    %r12d,%r12d
mov    %r9,-0x30(%rsp)
jmp    11da <cpu_gemm_tn+0xda>
nopw   0x0(%rax,%rax,1)
add    $0x1,%r12
mov    -0x60(%rsp),%rax
add    %rax,%rbp
add    %rax,%r8
cmp    -0x58(%rsp),%r12
je     13fd <cpu_gemm_tn+0x2fd>
cmpl   $0x0,-0x7c(%rsp)
jle    11c0 <cpu_gemm_tn+0xc0>
mov    %r12,%rdi
imul   -0x68(%rsp),%rdi
lea    (%rdi,%rdx,1),%rax
mov    0x50(%rsp),%rsi
mov    %rdi,-0x78(%rsp)
lea    (%rsi,%rdi,4),%rdi
mov    %rdi,-0x20(%rsp)
lea    (%rsi,%rax,4),%rax
mov    %rax,-0x28(%rsp)
mov    %rbx,%rsi
mov    -0x70(%rsp),%r10
xor    %r15d,%r15d
jmp    122f <cpu_gemm_tn+0x12f>
nopw   0x0(%rax,%rax,1)
add    $0x1,%r15
add    %r14,%r10
add    %r14,%rsi
cmp    %r13,%r15
je     11c0 <cpu_gemm_tn+0xc0>
test   %ecx,%ecx
jle    1220 <cpu_gemm_tn+0x120>
mov    %r15,%r11
imul   -0x10(%rsp),%r11
mov    %r15,%rax
imul   -0x8(%rsp),%rax
add    %r12,%rax
movss  (%r9,%rax,4),%xmm1
mulss  %xmm0,%xmm1
cmp    $0x8,%ecx
jb     1279 <cpu_gemm_tn+0x179>
lea    (%r11,%rdx,1),%rax
lea    (%rbx,%rax,4),%rax
cmp    %rax,-0x20(%rsp)
jae    130b <cpu_gemm_tn+0x20b>
lea    (%rbx,%r11,4),%rax
cmp    -0x28(%rsp),%rax
jae    130b <cpu_gemm_tn+0x20b>
xor    %eax,%eax
mov    %rax,%rdi
test   $0x1,%dl
je     12b3 <cpu_gemm_tn+0x1b3>
add    %rax,%r11
mov    -0x78(%rsp),%rdi
add    %rax,%rdi
movss  (%rbx,%r11,4),%xmm2
mulss  %xmm1,%xmm2
mov    0x50(%rsp),%rbx
addss  (%rbx,%rdi,4),%xmm2
movss  %xmm2,(%rbx,%rdi,4)
mov    0x40(%rsp),%rbx
mov    %rax,%rdi
or     $0x1,%rdi
not    %rax
cmp    -0x18(%rsp),%rax
je     1220 <cpu_gemm_tn+0x120>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax,%rax,1)
movss  (%rsi,%rdi,4),%xmm2
mulss  %xmm1,%xmm2
addss  -0x4(%r8,%rdi,4),%xmm2
movss  %xmm2,-0x4(%r8,%rdi,4)
movss  0x4(%rsi,%rdi,4),%xmm2
mulss  %xmm1,%xmm2
addss  (%r8,%rdi,4),%xmm2
movss  %xmm2,(%r8,%rdi,4)
add    $0x2,%rdi
cmp    %rdi,%rdx
jne    12d0 <cpu_gemm_tn+0x1d0>
jmp    1220 <cpu_gemm_tn+0x120>
movaps %xmm1,%xmm2
shufps $0x0,%xmm1,%xmm2
cmpq   $0x0,-0x40(%rsp)
je     13f2 <cpu_gemm_tn+0x2f2>
mov    -0x50(%rsp),%r9
xor    %edi,%edi
cs nopw 0x0(%rax,%rax,1)
nop
movups -0x30(%r10,%rdi,4),%xmm3
movups -0x20(%r10,%rdi,4),%xmm4
mulps  %xmm2,%xmm3
movups -0x30(%rbp,%rdi,4),%xmm5
addps  %xmm3,%xmm5
movups -0x20(%rbp,%rdi,4),%xmm3
movups -0x10(%rbp,%rdi,4),%xmm6
movups 0x0(%rbp,%rdi,4),%xmm7
mulps  %xmm2,%xmm4
addps  %xmm3,%xmm4
movups %xmm5,-0x30(%rbp,%rdi,4)
movups %xmm4,-0x20(%rbp,%rdi,4)
movups -0x10(%r10,%rdi,4),%xmm3
movups (%r10,%rdi,4),%xmm4
mulps  %xmm2,%xmm3
addps  %xmm6,%xmm3
mulps  %xmm2,%xmm4
addps  %xmm7,%xmm4
movups %xmm3,-0x10(%rbp,%rdi,4)
movups %xmm4,0x0(%rbp,%rdi,4)
add    $0x10,%rdi
add    $0xfffffffffffffffe,%r9
jne    1330 <cpu_gemm_tn+0x230>
testb  $0x1,-0x48(%rsp)
je     13d2 <cpu_gemm_tn+0x2d2>
lea    (%rdi,%r11,1),%rax
mov    0x40(%rsp),%rbx
movups (%rbx,%rax,4),%xmm3
movups 0x10(%rbx,%rax,4),%xmm4
add    -0x78(%rsp),%rdi
mov    0x50(%rsp),%rax
movups (%rax,%rdi,4),%xmm5
movups 0x10(%rax,%rdi,4),%xmm6
mulps  %xmm2,%xmm3
addps  %xmm5,%xmm3
mulps  %xmm2,%xmm4
addps  %xmm6,%xmm4
movups %xmm3,(%rax,%rdi,4)
movups %xmm4,0x10(%rax,%rdi,4)
mov    -0x38(%rsp),%rdi
mov    %rdi,%rax
cmp    %rdx,%rdi
mov    -0x30(%rsp),%r9
mov    0x40(%rsp),%rbx
je     1220 <cpu_gemm_tn+0x120>
jmp    127b <cpu_gemm_tn+0x17b>
xor    %edi,%edi
testb  $0x1,-0x48(%rsp)
jne    1398 <cpu_gemm_tn+0x298>
jmp    13d2 <cpu_gemm_tn+0x2d2>
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define void @cpu_gemm_tn(i32 %0, i32 %1, i32 %2, i32 %3, i32 %4, float %5, float* %6, i32 %7, float* %8, i32 %9, float %10, float* %11, i32 %12) {
%14 = alloca i32
%15 = alloca i32
%16 = alloca i32
%17 = alloca i32
%18 = alloca i32
%19 = alloca float
%20 = alloca float*
%21 = alloca i32
%22 = alloca float*
%23 = alloca i32
%24 = alloca float
%25 = alloca float*
%26 = alloca i32
%27 = alloca i32
%28 = alloca i32
%29 = alloca i32
%30 = alloca float
store i32 %0, i32* %14
store i32 %1, i32* %15
store i32 %2, i32* %16
store i32 %3, i32* %17
store i32 %4, i32* %18
store float %5, float* %19
store float* %6, float** %20
store i32 %7, i32* %21
store float* %8, float** %22
store i32 %9, i32* %23
store float %10, float* %24
store float* %11, float** %25
store i32 %12, i32* %26
store i32 0, i32* %27
br label %31
31: ; preds = %85, %13
%32 = load i32, i32* %27
%33 = load i32, i32* %16
%34 = icmp slt i32 %32, %33
br i1 %34, label %35, label %88
35: ; preds = %31
store i32 0, i32* %29
br label %36
36: ; preds = %81, %35
%37 = load i32, i32* %29
%38 = load i32, i32* %18
%39 = icmp slt i32 %37, %38
br i1 %39, label %40, label %84
40: ; preds = %36
%41 = load float, float* %19
%42 = load float*, float** %20
%43 = load i32, i32* %29
%44 = load i32, i32* %21
%45 = mul nsw i32 %43, %44
%46 = load i32, i32* %27
%47 = add nsw i32 %45, %46
%48 = sext i32 %47 to i64
%49 = getelementptr inbounds float, float* %42, i64 %48
%50 = load float, float* %49
%51 = fmul float %41, %50
store float %51, float* %30
store i32 0, i32* %28
br label %52
52: ; preds = %77, %40
%53 = load i32, i32* %28
%54 = load i32, i32* %17
%55 = icmp slt i32 %53, %54
br i1 %55, label %56, label %80
56: ; preds = %52
%57 = load float, float* %30
%58 = load float*, float** %22
%59 = load i32, i32* %29
%60 = load i32, i32* %23
%61 = mul nsw i32 %59, %60
%62 = load i32, i32* %28
%63 = add nsw i32 %61, %62
%64 = sext i32 %63 to i64
%65 = getelementptr inbounds float, float* %58, i64 %64
%66 = load float, float* %65
%67 = load float*, float** %25
%68 = load i32, i32* %27
%69 = load i32, i32* %26
%70 = mul nsw i32 %68, %69
%71 = load i32, i32* %28
%72 = add nsw i32 %70, %71
%73 = sext i32 %72 to i64
%74 = getelementptr inbounds float, float* %67, i64 %73
%75 = load float, float* %74
%76 = call float @llvm.fmuladd.f32(float %57, float %66, float %75)
store float %76, float* %74
br label %77
77: ; preds = %56
%78 = load i32, i32* %28
%79 = add nsw i32 %78, 1
store i32 %79, i32* %28
br label %52
80: ; preds = %52
br label %81
81: ; preds = %80
%82 = load i32, i32* %29
%83 = add nsw i32 %82, 1
store i32 %83, i32* %29
br label %36
84: ; preds = %36
br label %85
85: ; preds = %84
%86 = load i32, i32* %27
%87 = add nsw i32 %86, 1
store i32 %87, i32* %27
br label %31
88: ; preds = %31
ret void
}

LLVM IR (-O2):
define void @cpu_gemm_tn(i32 %0, i32 %1, i32 %2, i32 %3, i32 %4, float %5, float* nocapture %6, i32 %7, float* nocapture %8, i32 %9, float %10, float* nocapture %11, i32 %12) {
%14 = icmp sgt i32 %2, 0
br i1 %14, label %15, label %173
15: ; preds = %13
%16 = icmp sgt i32 %4, 0
%17 = icmp sgt i32 %3, 0
%18 = sext i32 %7 to i64
%19 = sext i32 %9 to i64
%20 = sext i32 %12 to i64
%21 = zext i32 %2 to i64
%22 = zext i32 %4 to i64
%23 = zext i32 %3 to i64
%24 = and i64 %23, 4294967288
%25 = add nsw i64 %24, -8
%26 = lshr exact i64 %25, 3
%27 = add nuw nsw i64 %26, 1
%28 = icmp ult i32 %3, 8
%29 = and i64 %23, 4294967288
%30 = and i64 %27, 1
%31 = icmp eq i64 %25, 0
%32 = and i64 %27, 4611686018427387902
%33 = icmp eq i64 %30, 0
%34 = icmp eq i64 %29, %23
%35 = and i64 %23, 1
%36 = icmp eq i64 %35, 0
%37 = sub nsw i64 0, %23
br label %38
38: ; preds = %15, %170
%39 = phi i64 [ 0, %15 ], [ %171, %170 ]
%40 = mul i64 %39, %20
%41 = getelementptr float, float* %11, i64 %40
%42 = add i64 %40, %23
%43 = getelementptr float, float* %11, i64 %42
br i1 %16, label %44, label %170
44: ; preds = %38
%45 = mul nsw i64 %39, %20
br label %46
46: ; preds = %44, %167
%47 = phi i64 [ 0, %44 ], [ %168, %167 ]
%48 = mul i64 %47, %19
%49 = getelementptr float, float* %8, i64 %48
%50 = add i64 %48, %23
%51 = getelementptr float, float* %8, i64 %50
%52 = mul nsw i64 %47, %18
%53 = add nsw i64 %52, %39
%54 = getelementptr inbounds float, float* %6, i64 %53
%55 = load float, float* %54
%56 = fmul float %55, %5
br i1 %17, label %57, label %167
57: ; preds = %46
%58 = mul nsw i64 %47, %19
br i1 %28, label %133, label %59
59: ; preds = %57
%60 = icmp ult float* %41, %51
%61 = icmp ult float* %49, %43
%62 = and i1 %60, %61
br i1 %62, label %133, label %63
63: ; preds = %59
%64 = insertelement <4 x float> poison, float %56, i64 0
%65 = shufflevector <4 x float> %64, <4 x float> poison, <4 x i32> zeroinitializer
%66 = insertelement <4 x float> poison, float %56, i64 0
%67 = shufflevector <4 x float> %66, <4 x float> poison, <4 x i32> zeroinitializer
br i1 %31, label %111, label %68
68: ; preds = %63, %68
%69 = phi i64 [ %108, %68 ], [ 0, %63 ]
%70 = phi i64 [ %109, %68 ], [ 0, %63 ]
%71 = add nsw i64 %69, %58
%72 = getelementptr inbounds float, float* %8, i64 %71
%73 = bitcast float* %72 to <4 x float>*
%74 = load <4 x float>, <4 x float>* %73
%75 = getelementptr inbounds float, float* %72, i64 4
%76 = bitcast float* %75 to <4 x float>*
%77 = load <4 x float>, <4 x float>* %76
%78 = add nsw i64 %69, %45
%79 = getelementptr inbounds float, float* %11, i64 %78
%80 = bitcast float* %79 to <4 x float>*
%81 = load <4 x float>, <4 x float>* %80
%82 = getelementptr inbounds float, float* %79, i64 4
%83 = bitcast float* %82 to <4 x float>*
%84 = load <4 x float>, <4 x float>* %83
%85 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %65, <4 x float> %74, <4 x float> %81)
%86 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %67, <4 x float> %77, <4 x float> %84)
%87 = bitcast float* %79 to <4 x float>*
store <4 x float> %85, <4 x float>* %87
%88 = bitcast float* %82 to <4 x float>*
store <4 x float> %86, <4 x float>* %88
%89 = or i64 %69, 8
%90 = add nsw i64 %89, %58
%91 = getelementptr inbounds float, float* %8, i64 %90
%92 = bitcast float* %91 to <4 x float>*
%93 = load <4 x float>, <4 x float>* %92
%94 = getelementptr inbounds float, float* %91, i64 4
%95 = bitcast float* %94 to <4 x float>*
%96 = load <4 x float>, <4 x float>* %95
%97 = add nsw i64 %89, %45
%98 = getelementptr inbounds float, float* %11, i64 %97
%99 = bitcast float* %98 to <4 x float>*
%100 = load <4 x float>, <4 x float>* %99
%101 = getelementptr inbounds float, float* %98, i64 4
%102 = bitcast float* %101 to <4 x float>*
%103 = load <4 x float>, <4 x float>* %102
%104 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %65, <4 x float> %93, <4 x float> %100)
%105 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %67, <4 x float> %96, <4 x float> %103)
%106 = bitcast float* %98 to <4 x float>*
store <4 x float> %104, <4 x float>* %106
%107 = bitcast float* %101 to <4 x float>*
store <4 x float> %105, <4 x float>* %107
%108 = add nuw i64 %69, 16
%109 = add i64 %70, 2
%110 = icmp eq i64 %109, %32
br i1 %110, label %111, label %68
111: ; preds = %68, %63
%112 = phi i64 [ 0, %63 ], [ %108, %68 ]
br i1 %33, label %132, label %113
113: ; preds = %111
%114 = add nsw i64 %112, %58
%115 = getelementptr inbounds float, float* %8, i64 %114
%116 = bitcast float* %115 to <4 x float>*
%117 = load <4 x float>, <4 x float>* %116
%118 = getelementptr inbounds float, float* %115, i64 4
%119 = bitcast float* %118 to <4 x float>*
%120 = load <4 x float>, <4 x float>* %119
%121 = add nsw i64 %112, %45
%122 = getelementptr inbounds float, float* %11, i64 %121
%123 = bitcast float* %122 to <4 x float>*
%124 = load <4 x float>, <4 x float>* %123
%125 = getelementptr inbounds float, float* %122, i64 4
%126 = bitcast float* %125 to <4 x float>*
%127 = load <4 x float>, <4 x float>* %126
%128 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %65, <4 x float> %117, <4 x float> %124)
%129 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %67, <4 x float> %120, <4 x float> %127)
%130 = bitcast float* %122 to <4 x float>*
store <4 x float> %128, <4 x float>* %130
%131 = bitcast float* %125 to <4 x float>*
store <4 x float> %129, <4 x float>* %131
br label %132
132: ; preds = %111, %113
br i1 %34, label %167, label %133
133: ; preds = %59, %57, %132
%134 = phi i64 [ 0, %59 ], [ 0, %57 ], [ %29, %132 ]
%135 = xor i64 %134, -1
br i1 %36, label %145, label %136
136: ; preds = %133
%137 = add nsw i64 %134, %58
%138 = getelementptr inbounds float, float* %8, i64 %137
%139 = load float, float* %138
%140 = add nsw i64 %134, %45
%141 = getelementptr inbounds float, float* %11, i64 %140
%142 = load float, float* %141
%143 = tail call float @llvm.fmuladd.f32(float %56, float %139, float %142)
store float %143, float* %141
%144 = or i64 %134, 1
br label %145
145: ; preds = %136, %133
%146 = phi i64 [ %134, %133 ], [ %144, %136 ]
%147 = icmp eq i64 %135, %37
br i1 %147, label %167, label %148
148: ; preds = %145, %148
%149 = phi i64 [ %165, %148 ], [ %146, %145 ]
%150 = add nsw i64 %149, %58
%151 = getelementptr inbounds float, float* %8, i64 %150
%152 = load float, float* %151
%153 = add nsw i64 %149, %45
%154 = getelementptr inbounds float, float* %11, i64 %153
%155 = load float, float* %154
%156 = tail call float @llvm.fmuladd.f32(float %56, float %152, float %155)
store float %156, float* %154
%157 = add nuw nsw i64 %149, 1
%158 = add nsw i64 %157, %58
%159 = getelementptr inbounds float, float* %8, i64 %158
%160 = load float, float* %159
%161 = add nsw i64 %157, %45
%162 = getelementptr inbounds float, float* %11, i64 %161
%163 = load float, float* %162
%164 = tail call float @llvm.fmuladd.f32(float %56, float %160, float %163)
store float %164, float* %162
%165 = add nuw nsw i64 %149, 2
%166 = icmp eq i64 %165, %23
br i1 %166, label %167, label %148
167: ; preds = %145, %148, %132, %46
%168 = add nuw nsw i64 %47, 1
%169 = icmp eq i64 %168, %22
br i1 %169, label %170, label %46
170: ; preds = %167, %38
%171 = add nuw nsw i64 %39, 1
%172 = icmp eq i64 %171, %21
br i1 %172, label %173, label %38
173: ; preds = %170, %13
ret void
}