void gemm_tn(int M, int N, int K, float ALPHA, float *A, int lda, float *B,
             int ldb, float *C, int ldc) {
  int i, j, k;
  for (i = 0; i < M; ++i) {
    for (k = 0; k < K; ++k) {
      register float A_PART = ALPHA * A[k * lda + i];
      for (j = 0; j < N; ++j) {
        C[i * ldc + j] += A_PART * B[k * ldb + j];
      }
    }
  }
}


x86 assembly (clang, -O0):
<gemm_tn>:
push   %rbp
mov    %rsp,%rbp
mov    0x20(%rbp),%eax
mov    0x18(%rbp),%rax
mov    0x10(%rbp),%eax
mov    %edi,-0x4(%rbp)
mov    %esi,-0x8(%rbp)
mov    %edx,-0xc(%rbp)
movss  %xmm0,-0x10(%rbp)
mov    %rcx,-0x18(%rbp)
mov    %r8d,-0x1c(%rbp)
mov    %r9,-0x28(%rbp)
movl   $0x0,-0x2c(%rbp)
mov    -0x2c(%rbp),%eax
cmp    -0x4(%rbp),%eax
jge    11f3 <gemm_tn+0xf3>
movl   $0x0,-0x34(%rbp)
mov    -0x34(%rbp),%eax
cmp    -0xc(%rbp),%eax
jge    11e0 <gemm_tn+0xe0>
movss  -0x10(%rbp),%xmm0
mov    -0x18(%rbp),%rax
mov    -0x34(%rbp),%ecx
imul   -0x1c(%rbp),%ecx
add    -0x2c(%rbp),%ecx
movslq %ecx,%rcx
mulss  (%rax,%rcx,4),%xmm0
movss  %xmm0,-0x38(%rbp)
movl   $0x0,-0x30(%rbp)
mov    -0x30(%rbp),%eax
cmp    -0x8(%rbp),%eax
jge    11cd <gemm_tn+0xcd>
movss  -0x38(%rbp),%xmm0
mov    -0x28(%rbp),%rax
mov    -0x34(%rbp),%ecx
imul   0x10(%rbp),%ecx
add    -0x30(%rbp),%ecx
movslq %ecx,%rcx
movss  (%rax,%rcx,4),%xmm2
mov    0x18(%rbp),%rax
mov    -0x2c(%rbp),%ecx
imul   0x20(%rbp),%ecx
add    -0x30(%rbp),%ecx
movslq %ecx,%rcx
movss  (%rax,%rcx,4),%xmm1
mulss  %xmm2,%xmm0
addss  %xmm1,%xmm0
movss  %xmm0,(%rax,%rcx,4)
mov    -0x30(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x30(%rbp)
jmp    1175 <gemm_tn+0x75>
jmp    11d2 <gemm_tn+0xd2>
mov    -0x34(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x34(%rbp)
jmp    1142 <gemm_tn+0x42>
jmp    11e5 <gemm_tn+0xe5>
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
jmp    112f <gemm_tn+0x2f>
pop    %rbp
ret

x86 assembly (clang, -O2):
<gemm_tn>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
mov    %rcx,-0x8(%rsp)
mov    %edx,-0x74(%rsp)
test   %edi,%edi
jle    13e0 <gemm_tn+0x2e0>
mov    %r9,%r15
mov    0x40(%rsp),%r9
movslq %r8d,%rbx
movslq 0x38(%rsp),%rcx
movslq 0x48(%rsp),%rdx
mov    %edi,%edi
mov    %rdi,-0x50(%rsp)
mov    -0x74(%rsp),%r13d
mov    %esi,%edi
mov    %edi,%ebp
and    $0xfffffff8,%ebp
mov    %rbp,-0x30(%rsp)
add    $0xfffffffffffffff8,%rbp
mov    %rbp,-0x38(%rsp)
mov    %rbp,%rax
shr    $0x3,%rax
add    $0x1,%rax
mov    %rax,%rbp
mov    %rax,-0x40(%rsp)
and    $0xfffffffffffffffe,%rax
mov    %rax,-0x48(%rsp)
mov    %rdi,%rax
neg    %rax
mov    %rax,-0x18(%rsp)
lea    0x30(%r15),%rax
mov    %rax,-0x68(%rsp)
mov    %rcx,-0x10(%rsp)
lea    0x0(,%rcx,4),%r14
lea    0x30(%r9),%rbp
mov    %rdx,-0x60(%rsp)
lea    0x0(,%rdx,4),%rax
mov    %rax,-0x58(%rsp)
lea    0x4(%r9),%rdx
xor    %r12d,%r12d
jmp    11ca <gemm_tn+0xca>
nopl   (%rax)
add    $0x1,%r12
mov    -0x58(%rsp),%rax
add    %rax,%rbp
add    %rax,%rdx
cmp    -0x50(%rsp),%r12
je     13e0 <gemm_tn+0x2e0>
cmpl   $0x0,-0x74(%rsp)
jle    11b0 <gemm_tn+0xb0>
mov    %r12,%rax
imul   -0x60(%rsp),%rax
lea    (%rax,%rdi,1),%r8
mov    0x40(%rsp),%rcx
mov    %rax,-0x70(%rsp)
lea    (%rcx,%rax,4),%rax
mov    %rax,-0x20(%rsp)
lea    (%rcx,%r8,4),%rax
mov    %rax,-0x28(%rsp)
mov    %r15,%r9
mov    -0x68(%rsp),%r10
xor    %r11d,%r11d
jmp    121f <gemm_tn+0x11f>
nopw   0x0(%rax,%rax,1)
add    $0x1,%r11
add    %r14,%r10
add    %r14,%r9
cmp    %r13,%r11
je     11b0 <gemm_tn+0xb0>
test   %esi,%esi
jle    1210 <gemm_tn+0x110>
mov    %r11,%r8
imul   -0x10(%rsp),%r8
mov    %r11,%rax
imul   %rbx,%rax
add    %r12,%rax
mov    -0x8(%rsp),%rcx
movss  (%rcx,%rax,4),%xmm1
mulss  %xmm0,%xmm1
cmp    $0x8,%esi
jb     126b <gemm_tn+0x16b>
lea    (%r8,%rdi,1),%rax
lea    (%r15,%rax,4),%rax
cmp    %rax,-0x20(%rsp)
jae    12f9 <gemm_tn+0x1f9>
lea    (%r15,%r8,4),%rax
cmp    -0x28(%rsp),%rax
jae    12f9 <gemm_tn+0x1f9>
xor    %ecx,%ecx
mov    %rcx,%rax
test   $0x1,%dil
je     12a7 <gemm_tn+0x1a7>
add    %rcx,%r8
mov    -0x70(%rsp),%rax
add    %rcx,%rax
movss  (%r15,%r8,4),%xmm2
mulss  %xmm1,%xmm2
mov    %rbx,%r8
mov    0x40(%rsp),%rbx
addss  (%rbx,%rax,4),%xmm2
movss  %xmm2,(%rbx,%rax,4)
mov    %r8,%rbx
mov    %rcx,%rax
or     $0x1,%rax
not    %rcx
cmp    -0x18(%rsp),%rcx
je     1210 <gemm_tn+0x110>
cs nopw 0x0(%rax,%rax,1)
nop
movss  (%r9,%rax,4),%xmm2
mulss  %xmm1,%xmm2
addss  -0x4(%rdx,%rax,4),%xmm2
movss  %xmm2,-0x4(%rdx,%rax,4)
movss  0x4(%r9,%rax,4),%xmm2
mulss  %xmm1,%xmm2
addss  (%rdx,%rax,4),%xmm2
movss  %xmm2,(%rdx,%rax,4)
add    $0x2,%rax
cmp    %rax,%rdi
jne    12c0 <gemm_tn+0x1c0>
jmp    1210 <gemm_tn+0x110>
movaps %xmm1,%xmm2
shufps $0x0,%xmm1,%xmm2
cmpq   $0x0,-0x38(%rsp)
je     13d5 <gemm_tn+0x2d5>
mov    -0x48(%rsp),%rax
xor    %ecx,%ecx
cs nopw 0x0(%rax,%rax,1)
nopl   (%rax)
movups -0x30(%r10,%rcx,4),%xmm3
movups -0x20(%r10,%rcx,4),%xmm4
mulps  %xmm2,%xmm3
movups -0x30(%rbp,%rcx,4),%xmm5
addps  %xmm3,%xmm5
movups -0x20(%rbp,%rcx,4),%xmm3
movups -0x10(%rbp,%rcx,4),%xmm6
movups 0x0(%rbp,%rcx,4),%xmm7
mulps  %xmm2,%xmm4
addps  %xmm3,%xmm4
movups %xmm5,-0x30(%rbp,%rcx,4)
movups %xmm4,-0x20(%rbp,%rcx,4)
movups -0x10(%r10,%rcx,4),%xmm3
movups (%r10,%rcx,4),%xmm4
mulps  %xmm2,%xmm3
addps  %xmm6,%xmm3
mulps  %xmm2,%xmm4
addps  %xmm7,%xmm4
movups %xmm3,-0x10(%rbp,%rcx,4)
movups %xmm4,0x0(%rbp,%rcx,4)
add    $0x10,%rcx
add    $0xfffffffffffffffe,%rax
jne    1320 <gemm_tn+0x220>
testb  $0x1,-0x40(%rsp)
je     13bf <gemm_tn+0x2bf>
lea    (%rcx,%r8,1),%rax
movups (%r15,%rax,4),%xmm3
movups 0x10(%r15,%rax,4),%xmm4
add    -0x70(%rsp),%rcx
mov    0x40(%rsp),%rax
movups (%rax,%rcx,4),%xmm5
movups 0x10(%rax,%rcx,4),%xmm6
mulps  %xmm2,%xmm3
addps  %xmm5,%xmm3
mulps  %xmm2,%xmm4
addps  %xmm6,%xmm4
movups %xmm3,(%rax,%rcx,4)
movups %xmm4,0x10(%rax,%rcx,4)
mov    -0x30(%rsp),%rax
mov    %rax,%rcx
cmp    %rdi,%rax
je     1210 <gemm_tn+0x110>
jmp    126d <gemm_tn+0x16d>
xor    %ecx,%ecx
testb  $0x1,-0x40(%rsp)
jne    1388 <gemm_tn+0x288>
jmp    13bf <gemm_tn+0x2bf>
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define void @gemm_tn(i32 %0, i32 %1, i32 %2, float %3, float* %4, i32 %5, float* %6, i32 %7, float* %8, i32 %9) {
%11 = alloca i32
%12 = alloca i32
%13 = alloca i32
%14 = alloca float
%15 = alloca float*
%16 = alloca i32
%17 = alloca float*
%18 = alloca i32
%19 = alloca float*
%20 = alloca i32
%21 = alloca i32
%22 = alloca i32
%23 = alloca i32
%24 = alloca float
store i32 %0, i32* %11
store i32 %1, i32* %12
store i32 %2, i32* %13
store float %3, float* %14
store float* %4, float** %15
store i32 %5, i32* %16
store float* %6, float** %17
store i32 %7, i32* %18
store float* %8, float** %19
store i32 %9, i32* %20
store i32 0, i32* %21
br label %25
25: ; preds = %79, %10
%26 = load i32, i32* %21
%27 = load i32, i32* %11
%28 = icmp slt i32 %26, %27
br i1 %28, label %29, label %82
29: ; preds = %25
store i32 0, i32* %23
br label %30
30: ; preds = %75, %29
%31 = load i32, i32* %23
%32 = load i32, i32* %13
%33 = icmp slt i32 %31, %32
br i1 %33, label %34, label %78
34: ; preds = %30
%35 = load float, float* %14
%36 = load float*, float** %15
%37 = load i32, i32* %23
%38 = load i32, i32* %16
%39 = mul nsw i32 %37, %38
%40 = load i32, i32* %21
%41 = add nsw i32 %39, %40
%42 = sext i32 %41 to i64
%43 = getelementptr inbounds float, float* %36, i64 %42
%44 = load float, float* %43
%45 = fmul float %35, %44
store float %45, float* %24
store i32 0, i32* %22
br label %46
46: ; preds = %71, %34
%47 = load i32, i32* %22
%48 = load i32, i32* %12
%49 = icmp slt i32 %47, %48
br i1 %49, label %50, label %74
50: ; preds = %46
%51 = load float, float* %24
%52 = load float*, float** %17
%53 = load i32, i32* %23
%54 = load i32, i32* %18
%55 = mul nsw i32 %53, %54
%56 = load i32, i32* %22
%57 = add nsw i32 %55, %56
%58 = sext i32 %57 to i64
%59 = getelementptr inbounds float, float* %52, i64 %58
%60 = load float, float* %59
%61 = load float*, float** %19
%62 = load i32, i32* %21
%63 = load i32, i32* %20
%64 = mul nsw i32 %62, %63
%65 = load i32, i32* %22
%66 = add nsw i32 %64, %65
%67 = sext i32 %66 to i64
%68 = getelementptr inbounds float, float* %61, i64 %67
%69 = load float, float* %68
%70 = call float @llvm.fmuladd.f32(float %51, float %60, float %69)
store float %70, float* %68
br label %71
71: ; preds = %50
%72 = load i32, i32* %22
%73 = add nsw i32 %72, 1
store i32 %73, i32* %22
br label %46
74: ; preds = %46
br label %75
75: ; preds = %74
%76 = load i32, i32* %23
%77 = add nsw i32 %76, 1
store i32 %77, i32* %23
br label %30
78: ; preds = %30
br label %79
79: ; preds = %78
%80 = load i32, i32* %21
%81 = add nsw i32 %80, 1
store i32 %81, i32* %21
br label %25
82: ; preds = %25
ret void
}

LLVM IR (-O2):
define void @gemm_tn(i32 %0, i32 %1, i32 %2, float %3, float* nocapture %4, i32 %5, float* nocapture %6, i32 %7, float* nocapture %8, i32 %9) {
%11 = icmp sgt i32 %0, 0
br i1 %11, label %12, label %170
12: ; preds = %10
%13 = icmp sgt i32 %2, 0
%14 = icmp sgt i32 %1, 0
%15 = sext i32 %5 to i64
%16 = sext i32 %7 to i64
%17 = sext i32 %9 to i64
%18 = zext i32 %0 to i64
%19 = zext i32 %2 to i64
%20 = zext i32 %1 to i64
%21 = and i64 %20, 4294967288
%22 = add nsw i64 %21, -8
%23 = lshr exact i64 %22, 3
%24 = add nuw nsw i64 %23, 1
%25 = icmp ult i32 %1, 8
%26 = and i64 %20, 4294967288
%27 = and i64 %24, 1
%28 = icmp eq i64 %22, 0
%29 = and i64 %24, 4611686018427387902
%30 = icmp eq i64 %27, 0
%31 = icmp eq i64 %26, %20
%32 = and i64 %20, 1
%33 = icmp eq i64 %32, 0
%34 = sub nsw i64 0, %20
br label %35
35: ; preds = %12, %167
%36 = phi i64 [ 0, %12 ], [ %168, %167 ]
%37 = mul i64 %36, %17
%38 = getelementptr float, float* %8, i64 %37
%39 = add i64 %37, %20
%40 = getelementptr float, float* %8, i64 %39
br i1 %13, label %41, label %167
41: ; preds = %35
%42 = mul nsw i64 %36, %17
br label %43
43: ; preds = %41, %164
%44 = phi i64 [ 0, %41 ], [ %165, %164 ]
%45 = mul i64 %44, %16
%46 = getelementptr float, float* %6, i64 %45
%47 = add i64 %45, %20
%48 = getelementptr float, float* %6, i64 %47
%49 = mul nsw i64 %44, %15
%50 = add nsw i64 %49, %36
%51 = getelementptr inbounds float, float* %4, i64 %50
%52 = load float, float* %51
%53 = fmul float %52, %3
br i1 %14, label %54, label %164
54: ; preds = %43
%55 = mul nsw i64 %44, %16
br i1 %25, label %130, label %56
56: ; preds = %54
%57 = icmp ult float* %38, %48
%58 = icmp ult float* %46, %40
%59 = and i1 %57, %58
br i1 %59, label %130, label %60
60: ; preds = %56
%61 = insertelement <4 x float> poison, float %53, i64 0
%62 = shufflevector <4 x float> %61, <4 x float> poison, <4 x i32> zeroinitializer
%63 = insertelement <4 x float> poison, float %53, i64 0
%64 = shufflevector <4 x float> %63, <4 x float> poison, <4 x i32> zeroinitializer
br i1 %28, label %108, label %65
65: ; preds = %60, %65
%66 = phi i64 [ %105, %65 ], [ 0, %60 ]
%67 = phi i64 [ %106, %65 ], [ 0, %60 ]
%68 = add nsw i64 %66, %55
%69 = getelementptr inbounds float, float* %6, i64 %68
%70 = bitcast float* %69 to <4 x float>*
%71 = load <4 x float>, <4 x float>* %70
%72 = getelementptr inbounds float, float* %69, i64 4
%73 = bitcast float* %72 to <4 x float>*
%74 = load <4 x float>, <4 x float>* %73
%75 = add nsw i64 %66, %42
%76 = getelementptr inbounds float, float* %8, i64 %75
%77 = bitcast float* %76 to <4 x float>*
%78 = load <4 x float>, <4 x float>* %77
%79 = getelementptr inbounds float, float* %76, i64 4
%80 = bitcast float* %79 to <4 x float>*
%81 = load <4 x float>, <4 x float>* %80
%82 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %62, <4 x float> %71, <4 x float> %78)
%83 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %64, <4 x float> %74, <4 x float> %81)
%84 = bitcast float* %76 to <4 x float>*
store <4 x float> %82, <4 x float>* %84
%85 = bitcast float* %79 to <4 x float>*
store <4 x float> %83, <4 x float>* %85
%86 = or i64 %66, 8
%87 = add nsw i64 %86, %55
%88 = getelementptr inbounds float, float* %6, i64 %87
%89 = bitcast float* %88 to <4 x float>*
%90 = load <4 x float>, <4 x float>* %89
%91 = getelementptr inbounds float, float* %88, i64 4
%92 = bitcast float* %91 to <4 x float>*
%93 = load <4 x float>, <4 x float>* %92
%94 = add nsw i64 %86, %42
%95 = getelementptr inbounds float, float* %8, i64 %94
%96 = bitcast float* %95 to <4 x float>*
%97 = load <4 x float>, <4 x float>* %96
%98 = getelementptr inbounds float, float* %95, i64 4
%99 = bitcast float* %98 to <4 x float>*
%100 = load <4 x float>, <4 x float>* %99
%101 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %62, <4 x float> %90, <4 x float> %97)
%102 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %64, <4 x float> %93, <4 x float> %100)
%103 = bitcast float* %95 to <4 x float>*
store <4 x float> %101, <4 x float>* %103
%104 = bitcast float* %98 to <4 x float>*
store <4 x float> %102, <4 x float>* %104
%105 = add nuw i64 %66, 16
%106 = add i64 %67, 2
%107 = icmp eq i64 %106, %29
br i1 %107, label %108, label %65
108: ; preds = %65, %60
%109 = phi i64 [ 0, %60 ], [ %105, %65 ]
br i1 %30, label %129, label %110
110: ; preds = %108
%111 = add nsw i64 %109, %55
%112 = getelementptr inbounds float, float* %6, i64 %111
%113 = bitcast float* %112 to <4 x float>*
%114 = load <4 x float>, <4 x float>* %113
%115 = getelementptr inbounds float, float* %112, i64 4
%116 = bitcast float* %115 to <4 x float>*
%117 = load <4 x float>, <4 x float>* %116
%118 = add nsw i64 %109, %42
%119 = getelementptr inbounds float, float* %8, i64 %118
%120 = bitcast float* %119 to <4 x float>*
%121 = load <4 x float>, <4 x float>* %120
%122 = getelementptr inbounds float, float* %119, i64 4
%123 = bitcast float* %122 to <4 x float>*
%124 = load <4 x float>, <4 x float>* %123
%125 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %62, <4 x float> %114, <4 x float> %121)
%126 = call <4 x float> @llvm.fmuladd.v4f32(<4 x float> %64, <4 x float> %117, <4 x float> %124)
%127 = bitcast float* %119 to <4 x float>*
store <4 x float> %125, <4 x float>* %127
%128 = bitcast float* %122 to <4 x float>*
store <4 x float> %126, <4 x float>* %128
br label %129
129: ; preds = %108, %110
br i1 %31, label %164, label %130
130: ; preds = %56, %54, %129
%131 = phi i64 [ 0, %56 ], [ 0, %54 ], [ %26, %129 ]
%132 = xor i64 %131, -1
br i1 %33, label %142, label %133
133: ; preds = %130
%134 = add nsw i64 %131, %55
%135 = getelementptr inbounds float, float* %6, i64 %134
%136 = load float, float* %135
%137 = add nsw i64 %131, %42
%138 = getelementptr inbounds float, float* %8, i64 %137
%139 = load float, float* %138
%140 = tail call float @llvm.fmuladd.f32(float %53, float %136, float %139)
store float %140, float* %138
%141 = or i64 %131, 1
br label %142
142: ; preds = %133, %130
%143 = phi i64 [ %131, %130 ], [ %141, %133 ]
%144 = icmp eq i64 %132, %34
br i1 %144, label %164, label %145
145: ; preds = %142, %145
%146 = phi i64 [ %162, %145 ], [ %143, %142 ]
%147 = add nsw i64 %146, %55
%148 = getelementptr inbounds float, float* %6, i64 %147
%149 = load float, float* %148
%150 = add nsw i64 %146, %42
%151 = getelementptr inbounds float, float* %8, i64 %150
%152 = load float, float* %151
%153 = tail call float @llvm.fmuladd.f32(float %53, float %149, float %152)
store float %153, float* %151
%154 = add nuw nsw i64 %146, 1
%155 = add nsw i64 %154, %55
%156 = getelementptr inbounds float, float* %6, i64 %155
%157 = load float, float* %156
%158 = add nsw i64 %154, %42
%159 = getelementptr inbounds float, float* %8, i64 %158
%160 = load float, float* %159
%161 = tail call float @llvm.fmuladd.f32(float %53, float %157, float %160)
store float %161, float* %159
%162 = add nuw nsw i64 %146, 2
%163 = icmp eq i64 %162, %20
br i1 %163, label %164, label %145
164: ; preds = %142, %145, %129, %43
%165 = add nuw nsw i64 %44, 1
%166 = icmp eq i64 %165, %19
br i1 %166, label %167, label %43
167: ; preds = %164, %35
%168 = add nuw nsw i64 %36, 1
%169 = icmp eq i64 %168, %18
br i1 %169, label %170, label %35
170: ; preds = %167, %10
ret void
}