void gemm_nt(int M, int N, int K, float ALPHA, float *A, int lda, float *B,
             int ldb, float *C, int ldc) {
  int i, j, k;
  for (i = 0; i < M; ++i) {
    for (j = 0; j < N; ++j) {
      register float sum = 0;
      for (k = 0; k < K; ++k) {
        sum += ALPHA * A[i * lda + k] * B[j * ldb + k];
      }
      C[i * ldc + j] += sum;
    }
  }
}


x86 assembly (clang, -O0):
<gemm_nt>:
push   %rbp
mov    %rsp,%rbp
mov    0x20(%rbp),%eax
mov    0x18(%rbp),%rax
mov    0x10(%rbp),%eax
mov    %edi,-0x4(%rbp)
mov    %esi,-0x8(%rbp)
mov    %edx,-0xc(%rbp)
movss  %xmm0,-0x10(%rbp)
mov    %rcx,-0x18(%rbp)
mov    %r8d,-0x1c(%rbp)
mov    %r9,-0x28(%rbp)
movl   $0x0,-0x2c(%rbp)
mov    -0x2c(%rbp),%eax
cmp    -0x4(%rbp),%eax
jge    11fb <gemm_nt+0xfb>
movl   $0x0,-0x30(%rbp)
mov    -0x30(%rbp),%eax
cmp    -0x8(%rbp),%eax
jge    11e8 <gemm_nt+0xe8>
xorps  %xmm0,%xmm0
movss  %xmm0,-0x38(%rbp)
movl   $0x0,-0x34(%rbp)
mov    -0x34(%rbp),%eax
cmp    -0xc(%rbp),%eax
jge    11ba <gemm_nt+0xba>
movss  -0x10(%rbp),%xmm0
mov    -0x18(%rbp),%rax
mov    -0x2c(%rbp),%ecx
imul   -0x1c(%rbp),%ecx
add    -0x34(%rbp),%ecx
movslq %ecx,%rcx
mulss  (%rax,%rcx,4),%xmm0
mov    -0x28(%rbp),%rax
mov    -0x30(%rbp),%ecx
imul   0x10(%rbp),%ecx
add    -0x34(%rbp),%ecx
movslq %ecx,%rcx
movss  (%rax,%rcx,4),%xmm2
movss  -0x38(%rbp),%xmm1
mulss  %xmm2,%xmm0
addss  %xmm1,%xmm0
movss  %xmm0,-0x38(%rbp)
mov    -0x34(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x34(%rbp)
jmp    115d <gemm_nt+0x5d>
movss  -0x38(%rbp),%xmm0
mov    0x18(%rbp),%rax
mov    -0x2c(%rbp),%ecx
imul   0x20(%rbp),%ecx
add    -0x30(%rbp),%ecx
movslq %ecx,%rcx
addss  (%rax,%rcx,4),%xmm0
movss  %xmm0,(%rax,%rcx,4)
mov    -0x30(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x30(%rbp)
jmp    1142 <gemm_nt+0x42>
jmp    11ed <gemm_nt+0xed>
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
jmp    112f <gemm_nt+0x2f>
pop    %rbp
ret

x86 assembly (clang, -O2):
<gemm_nt>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
mov    %r9,-0x38(%rsp)
mov    %rcx,-0x40(%rsp)
mov    %esi,-0x4c(%rsp)
test   %edi,%edi
jle    1277 <gemm_nt+0x177>
mov    0x40(%rsp),%r12
movslq 0x38(%rsp),%rsi
movslq %r8d,%rcx
movslq 0x48(%rsp),%rax
mov    %rax,-0x28(%rsp)
mov    %edi,%eax
mov    %rax,-0x10(%rsp)
mov    -0x4c(%rsp),%ebx
mov    %edx,%r15d
mov    %r15d,%edi
and    $0xfffffffe,%edi
mov    -0x40(%rsp),%rax
add    $0x4,%rax
mov    %rcx,-0x20(%rsp)
lea    0x0(,%rcx,4),%rcx
mov    %rcx,-0x18(%rsp)
mov    -0x38(%rsp),%rcx
add    $0x4,%rcx
mov    %rcx,-0x30(%rsp)
mov    %rsi,-0x8(%rsp)
lea    0x0(,%rsi,4),%r11
xor    %ecx,%ecx
mov    %rcx,-0x48(%rsp)
mov    -0x40(%rsp),%r14
jmp    11b1 <gemm_nt+0xb1>
nop
mov    -0x48(%rsp),%rsi
add    $0x1,%rsi
add    -0x18(%rsp),%rax
mov    %rsi,%rcx
mov    %rsi,-0x48(%rsp)
cmp    -0x10(%rsp),%rsi
je     1277 <gemm_nt+0x177>
cmpl   $0x0,-0x4c(%rsp)
jle    1190 <gemm_nt+0x90>
mov    -0x48(%rsp),%rbp
mov    %rbp,%r8
imul   -0x20(%rsp),%r8
imul   -0x28(%rsp),%rbp
mov    -0x30(%rsp),%rsi
xor    %r13d,%r13d
jmp    11fe <gemm_nt+0xfe>
cs nopw 0x0(%rax,%rax,1)
mov    %r13,%rcx
add    %rbp,%rcx
addss  (%r12,%rcx,4),%xmm1
movss  %xmm1,(%r12,%rcx,4)
add    $0x1,%r13
add    %r11,%rsi
cmp    %rbx,%r13
je     1190 <gemm_nt+0x90>
xorps  %xmm1,%xmm1
test   %edx,%edx
jle    11e0 <gemm_nt+0xe0>
xor    %r10d,%r10d
cmp    $0x1,%edx
je     1243 <gemm_nt+0x143>
nopl   (%rax)
movss  -0x4(%rax,%r10,4),%xmm2
mulss  %xmm0,%xmm2
mulss  -0x4(%rsi,%r10,4),%xmm2
addss  %xmm1,%xmm2
movss  (%rax,%r10,4),%xmm1
mulss  %xmm0,%xmm1
mulss  (%rsi,%r10,4),%xmm1
addss  %xmm2,%xmm1
add    $0x2,%r10
cmp    %r10,%rdi
jne    1210 <gemm_nt+0x110>
test   $0x1,%r15b
je     11e0 <gemm_nt+0xe0>
mov    %r13,%r9
imul   -0x8(%rsp),%r9
lea    (%r10,%r8,1),%rcx
movss  (%r14,%rcx,4),%xmm2
mulss  %xmm0,%xmm2
add    %r10,%r9
mov    -0x38(%rsp),%rcx
mulss  (%rcx,%r9,4),%xmm2
addss  %xmm2,%xmm1
jmp    11e0 <gemm_nt+0xe0>
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define void @gemm_nt(i32 %0, i32 %1, i32 %2, float %3, float* %4, i32 %5, float* %6, i32 %7, float* %8, i32 %9) {
%11 = alloca i32
%12 = alloca i32
%13 = alloca i32
%14 = alloca float
%15 = alloca float*
%16 = alloca i32
%17 = alloca float*
%18 = alloca i32
%19 = alloca float*
%20 = alloca i32
%21 = alloca i32
%22 = alloca i32
%23 = alloca i32
%24 = alloca float
store i32 %0, i32* %11
store i32 %1, i32* %12
store i32 %2, i32* %13
store float %3, float* %14
store float* %4, float** %15
store i32 %5, i32* %16
store float* %6, float** %17
store i32 %7, i32* %18
store float* %8, float** %19
store i32 %9, i32* %20
store i32 0, i32* %21
br label %25
25: ; preds = %81, %10
%26 = load i32, i32* %21
%27 = load i32, i32* %11
%28 = icmp slt i32 %26, %27
br i1 %28, label %29, label %84
29: ; preds = %25
store i32 0, i32* %22
br label %30
30: ; preds = %77, %29
%31 = load i32, i32* %22
%32 = load i32, i32* %12
%33 = icmp slt i32 %31, %32
br i1 %33, label %34, label %80
34: ; preds = %30
store float 0.000000e+00, float* %24
store i32 0, i32* %23
br label %35
35: ; preds = %62, %34
%36 = load i32, i32* %23
%37 = load i32, i32* %13
%38 = icmp slt i32 %36, %37
br i1 %38, label %39, label %65
39: ; preds = %35
%40 = load float, float* %14
%41 = load float*, float** %15
%42 = load i32, i32* %21
%43 = load i32, i32* %16
%44 = mul nsw i32 %42, %43
%45 = load i32, i32* %23
%46 = add nsw i32 %44, %45
%47 = sext i32 %46 to i64
%48 = getelementptr inbounds float, float* %41, i64 %47
%49 = load float, float* %48
%50 = fmul float %40, %49
%51 = load float*, float** %17
%52 = load i32, i32* %22
%53 = load i32, i32* %18
%54 = mul nsw i32 %52, %53
%55 = load i32, i32* %23
%56 = add nsw i32 %54, %55
%57 = sext i32 %56 to i64
%58 = getelementptr inbounds float, float* %51, i64 %57
%59 = load float, float* %58
%60 = load float, float* %24
%61 = call float @llvm.fmuladd.f32(float %50, float %59, float %60)
store float %61, float* %24
br label %62
62: ; preds = %39
%63 = load i32, i32* %23
%64 = add nsw i32 %63, 1
store i32 %64, i32* %23
br label %35
65: ; preds = %35
%66 = load float, float* %24
%67 = load float*, float** %19
%68 = load i32, i32* %21
%69 = load i32, i32* %20
%70 = mul nsw i32 %68, %69
%71 = load i32, i32* %22
%72 = add nsw i32 %70, %71
%73 = sext i32 %72 to i64
%74 = getelementptr inbounds float, float* %67, i64 %73
%75 = load float, float* %74
%76 = fadd float %75, %66
store float %76, float* %74
br label %77
77: ; preds = %65
%78 = load i32, i32* %22
%79 = add nsw i32 %78, 1
store i32 %79, i32* %22
br label %30
80: ; preds = %30
br label %81
81: ; preds = %80
%82 = load i32, i32* %21
%83 = add nsw i32 %82, 1
store i32 %83, i32* %21
br label %25
84: ; preds = %25
ret void
}

LLVM IR (-O2):
define void @gemm_nt(i32 %0, i32 %1, i32 %2, float %3, float* nocapture %4, i32 %5, float* nocapture %6, i32 %7, float* nocapture %8, i32 %9) {
%11 = icmp sgt i32 %0, 0
br i1 %11, label %12, label %82
12: ; preds = %10
%13 = icmp sgt i32 %1, 0
%14 = icmp sgt i32 %2, 0
%15 = sext i32 %7 to i64
%16 = sext i32 %5 to i64
%17 = sext i32 %9 to i64
%18 = zext i32 %0 to i64
%19 = zext i32 %1 to i64
%20 = zext i32 %2 to i64
%21 = and i64 %20, 1
%22 = icmp eq i32 %2, 1
%23 = and i64 %20, 4294967294
%24 = icmp eq i64 %21, 0
br label %25
25: ; preds = %12, %79
%26 = phi i64 [ 0, %12 ], [ %80, %79 ]
br i1 %13, label %27, label %79
27: ; preds = %25
%28 = mul nsw i64 %26, %16
%29 = mul nsw i64 %26, %17
br label %30
30: ; preds = %27, %71
%31 = phi i64 [ 0, %27 ], [ %77, %71 ]
br i1 %14, label %32, label %71
32: ; preds = %30
%33 = mul nsw i64 %31, %15
br i1 %22, label %58, label %34
34: ; preds = %32, %34
%35 = phi i64 [ %55, %34 ], [ 0, %32 ]
%36 = phi float [ %54, %34 ], [ 0.000000e+00, %32 ]
%37 = phi i64 [ %56, %34 ], [ 0, %32 ]
%38 = add nsw i64 %35, %28
%39 = getelementptr inbounds float, float* %4, i64 %38
%40 = load float, float* %39
%41 = fmul float %40, %3
%42 = add nsw i64 %35, %33
%43 = getelementptr inbounds float, float* %6, i64 %42
%44 = load float, float* %43
%45 = tail call float @llvm.fmuladd.f32(float %41, float %44, float %36)
%46 = or i64 %35, 1
%47 = add nsw i64 %46, %28
%48 = getelementptr inbounds float, float* %4, i64 %47
%49 = load float, float* %48
%50 = fmul float %49, %3
%51 = add nsw i64 %46, %33
%52 = getelementptr inbounds float, float* %6, i64 %51
%53 = load float, float* %52
%54 = tail call float @llvm.fmuladd.f32(float %50, float %53, float %45)
%55 = add nuw nsw i64 %35, 2
%56 = add i64 %37, 2
%57 = icmp eq i64 %56, %23
br i1 %57, label %58, label %34
58: ; preds = %34, %32
%59 = phi float [ undef, %32 ], [ %54, %34 ]
%60 = phi i64 [ 0, %32 ], [ %55, %34 ]
%61 = phi float [ 0.000000e+00, %32 ], [ %54, %34 ]
br i1 %24, label %71, label %62
62: ; preds = %58
%63 = add nsw i64 %60, %28
%64 = getelementptr inbounds float, float* %4, i64 %63
%65 = load float, float* %64
%66 = fmul float %65, %3
%67 = add nsw i64 %60, %33
%68 = getelementptr inbounds float, float* %6, i64 %67
%69 = load float, float* %68
%70 = tail call float @llvm.fmuladd.f32(float %66, float %69, float %61)
br label %71
71: ; preds = %62, %58, %30
%72 = phi float [ 0.000000e+00, %30 ], [ %59, %58 ], [ %70, %62 ]
%73 = add nsw i64 %31, %29
%74 = getelementptr inbounds float, float* %8, i64 %73
%75 = load float, float* %74
%76 = fadd float %72, %75
store float %76, float* %74
%77 = add nuw nsw i64 %31, 1
%78 = icmp eq i64 %77, %19
br i1 %78, label %79, label %30
79: ; preds = %71, %25
%80 = add nuw nsw i64 %26, 1
%81 = icmp eq i64 %80, %18
br i1 %81, label %82, label %25
82: ; preds = %79, %10
ret void
}