void float_matrix_mul(const float *mat, const float *vec, float *vec_ret,
                      int row1, int col, int col2) {
  float temp;
  for (int i = 0; i < row1; i++) {
    for (int j = 0; j < col2; j++) {
      temp = 0;
      for (int k = 0; k < col; k++) {
        temp += mat[i * col + k] * vec[j + k * col2];
      }
      vec_ret[i * col2 + j] = temp;
    }
  }
}


x86 assembly (clang, -O0):
<float_matrix_mul>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %ecx,-0x1c(%rbp)
mov    %r8d,-0x20(%rbp)
mov    %r9d,-0x24(%rbp)
movl   $0x0,-0x2c(%rbp)
mov    -0x2c(%rbp),%eax
cmp    -0x1c(%rbp),%eax
jge    11e6 <float_matrix_mul+0xe6>
movl   $0x0,-0x30(%rbp)
mov    -0x30(%rbp),%eax
cmp    -0x24(%rbp),%eax
jge    11d3 <float_matrix_mul+0xd3>
xorps  %xmm0,%xmm0
movss  %xmm0,-0x28(%rbp)
movl   $0x0,-0x34(%rbp)
mov    -0x34(%rbp),%eax
cmp    -0x20(%rbp),%eax
jge    11aa <float_matrix_mul+0xaa>
mov    -0x8(%rbp),%rax
mov    -0x2c(%rbp),%ecx
imul   -0x20(%rbp),%ecx
add    -0x34(%rbp),%ecx
movslq %ecx,%rcx
movss  (%rax,%rcx,4),%xmm0
mov    -0x10(%rbp),%rax
mov    -0x30(%rbp),%ecx
mov    -0x34(%rbp),%edx
imul   -0x24(%rbp),%edx
add    %edx,%ecx
movslq %ecx,%rcx
movss  (%rax,%rcx,4),%xmm2
movss  -0x28(%rbp),%xmm1
mulss  %xmm2,%xmm0
addss  %xmm1,%xmm0
movss  %xmm0,-0x28(%rbp)
mov    -0x34(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x34(%rbp)
jmp    1150 <float_matrix_mul+0x50>
movss  -0x28(%rbp),%xmm0
mov    -0x18(%rbp),%rax
mov    -0x2c(%rbp),%ecx
imul   -0x24(%rbp),%ecx
add    -0x30(%rbp),%ecx
movslq %ecx,%rcx
movss  %xmm0,(%rax,%rcx,4)
mov    -0x30(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x30(%rbp)
jmp    1135 <float_matrix_mul+0x35>
jmp    11d8 <float_matrix_mul+0xd8>
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
jmp    1122 <float_matrix_mul+0x22>
pop    %rbp
ret

x86 assembly (clang, -O2):
<float_matrix_mul>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
mov    %r9d,-0x34(%rsp)
mov    %rsi,-0x20(%rsp)
mov    %rdi,-0x28(%rsp)
test   %ecx,%ecx
jle    125d <float_matrix_mul+0x15d>
movslq -0x34(%rsp),%r13
movslq %r8d,%rsi
mov    %ecx,%eax
mov    %rax,-0x8(%rsp)
mov    %r13d,%r15d
mov    %esi,%r14d
mov    %r14d,%ebx
and    $0xfffffffe,%ebx
mov    -0x28(%rsp),%rax
lea    0x4(%rax),%rcx
mov    %rsi,-0x18(%rsp)
lea    0x0(,%rsi,4),%rax
mov    %rax,-0x10(%rsp)
lea    0x0(,%r13,8),%rax
xor    %esi,%esi
mov    %rsi,-0x30(%rsp)
jmp    1191 <float_matrix_mul+0x91>
nopl   0x0(%rax,%rax,1)
mov    -0x30(%rsp),%rdi
add    $0x1,%rdi
add    -0x10(%rsp),%rcx
mov    %rdi,%rsi
mov    %rdi,-0x30(%rsp)
cmp    -0x8(%rsp),%rdi
je     125d <float_matrix_mul+0x15d>
cmpl   $0x0,-0x34(%rsp)
jle    1170 <float_matrix_mul+0x70>
mov    -0x30(%rsp),%r10
mov    %r10,%rbp
imul   -0x18(%rsp),%rbp
imul   %r13,%r10
mov    -0x20(%rsp),%r11
xor    %r12d,%r12d
jmp    11d9 <float_matrix_mul+0xd9>
cs nopw 0x0(%rax,%rax,1)
xchg   %ax,%ax
xorps  %xmm0,%xmm0
lea    (%r12,%r10,1),%rsi
movss  %xmm0,(%rdx,%rsi,4)
add    $0x1,%r12
add    $0x4,%r11
cmp    %r15,%r12
je     1170 <float_matrix_mul+0x70>
test   %r8d,%r8d
jle    11c0 <float_matrix_mul+0xc0>
cmp    $0x1,%r8d
jne    11f0 <float_matrix_mul+0xf0>
xorps  %xmm0,%xmm0
xor    %r9d,%r9d
jmp    122e <float_matrix_mul+0x12e>
nopl   0x0(%rax)
xorps  %xmm1,%xmm1
mov    %r11,%rsi
xor    %r9d,%r9d
nopl   0x0(%rax)
movss  -0x4(%rcx,%r9,4),%xmm2
mulss  (%rsi),%xmm2
movss  (%rcx,%r9,4),%xmm0
addss  %xmm1,%xmm2
mulss  (%rsi,%r13,4),%xmm0
addss  %xmm2,%xmm0
add    $0x2,%r9
add    %rax,%rsi
movaps %xmm0,%xmm1
cmp    %r9,%rbx
jne    1200 <float_matrix_mul+0x100>
test   $0x1,%r14b
je     11c3 <float_matrix_mul+0xc3>
lea    (%r9,%rbp,1),%rsi
mov    -0x28(%rsp),%rdi
movss  (%rdi,%rsi,4),%xmm1
imul   %r13,%r9
add    %r12,%r9
mov    -0x20(%rsp),%rsi
mulss  (%rsi,%r9,4),%xmm1
addss  %xmm1,%xmm0
jmp    11c3 <float_matrix_mul+0xc3>
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define void @float_matrix_mul(float* %0, float* %1, float* %2, i32 %3, i32 %4, i32 %5) {
%7 = alloca float*
%8 = alloca float*
%9 = alloca float*
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
%13 = alloca float
%14 = alloca i32
%15 = alloca i32
%16 = alloca i32
store float* %0, float** %7
store float* %1, float** %8
store float* %2, float** %9
store i32 %3, i32* %10
store i32 %4, i32* %11
store i32 %5, i32* %12
store i32 0, i32* %14
br label %17
17: ; preds = %69, %6
%18 = load i32, i32* %14
%19 = load i32, i32* %10
%20 = icmp slt i32 %18, %19
br i1 %20, label %21, label %72
21: ; preds = %17
store i32 0, i32* %15
br label %22
22: ; preds = %65, %21
%23 = load i32, i32* %15
%24 = load i32, i32* %12
%25 = icmp slt i32 %23, %24
br i1 %25, label %26, label %68
26: ; preds = %22
store float 0.000000e+00, float* %13
store i32 0, i32* %16
br label %27
27: ; preds = %52, %26
%28 = load i32, i32* %16
%29 = load i32, i32* %11
%30 = icmp slt i32 %28, %29
br i1 %30, label %31, label %55
31: ; preds = %27
%32 = load float*, float** %7
%33 = load i32, i32* %14
%34 = load i32, i32* %11
%35 = mul nsw i32 %33, %34
%36 = load i32, i32* %16
%37 = add nsw i32 %35, %36
%38 = sext i32 %37 to i64
%39 = getelementptr inbounds float, float* %32, i64 %38
%40 = load float, float* %39
%41 = load float*, float** %8
%42 = load i32, i32* %15
%43 = load i32, i32* %16
%44 = load i32, i32* %12
%45 = mul nsw i32 %43, %44
%46 = add nsw i32 %42, %45
%47 = sext i32 %46 to i64
%48 = getelementptr inbounds float, float* %41, i64 %47
%49 = load float, float* %48
%50 = load float, float* %13
%51 = call float @llvm.fmuladd.f32(float %40, float %49, float %50)
store float %51, float* %13
br label %52
52: ; preds = %31
%53 = load i32, i32* %16
%54 = add nsw i32 %53, 1
store i32 %54, i32* %16
br label %27
55: ; preds = %27
%56 = load float, float* %13
%57 = load float*, float** %9
%58 = load i32, i32* %14
%59 = load i32, i32* %12
%60 = mul nsw i32 %58, %59
%61 = load i32, i32* %15
%62 = add nsw i32 %60, %61
%63 = sext i32 %62 to i64
%64 = getelementptr inbounds float, float* %57, i64 %63
store float %56, float* %64
br label %65
65: ; preds = %55
%66 = load i32, i32* %15
%67 = add nsw i32 %66, 1
store i32 %67, i32* %15
br label %22
68: ; preds = %22
br label %69
69: ; preds = %68
%70 = load i32, i32* %14
%71 = add nsw i32 %70, 1
store i32 %71, i32* %14
br label %17
72: ; preds = %17
ret void
}

LLVM IR (-O2):
define void @float_matrix_mul(float* nocapture %0, float* nocapture %1, float* nocapture writeonly %2, i32 %3, i32 %4, i32 %5) {
%7 = icmp sgt i32 %3, 0
br i1 %7, label %8, label %25
8: ; preds = %6
%9 = icmp sgt i32 %5, 0
%10 = icmp sgt i32 %4, 0
%11 = sext i32 %5 to i64
%12 = sext i32 %4 to i64
%13 = zext i32 %3 to i64
%14 = zext i32 %5 to i64
%15 = zext i32 %4 to i64
%16 = and i64 %15, 1
%17 = icmp eq i32 %4, 1
%18 = and i64 %15, 4294967294
%19 = icmp eq i64 %16, 0
br label %20
20: ; preds = %8, %29
%21 = phi i64 [ 0, %8 ], [ %30, %29 ]
br i1 %9, label %22, label %29
22: ; preds = %20
%23 = mul nsw i64 %21, %12
%24 = mul nsw i64 %21, %11
br label %26
25: ; preds = %29, %6
ret void
26: ; preds = %22, %45
%27 = phi i64 [ 0, %22 ], [ %49, %45 ]
br i1 %10, label %28, label %45
28: ; preds = %26
br i1 %17, label %32, label %51
29: ; preds = %45, %20
%30 = add nuw nsw i64 %21, 1
%31 = icmp eq i64 %30, %13
br i1 %31, label %25, label %20
32: ; preds = %51, %28
%33 = phi float [ undef, %28 ], [ %71, %51 ]
%34 = phi i64 [ 0, %28 ], [ %72, %51 ]
%35 = phi float [ 0.000000e+00, %28 ], [ %71, %51 ]
br i1 %19, label %45, label %36
36: ; preds = %32
%37 = add nsw i64 %34, %23
%38 = getelementptr inbounds float, float* %0, i64 %37
%39 = load float, float* %38
%40 = mul nsw i64 %34, %11
%41 = add nsw i64 %40, %27
%42 = getelementptr inbounds float, float* %1, i64 %41
%43 = load float, float* %42
%44 = tail call float @llvm.fmuladd.f32(float %39, float %43, float %35)
br label %45
45: ; preds = %36, %32, %26
%46 = phi float [ 0.000000e+00, %26 ], [ %33, %32 ], [ %44, %36 ]
%47 = add nsw i64 %27, %24
%48 = getelementptr inbounds float, float* %2, i64 %47
store float %46, float* %48
%49 = add nuw nsw i64 %27, 1
%50 = icmp eq i64 %49, %14
br i1 %50, label %29, label %26
51: ; preds = %28, %51
%52 = phi i64 [ %72, %51 ], [ 0, %28 ]
%53 = phi float [ %71, %51 ], [ 0.000000e+00, %28 ]
%54 = phi i64 [ %73, %51 ], [ 0, %28 ]
%55 = add nsw i64 %52, %23
%56 = getelementptr inbounds float, float* %0, i64 %55
%57 = load float, float* %56
%58 = mul nsw i64 %52, %11
%59 = add nsw i64 %58, %27
%60 = getelementptr inbounds float, float* %1, i64 %59
%61 = load float, float* %60
%62 = tail call float @llvm.fmuladd.f32(float %57, float %61, float %53)
%63 = or i64 %52, 1
%64 = add nsw i64 %63, %23
%65 = getelementptr inbounds float, float* %0, i64 %64
%66 = load float, float* %65
%67 = mul nsw i64 %63, %11
%68 = add nsw i64 %67, %27
%69 = getelementptr inbounds float, float* %1, i64 %68
%70 = load float, float* %69
%71 = tail call float @llvm.fmuladd.f32(float %66, float %70, float %62)
%72 = add nuw nsw i64 %52, 2
%73 = add i64 %54, 2
%74 = icmp eq i64 %73, %18
br i1 %74, label %32, label %51
}