void mat_vec(float **mat, unsigned int rows, unsigned int cols, float *vec,
             float *rhs) {
  int i, j;
  float sum;
  for (i = 0; i < rows; i++) {
    sum = 0.0;
    for (j = 0; j < cols; j++)
      sum += mat[i][j] * vec[j];
    rhs[i] = sum;
  }
}


x86 assembly (clang, -O0):
<mat_vec>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %edx,-0x10(%rbp)
mov    %rcx,-0x18(%rbp)
mov    %r8,-0x20(%rbp)
movl   $0x0,-0x24(%rbp)
mov    -0x24(%rbp),%eax
cmp    -0xc(%rbp),%eax
jae    11a6 <mat_vec+0xa6>
xorps  %xmm0,%xmm0
movss  %xmm0,-0x2c(%rbp)
movl   $0x0,-0x28(%rbp)
mov    -0x28(%rbp),%eax
cmp    -0x10(%rbp),%eax
jae    1186 <mat_vec+0x86>
mov    -0x8(%rbp),%rax
movslq -0x24(%rbp),%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x28(%rbp),%rcx
movss  (%rax,%rcx,4),%xmm0
mov    -0x18(%rbp),%rax
movslq -0x28(%rbp),%rcx
movss  (%rax,%rcx,4),%xmm2
movss  -0x2c(%rbp),%xmm1
mulss  %xmm2,%xmm0
addss  %xmm1,%xmm0
movss  %xmm0,-0x2c(%rbp)
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    1138 <mat_vec+0x38>
movss  -0x2c(%rbp),%xmm0
mov    -0x20(%rbp),%rax
movslq -0x24(%rbp),%rcx
movss  %xmm0,(%rax,%rcx,4)
mov    -0x24(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x24(%rbp)
jmp    111d <mat_vec+0x1d>
pop    %rbp
ret

x86 assembly (clang, -O2):
<mat_vec>:
push   %r15
push   %r14
push   %rbx
test   %esi,%esi
je     11dc <mat_vec+0xdc>
mov    %esi,%r10d
mov    %edx,%r14d
lea    -0x1(%r14),%r9
mov    %r14d,%r15d
and    $0x3,%r15d
and    $0xfffffffc,%r14d
xor    %r11d,%r11d
jmp    1146 <mat_vec+0x46>
nopw   0x0(%rax,%rax,1)
xorps  %xmm0,%xmm0
movss  %xmm0,(%r8,%r11,4)
add    $0x1,%r11
cmp    %r10,%r11
je     11dc <mat_vec+0xdc>
test   %edx,%edx
je     1130 <mat_vec+0x30>
mov    (%rdi,%r11,8),%rbx
xorps  %xmm0,%xmm0
xor    %eax,%eax
cmp    $0x3,%r9
jb     11a7 <mat_vec+0xa7>
nopl   0x0(%rax)
movss  (%rbx,%rax,4),%xmm1
movss  0x4(%rbx,%rax,4),%xmm2
mulss  (%rcx,%rax,4),%xmm1
mulss  0x4(%rcx,%rax,4),%xmm2
addss  %xmm0,%xmm1
movss  0x8(%rbx,%rax,4),%xmm3
mulss  0x8(%rcx,%rax,4),%xmm3
addss  %xmm1,%xmm2
movss  0xc(%rbx,%rax,4),%xmm0
mulss  0xc(%rcx,%rax,4),%xmm0
addss  %xmm2,%xmm3
addss  %xmm3,%xmm0
add    $0x4,%rax
cmp    %rax,%r14
jne    1160 <mat_vec+0x60>
test   %r15,%r15
je     1133 <mat_vec+0x33>
lea    (%rcx,%rax,4),%rsi
lea    (%rbx,%rax,4),%rax
xor    %ebx,%ebx
cs nopw 0x0(%rax,%rax,1)
movss  (%rax,%rbx,4),%xmm1
mulss  (%rsi,%rbx,4),%xmm1
addss  %xmm1,%xmm0
add    $0x1,%rbx
cmp    %rbx,%r15
jne    11c0 <mat_vec+0xc0>
jmp    1133 <mat_vec+0x33>
pop    %rbx
pop    %r14
pop    %r15
ret

LLVM IR (-O0):
define void @mat_vec(float** %0, i32 %1, i32 %2, float* %3, float* %4) {
%6 = alloca float**
%7 = alloca i32
%8 = alloca i32
%9 = alloca float*
%10 = alloca float*
%11 = alloca i32
%12 = alloca i32
%13 = alloca float
store float** %0, float*** %6
store i32 %1, i32* %7
store i32 %2, i32* %8
store float* %3, float** %9
store float* %4, float** %10
store i32 0, i32* %11
br label %14
14: ; preds = %49, %5
%15 = load i32, i32* %11
%16 = load i32, i32* %7
%17 = icmp ult i32 %15, %16
br i1 %17, label %18, label %52
18: ; preds = %14
store float 0.000000e+00, float* %13
store i32 0, i32* %12
br label %19
19: ; preds = %40, %18
%20 = load i32, i32* %12
%21 = load i32, i32* %8
%22 = icmp ult i32 %20, %21
br i1 %22, label %23, label %43
23: ; preds = %19
%24 = load float**, float*** %6
%25 = load i32, i32* %11
%26 = sext i32 %25 to i64
%27 = getelementptr inbounds float*, float** %24, i64 %26
%28 = load float*, float** %27
%29 = load i32, i32* %12
%30 = sext i32 %29 to i64
%31 = getelementptr inbounds float, float* %28, i64 %30
%32 = load float, float* %31
%33 = load float*, float** %9
%34 = load i32, i32* %12
%35 = sext i32 %34 to i64
%36 = getelementptr inbounds float, float* %33, i64 %35
%37 = load float, float* %36
%38 = load float, float* %13
%39 = call float @llvm.fmuladd.f32(float %32, float %37, float %38)
store float %39, float* %13
br label %40
40: ; preds = %23
%41 = load i32, i32* %12
%42 = add nsw i32 %41, 1
store i32 %42, i32* %12
br label %19
43: ; preds = %19
%44 = load float, float* %13
%45 = load float*, float** %10
%46 = load i32, i32* %11
%47 = sext i32 %46 to i64
%48 = getelementptr inbounds float, float* %45, i64 %47
store float %44, float* %48
br label %49
49: ; preds = %43
%50 = load i32, i32* %11
%51 = add nsw i32 %50, 1
store i32 %51, i32* %11
br label %14
52: ; preds = %14
ret void
}

LLVM IR (-O2):
define void @mat_vec(float** nocapture %0, i32 %1, i32 %2, float* nocapture %3, float* nocapture writeonly %4) {
%6 = icmp eq i32 %1, 0
br i1 %6, label %72, label %7
7: ; preds = %5
%8 = icmp eq i32 %2, 0
%9 = zext i32 %1 to i64
%10 = zext i32 %2 to i64
%11 = add nsw i64 %10, -1
%12 = and i64 %10, 3
%13 = icmp ult i64 %11, 3
%14 = and i64 %10, 4294967292
%15 = icmp eq i64 %12, 0
br label %16
16: ; preds = %7, %67
%17 = phi i64 [ 0, %7 ], [ %70, %67 ]
br i1 %8, label %67, label %18
18: ; preds = %16
%19 = getelementptr inbounds float*, float** %0, i64 %17
%20 = load float*, float** %19
br i1 %13, label %51, label %21
21: ; preds = %18, %21
%22 = phi i64 [ %48, %21 ], [ 0, %18 ]
%23 = phi float [ %47, %21 ], [ 0.000000e+00, %18 ]
%24 = phi i64 [ %49, %21 ], [ 0, %18 ]
%25 = getelementptr inbounds float, float* %20, i64 %22
%26 = load float, float* %25
%27 = getelementptr inbounds float, float* %3, i64 %22
%28 = load float, float* %27
%29 = tail call float @llvm.fmuladd.f32(float %26, float %28, float %23)
%30 = or i64 %22, 1
%31 = getelementptr inbounds float, float* %20, i64 %30
%32 = load float, float* %31
%33 = getelementptr inbounds float, float* %3, i64 %30
%34 = load float, float* %33
%35 = tail call float @llvm.fmuladd.f32(float %32, float %34, float %29)
%36 = or i64 %22, 2
%37 = getelementptr inbounds float, float* %20, i64 %36
%38 = load float, float* %37
%39 = getelementptr inbounds float, float* %3, i64 %36
%40 = load float, float* %39
%41 = tail call float @llvm.fmuladd.f32(float %38, float %40, float %35)
%42 = or i64 %22, 3
%43 = getelementptr inbounds float, float* %20, i64 %42
%44 = load float, float* %43
%45 = getelementptr inbounds float, float* %3, i64 %42
%46 = load float, float* %45
%47 = tail call float @llvm.fmuladd.f32(float %44, float %46, float %41)
%48 = add nuw nsw i64 %22, 4
%49 = add i64 %24, 4
%50 = icmp eq i64 %49, %14
br i1 %50, label %51, label %21
51: ; preds = %21, %18
%52 = phi float [ undef, %18 ], [ %47, %21 ]
%53 = phi i64 [ 0, %18 ], [ %48, %21 ]
%54 = phi float [ 0.000000e+00, %18 ], [ %47, %21 ]
br i1 %15, label %67, label %55
55: ; preds = %51, %55
%56 = phi i64 [ %64, %55 ], [ %53, %51 ]
%57 = phi float [ %63, %55 ], [ %54, %51 ]
%58 = phi i64 [ %65, %55 ], [ 0, %51 ]
%59 = getelementptr inbounds float, float* %20, i64 %56
%60 = load float, float* %59
%61 = getelementptr inbounds float, float* %3, i64 %56
%62 = load float, float* %61
%63 = tail call float @llvm.fmuladd.f32(float %60, float %62, float %57)
%64 = add nuw nsw i64 %56, 1
%65 = add i64 %58, 1
%66 = icmp eq i64 %65, %12
br i1 %66, label %67, label %55
67: ; preds = %51, %55, %16
%68 = phi float [ 0.000000e+00, %16 ], [ %52, %51 ], [ %63, %55 ]
%69 = getelementptr inbounds float, float* %4, i64 %17
store float %68, float* %69
%70 = add nuw nsw i64 %17, 1
%71 = icmp eq i64 %70, %9
br i1 %71, label %72, label %16
72: ; preds = %67, %5
ret void
}