double vec_mat_vec_mult(int n, double *x, double **A) {
  double sum = 0.0;
  for (int row = 0; row < n; row++)
    for (int col = 0; col < n; col++)
      sum += x[row] * A[row][col] * x[col];
  return sum;
}


x86 assembly (clang, -O0):
<vec_mat_vec_mult>:
push   %rbp
mov    %rsp,%rbp
mov    %edi,-0x4(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
xorps  %xmm0,%xmm0
movsd  %xmm0,-0x20(%rbp)
movl   $0x0,-0x24(%rbp)
mov    -0x24(%rbp),%eax
cmp    -0x4(%rbp),%eax
jge    119f <vec_mat_vec_mult+0x9f>
movl   $0x0,-0x28(%rbp)
mov    -0x28(%rbp),%eax
cmp    -0x4(%rbp),%eax
jge    118c <vec_mat_vec_mult+0x8c>
mov    -0x10(%rbp),%rax
movslq -0x24(%rbp),%rcx
movsd  (%rax,%rcx,8),%xmm0
mov    -0x18(%rbp),%rax
movslq -0x24(%rbp),%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x28(%rbp),%rcx
mulsd  (%rax,%rcx,8),%xmm0
mov    -0x10(%rbp),%rax
movslq -0x28(%rbp),%rcx
movsd  (%rax,%rcx,8),%xmm2
movsd  -0x20(%rbp),%xmm1
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
movsd  %xmm0,-0x20(%rbp)
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    1131 <vec_mat_vec_mult+0x31>
jmp    1191 <vec_mat_vec_mult+0x91>
mov    -0x24(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x24(%rbp)
jmp    111e <vec_mat_vec_mult+0x1e>
movsd  -0x20(%rbp),%xmm0
pop    %rbp
ret

x86 assembly (clang, -O2):
<vec_mat_vec_mult>:
push   %rbx
test   %edi,%edi
jle    11e2 <vec_mat_vec_mult+0xe2>
mov    %edi,%r9d
lea    -0x1(%r9),%r8
mov    %r9d,%edi
and    $0x3,%edi
mov    %r9d,%r11d
and    $0xfffffffc,%r11d
xorpd  %xmm0,%xmm0
xor    %r10d,%r10d
jmp    113d <vec_mat_vec_mult+0x3d>
cs nopw 0x0(%rax,%rax,1)
add    $0x1,%r10
cmp    %r9,%r10
je     11e0 <vec_mat_vec_mult+0xe0>
movsd  (%rsi,%r10,8),%xmm1
mov    (%rdx,%r10,8),%rcx
xor    %eax,%eax
cmp    $0x3,%r8
jb     11a7 <vec_mat_vec_mult+0xa7>
nop
movsd  (%rcx,%rax,8),%xmm2
mulsd  %xmm1,%xmm2
mulsd  (%rsi,%rax,8),%xmm2
addsd  %xmm0,%xmm2
movsd  0x8(%rcx,%rax,8),%xmm3
mulsd  %xmm1,%xmm3
mulsd  0x8(%rsi,%rax,8),%xmm3
addsd  %xmm2,%xmm3
movsd  0x10(%rcx,%rax,8),%xmm2
mulsd  %xmm1,%xmm2
mulsd  0x10(%rsi,%rax,8),%xmm2
movsd  0x18(%rcx,%rax,8),%xmm0
mulsd  %xmm1,%xmm0
mulsd  0x18(%rsi,%rax,8),%xmm0
addsd  %xmm3,%xmm2
addsd  %xmm2,%xmm0
add    $0x4,%rax
cmp    %rax,%r11
jne    1150 <vec_mat_vec_mult+0x50>
test   %rdi,%rdi
je     1130 <vec_mat_vec_mult+0x30>
lea    (%rsi,%rax,8),%rbx
lea    (%rcx,%rax,8),%rax
xor    %ecx,%ecx
cs nopw 0x0(%rax,%rax,1)
movsd  (%rax,%rcx,8),%xmm2
mulsd  %xmm1,%xmm2
mulsd  (%rbx,%rcx,8),%xmm2
addsd  %xmm2,%xmm0
add    $0x1,%rcx
cmp    %rcx,%rdi
jne    11c0 <vec_mat_vec_mult+0xc0>
jmp    1130 <vec_mat_vec_mult+0x30>
pop    %rbx
ret
xorps  %xmm0,%xmm0
pop    %rbx
ret

LLVM IR (-O0):
define double @vec_mat_vec_mult(i32 %0, double* %1, double** %2) {
%4 = alloca i32
%5 = alloca double*
%6 = alloca double**
%7 = alloca double
%8 = alloca i32
%9 = alloca i32
store i32 %0, i32* %4
store double* %1, double** %5
store double** %2, double*** %6
store double 0.000000e+00, double* %7
store i32 0, i32* %8
br label %10
10: ; preds = %46, %3
%11 = load i32, i32* %8
%12 = load i32, i32* %4
%13 = icmp slt i32 %11, %12
br i1 %13, label %14, label %49
14: ; preds = %10
store i32 0, i32* %9
br label %15
15: ; preds = %42, %14
%16 = load i32, i32* %9
%17 = load i32, i32* %4
%18 = icmp slt i32 %16, %17
br i1 %18, label %19, label %45
19: ; preds = %15
%20 = load double*, double** %5
%21 = load i32, i32* %8
%22 = sext i32 %21 to i64
%23 = getelementptr inbounds double, double* %20, i64 %22
%24 = load double, double* %23
%25 = load double**, double*** %6
%26 = load i32, i32* %8
%27 = sext i32 %26 to i64
%28 = getelementptr inbounds double*, double** %25, i64 %27
%29 = load double*, double** %28
%30 = load i32, i32* %9
%31 = sext i32 %30 to i64
%32 = getelementptr inbounds double, double* %29, i64 %31
%33 = load double, double* %32
%34 = fmul double %24, %33
%35 = load double*, double** %5
%36 = load i32, i32* %9
%37 = sext i32 %36 to i64
%38 = getelementptr inbounds double, double* %35, i64 %37
%39 = load double, double* %38
%40 = load double, double* %7
%41 = call double @llvm.fmuladd.f64(double %34, double %39, double %40)
store double %41, double* %7
br label %42
42: ; preds = %19
%43 = load i32, i32* %9
%44 = add nsw i32 %43, 1
store i32 %44, i32* %9
br label %15
45: ; preds = %15
br label %46
46: ; preds = %45
%47 = load i32, i32* %8
%48 = add nsw i32 %47, 1
store i32 %48, i32* %8
br label %10
49: ; preds = %10
%50 = load double, double* %7
ret double %50
}

LLVM IR (-O2):
define double @vec_mat_vec_mult(i32 %0, double* nocapture %1, double** nocapture %2) {
%4 = icmp sgt i32 %0, 0
br i1 %4, label %5, label %19
5: ; preds = %3
%6 = zext i32 %0 to i64
%7 = add nsw i64 %6, -1
%8 = and i64 %6, 3
%9 = icmp ult i64 %7, 3
%10 = and i64 %6, 4294967292
%11 = icmp eq i64 %8, 0
br label %12
12: ; preds = %38, %5
%13 = phi i64 [ 0, %5 ], [ %40, %38 ]
%14 = phi double [ 0.000000e+00, %5 ], [ %39, %38 ]
%15 = getelementptr inbounds double, double* %1, i64 %13
%16 = load double, double* %15
%17 = getelementptr inbounds double*, double** %2, i64 %13
%18 = load double*, double** %17
br i1 %9, label %21, label %42
19: ; preds = %38, %3
%20 = phi double [ 0.000000e+00, %3 ], [ %39, %38 ]
ret double %20
21: ; preds = %42, %12
%22 = phi double [ undef, %12 ], [ %72, %42 ]
%23 = phi i64 [ 0, %12 ], [ %73, %42 ]
%24 = phi double [ %14, %12 ], [ %72, %42 ]
br i1 %11, label %38, label %25
25: ; preds = %21, %25
%26 = phi i64 [ %35, %25 ], [ %23, %21 ]
%27 = phi double [ %34, %25 ], [ %24, %21 ]
%28 = phi i64 [ %36, %25 ], [ 0, %21 ]
%29 = getelementptr inbounds double, double* %18, i64 %26
%30 = load double, double* %29
%31 = fmul double %16, %30
%32 = getelementptr inbounds double, double* %1, i64 %26
%33 = load double, double* %32
%34 = tail call double @llvm.fmuladd.f64(double %31, double %33, double %27)
%35 = add nuw nsw i64 %26, 1
%36 = add i64 %28, 1
%37 = icmp eq i64 %36, %8
br i1 %37, label %38, label %25
38: ; preds = %25, %21
%39 = phi double [ %22, %21 ], [ %34, %25 ]
%40 = add nuw nsw i64 %13, 1
%41 = icmp eq i64 %40, %6
br i1 %41, label %19, label %12
42: ; preds = %12, %42
%43 = phi i64 [ %73, %42 ], [ 0, %12 ]
%44 = phi double [ %72, %42 ], [ %14, %12 ]
%45 = phi i64 [ %74, %42 ], [ 0, %12 ]
%46 = getelementptr inbounds double, double* %18, i64 %43
%47 = load double, double* %46
%48 = fmul double %16, %47
%49 = getelementptr inbounds double, double* %1, i64 %43
%50 = load double, double* %49
%51 = tail call double @llvm.fmuladd.f64(double %48, double %50, double %44)
%52 = or i64 %43, 1
%53 = getelementptr inbounds double, double* %18, i64 %52
%54 = load double, double* %53
%55 = fmul double %16, %54
%56 = getelementptr inbounds double, double* %1, i64 %52
%57 = load double, double* %56
%58 = tail call double @llvm.fmuladd.f64(double %55, double %57, double %51)
%59 = or i64 %43, 2
%60 = getelementptr inbounds double, double* %18, i64 %59
%61 = load double, double* %60
%62 = fmul double %16, %61
%63 = getelementptr inbounds double, double* %1, i64 %59
%64 = load double, double* %63
%65 = tail call double @llvm.fmuladd.f64(double %62, double %64, double %58)
%66 = or i64 %43, 3
%67 = getelementptr inbounds double, double* %18, i64 %66
%68 = load double, double* %67
%69 = fmul double %16, %68
%70 = getelementptr inbounds double, double* %1, i64 %66
%71 = load double, double* %70
%72 = tail call double @llvm.fmuladd.f64(double %69, double %71, double %65)
%73 = add nuw nsw i64 %43, 4
%74 = add i64 %45, 4
%75 = icmp eq i64 %74, %10
br i1 %75, label %21, label %42
}