void dense(float *in, float **weights, float *out, int sh_in, int sh_out) {
  int i, j;
#pragma omp parallel for private(j) schedule(dynamic, 1) num_threads(numthreads)
  for (i = 0; i < sh_out; i++) {
    float sum = 0.0;
    for (j = 0; j < sh_in; j++) {
      sum += in[j] * weights[j][i];
    }
    out[i] = sum;
  }
}


x86 assembly (clang, -O0):
<dense>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %ecx,-0x1c(%rbp)
mov    %r8d,-0x20(%rbp)
movl   $0x0,-0x24(%rbp)
mov    -0x24(%rbp),%eax
cmp    -0x20(%rbp),%eax
jge    11a7 <dense+0xa7>
xorps  %xmm0,%xmm0
movss  %xmm0,-0x2c(%rbp)
movl   $0x0,-0x28(%rbp)
mov    -0x28(%rbp),%eax
cmp    -0x1c(%rbp),%eax
jge    1187 <dense+0x87>
mov    -0x8(%rbp),%rax
movslq -0x28(%rbp),%rcx
movss  (%rax,%rcx,4),%xmm0
mov    -0x10(%rbp),%rax
movslq -0x28(%rbp),%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x24(%rbp),%rcx
movss  (%rax,%rcx,4),%xmm2
movss  -0x2c(%rbp),%xmm1
mulss  %xmm2,%xmm0
addss  %xmm1,%xmm0
movss  %xmm0,-0x2c(%rbp)
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    1139 <dense+0x39>
movss  -0x2c(%rbp),%xmm0
mov    -0x18(%rbp),%rax
movslq -0x24(%rbp),%rcx
movss  %xmm0,(%rax,%rcx,4)
mov    -0x24(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x24(%rbp)
jmp    111e <dense+0x1e>
pop    %rbp
ret

x86 assembly (clang, -O2):
<dense>:
push   %r15
push   %r14
push   %r12
push   %rbx
test   %r8d,%r8d
jle    11f2 <dense+0xf2>
mov    %r8d,%r8d
mov    %ecx,%r10d
lea    -0x1(%r10),%r9
mov    %r10d,%r11d
and    $0x3,%r11d
and    $0xfffffffc,%r10d
xor    %r12d,%r12d
jmp    1143 <dense+0x43>
nopw   0x0(%rax,%rax,1)
movss  %xmm0,(%rdx,%r12,4)
add    $0x1,%r12
cmp    %r8,%r12
je     11f2 <dense+0xf2>
xorps  %xmm0,%xmm0
test   %ecx,%ecx
jle    1130 <dense+0x30>
xor    %ebx,%ebx
cmp    $0x3,%r9
jb     11bb <dense+0xbb>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
movss  (%rdi,%rbx,4),%xmm1
movss  0x4(%rdi,%rbx,4),%xmm2
mov    (%rsi,%rbx,8),%rax
mov    0x8(%rsi,%rbx,8),%r14
mulss  (%rax,%r12,4),%xmm1
addss  %xmm0,%xmm1
mulss  (%r14,%r12,4),%xmm2
addss  %xmm1,%xmm2
movss  0x8(%rdi,%rbx,4),%xmm1
mov    0x10(%rsi,%rbx,8),%rax
mulss  (%rax,%r12,4),%xmm1
movss  0xc(%rdi,%rbx,4),%xmm0
mov    0x18(%rsi,%rbx,8),%rax
mulss  (%rax,%r12,4),%xmm0
addss  %xmm2,%xmm1
addss  %xmm1,%xmm0
add    $0x4,%rbx
cmp    %rbx,%r10
jne    1160 <dense+0x60>
test   %r11,%r11
je     1130 <dense+0x30>
lea    (%rsi,%rbx,8),%r14
lea    (%rdi,%rbx,4),%r15
xor    %ebx,%ebx
xchg   %ax,%ax
movss  (%r15,%rbx,4),%xmm1
mov    (%r14,%rbx,8),%rax
mulss  (%rax,%r12,4),%xmm1
addss  %xmm1,%xmm0
add    $0x1,%rbx
cmp    %rbx,%r11
jne    11d0 <dense+0xd0>
jmp    1130 <dense+0x30>
pop    %rbx
pop    %r12
pop    %r14
pop    %r15
ret

LLVM IR (-O0):
define void @dense(float* %0, float** %1, float* %2, i32 %3, i32 %4) {
%6 = alloca float*
%7 = alloca float**
%8 = alloca float*
%9 = alloca i32
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
%13 = alloca float
store float* %0, float** %6
store float** %1, float*** %7
store float* %2, float** %8
store i32 %3, i32* %9
store i32 %4, i32* %10
store i32 0, i32* %11
br label %14
14: ; preds = %49, %5
%15 = load i32, i32* %11
%16 = load i32, i32* %10
%17 = icmp slt i32 %15, %16
br i1 %17, label %18, label %52
18: ; preds = %14
store float 0.000000e+00, float* %13
store i32 0, i32* %12
br label %19
19: ; preds = %40, %18
%20 = load i32, i32* %12
%21 = load i32, i32* %9
%22 = icmp slt i32 %20, %21
br i1 %22, label %23, label %43
23: ; preds = %19
%24 = load float*, float** %6
%25 = load i32, i32* %12
%26 = sext i32 %25 to i64
%27 = getelementptr inbounds float, float* %24, i64 %26
%28 = load float, float* %27
%29 = load float**, float*** %7
%30 = load i32, i32* %12
%31 = sext i32 %30 to i64
%32 = getelementptr inbounds float*, float** %29, i64 %31
%33 = load float*, float** %32
%34 = load i32, i32* %11
%35 = sext i32 %34 to i64
%36 = getelementptr inbounds float, float* %33, i64 %35
%37 = load float, float* %36
%38 = load float, float* %13
%39 = call float @llvm.fmuladd.f32(float %28, float %37, float %38)
store float %39, float* %13
br label %40
40: ; preds = %23
%41 = load i32, i32* %12
%42 = add nsw i32 %41, 1
store i32 %42, i32* %12
br label %19
43: ; preds = %19
%44 = load float, float* %13
%45 = load float*, float** %8
%46 = load i32, i32* %11
%47 = sext i32 %46 to i64
%48 = getelementptr inbounds float, float* %45, i64 %47
store float %44, float* %48
br label %49
49: ; preds = %43
%50 = load i32, i32* %11
%51 = add nsw i32 %50, 1
store i32 %51, i32* %11
br label %14
52: ; preds = %14
ret void
}

LLVM IR (-O2):
define void @dense(float* nocapture %0, float** nocapture %1, float* nocapture writeonly %2, i32 %3, i32 %4) {
%6 = icmp sgt i32 %4, 0
br i1 %6, label %7, label %80
7: ; preds = %5
%8 = icmp sgt i32 %3, 0
%9 = zext i32 %4 to i64
%10 = zext i32 %3 to i64
%11 = add nsw i64 %10, -1
%12 = and i64 %10, 3
%13 = icmp ult i64 %11, 3
%14 = and i64 %10, 4294967292
%15 = icmp eq i64 %12, 0
br label %16
16: ; preds = %7, %75
%17 = phi i64 [ 0, %7 ], [ %78, %75 ]
br i1 %8, label %18, label %75
18: ; preds = %16
br i1 %13, label %57, label %19
19: ; preds = %18, %19
%20 = phi i64 [ %54, %19 ], [ 0, %18 ]
%21 = phi float [ %53, %19 ], [ 0.000000e+00, %18 ]
%22 = phi i64 [ %55, %19 ], [ 0, %18 ]
%23 = getelementptr inbounds float, float* %0, i64 %20
%24 = load float, float* %23
%25 = getelementptr inbounds float*, float** %1, i64 %20
%26 = load float*, float** %25
%27 = getelementptr inbounds float, float* %26, i64 %17
%28 = load float, float* %27
%29 = tail call float @llvm.fmuladd.f32(float %24, float %28, float %21)
%30 = or i64 %20, 1
%31 = getelementptr inbounds float, float* %0, i64 %30
%32 = load float, float* %31
%33 = getelementptr inbounds float*, float** %1, i64 %30
%34 = load float*, float** %33
%35 = getelementptr inbounds float, float* %34, i64 %17
%36 = load float, float* %35
%37 = tail call float @llvm.fmuladd.f32(float %32, float %36, float %29)
%38 = or i64 %20, 2
%39 = getelementptr inbounds float, float* %0, i64 %38
%40 = load float, float* %39
%41 = getelementptr inbounds float*, float** %1, i64 %38
%42 = load float*, float** %41
%43 = getelementptr inbounds float, float* %42, i64 %17
%44 = load float, float* %43
%45 = tail call float @llvm.fmuladd.f32(float %40, float %44, float %37)
%46 = or i64 %20, 3
%47 = getelementptr inbounds float, float* %0, i64 %46
%48 = load float, float* %47
%49 = getelementptr inbounds float*, float** %1, i64 %46
%50 = load float*, float** %49
%51 = getelementptr inbounds float, float* %50, i64 %17
%52 = load float, float* %51
%53 = tail call float @llvm.fmuladd.f32(float %48, float %52, float %45)
%54 = add nuw nsw i64 %20, 4
%55 = add i64 %22, 4
%56 = icmp eq i64 %55, %14
br i1 %56, label %57, label %19
57: ; preds = %19, %18
%58 = phi float [ undef, %18 ], [ %53, %19 ]
%59 = phi i64 [ 0, %18 ], [ %54, %19 ]
%60 = phi float [ 0.000000e+00, %18 ], [ %53, %19 ]
br i1 %15, label %75, label %61
61: ; preds = %57, %61
%62 = phi i64 [ %72, %61 ], [ %59, %57 ]
%63 = phi float [ %71, %61 ], [ %60, %57 ]
%64 = phi i64 [ %73, %61 ], [ 0, %57 ]
%65 = getelementptr inbounds float, float* %0, i64 %62
%66 = load float, float* %65
%67 = getelementptr inbounds float*, float** %1, i64 %62
%68 = load float*, float** %67
%69 = getelementptr inbounds float, float* %68, i64 %17
%70 = load float, float* %69
%71 = tail call float @llvm.fmuladd.f32(float %66, float %70, float %63)
%72 = add nuw nsw i64 %62, 1
%73 = add i64 %64, 1
%74 = icmp eq i64 %73, %12
br i1 %74, label %75, label %61
75: ; preds = %57, %61, %16
%76 = phi float [ 0.000000e+00, %16 ], [ %58, %57 ], [ %71, %61 ]
%77 = getelementptr inbounds float, float* %2, i64 %17
store float %76, float* %77
%78 = add nuw nsw i64 %17, 1
%79 = icmp eq i64 %78, %9
br i1 %79, label %80, label %16
80: ; preds = %75, %5
ret void
}