int variance(p, lx)
unsigned char *p;
int lx;
{
  int i, j;
  unsigned int v, s, s2;
  s = s2 = 0;
  for (j = 0; j < 16; j++) {
    for (i = 0; i < 16; i++) {
      v = *p++;
      s += v;
      s2 += v * v;
    }
    p += lx - 16;
  }
  return s2 - (s * s) / 256;
}


x86 assembly (clang, -O0):
<variance>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
movl   $0x0,-0x20(%rbp)
movl   $0x0,-0x1c(%rbp)
movl   $0x0,-0x14(%rbp)
cmpl   $0x10,-0x14(%rbp)
jge    1196 <variance+0x96>
movl   $0x0,-0x10(%rbp)
cmpl   $0x10,-0x10(%rbp)
jge    1174 <variance+0x74>
mov    -0x8(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x8(%rbp)
movzbl (%rax),%eax
mov    %eax,-0x18(%rbp)
mov    -0x18(%rbp),%eax
add    -0x1c(%rbp),%eax
mov    %eax,-0x1c(%rbp)
mov    -0x18(%rbp),%eax
imul   -0x18(%rbp),%eax
add    -0x20(%rbp),%eax
mov    %eax,-0x20(%rbp)
mov    -0x10(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x10(%rbp)
jmp    1131 <variance+0x31>
mov    -0xc(%rbp),%ecx
sub    $0x10,%ecx
mov    -0x8(%rbp),%rax
movslq %ecx,%rcx
add    %rcx,%rax
mov    %rax,-0x8(%rbp)
mov    -0x14(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x14(%rbp)
jmp    1120 <variance+0x20>
mov    -0x20(%rbp),%eax
mov    -0x1c(%rbp),%ecx
imul   -0x1c(%rbp),%ecx
shr    $0x8,%ecx
sub    %ecx,%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<variance>:
movslq %esi,%r8
add    $0xf,%rdi
xor    %eax,%eax
mov    $0x10,%esi
xor    %edx,%edx
movzbl -0xf(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0xe(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0xd(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0xc(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0xb(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0xa(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x9(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0x8(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x7(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0x6(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x5(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0x4(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x3(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0x2(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x1(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl (%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
add    %r8,%rdi
add    $0xffffffff,%esi
jne    1110 <variance+0x10>
imul   %edx,%edx
shr    $0x8,%edx
sub    %edx,%eax
ret

LLVM IR (-O0):
define i32 @variance(i8* %0, i32 %1) {
%3 = alloca i8*
%4 = alloca i32
%5 = alloca i32
%6 = alloca i32
%7 = alloca i32
%8 = alloca i32
%9 = alloca i32
store i8* %0, i8** %3
store i32 %1, i32* %4
store i32 0, i32* %9
store i32 0, i32* %8
store i32 0, i32* %6
br label %10
10: ; preds = %39, %2
%11 = load i32, i32* %6
%12 = icmp slt i32 %11, 16
br i1 %12, label %13, label %42
13: ; preds = %10
store i32 0, i32* %5
br label %14
14: ; preds = %30, %13
%15 = load i32, i32* %5
%16 = icmp slt i32 %15, 16
br i1 %16, label %17, label %33
17: ; preds = %14
%18 = load i8*, i8** %3
%19 = getelementptr inbounds i8, i8* %18, i32 1
store i8* %19, i8** %3
%20 = load i8, i8* %18
%21 = zext i8 %20 to i32
store i32 %21, i32* %7
%22 = load i32, i32* %7
%23 = load i32, i32* %8
%24 = add i32 %23, %22
store i32 %24, i32* %8
%25 = load i32, i32* %7
%26 = load i32, i32* %7
%27 = mul i32 %25, %26
%28 = load i32, i32* %9
%29 = add i32 %28, %27
store i32 %29, i32* %9
br label %30
30: ; preds = %17
%31 = load i32, i32* %5
%32 = add nsw i32 %31, 1
store i32 %32, i32* %5
br label %14
33: ; preds = %14
%34 = load i32, i32* %4
%35 = sub nsw i32 %34, 16
%36 = load i8*, i8** %3
%37 = sext i32 %35 to i64
%38 = getelementptr inbounds i8, i8* %36, i64 %37
store i8* %38, i8** %3
br label %39
39: ; preds = %33
%40 = load i32, i32* %6
%41 = add nsw i32 %40, 1
store i32 %41, i32* %6
br label %10
42: ; preds = %10
%43 = load i32, i32* %9
%44 = load i32, i32* %8
%45 = load i32, i32* %8
%46 = mul i32 %44, %45
%47 = udiv i32 %46, 256
%48 = sub i32 %43, %47
ret i32 %48
}

LLVM IR (-O2):
define i32 @variance(i8* nocapture %0, i32 %1) {
%3 = add nsw i32 %1, -16
%4 = sext i32 %3 to i64
br label %5
5: ; preds = %2, %5
%6 = phi i32 [ 0, %2 ], [ %104, %5 ]
%7 = phi i32 [ 0, %2 ], [ %102, %5 ]
%8 = phi i8* [ %0, %2 ], [ %106, %5 ]
%9 = phi i32 [ 0, %2 ], [ %107, %5 ]
%10 = getelementptr inbounds i8, i8* %8, i64 1
%11 = load i8, i8* %8
%12 = zext i8 %11 to i32
%13 = add i32 %7, %12
%14 = mul nuw nsw i32 %12, %12
%15 = add i32 %14, %6
%16 = getelementptr inbounds i8, i8* %8, i64 2
%17 = load i8, i8* %10
%18 = zext i8 %17 to i32
%19 = add i32 %13, %18
%20 = mul nuw nsw i32 %18, %18
%21 = add i32 %20, %15
%22 = getelementptr inbounds i8, i8* %8, i64 3
%23 = load i8, i8* %16
%24 = zext i8 %23 to i32
%25 = add i32 %19, %24
%26 = mul nuw nsw i32 %24, %24
%27 = add i32 %26, %21
%28 = getelementptr inbounds i8, i8* %8, i64 4
%29 = load i8, i8* %22
%30 = zext i8 %29 to i32
%31 = add i32 %25, %30
%32 = mul nuw nsw i32 %30, %30
%33 = add i32 %32, %27
%34 = getelementptr inbounds i8, i8* %8, i64 5
%35 = load i8, i8* %28
%36 = zext i8 %35 to i32
%37 = add i32 %31, %36
%38 = mul nuw nsw i32 %36, %36
%39 = add i32 %38, %33
%40 = getelementptr inbounds i8, i8* %8, i64 6
%41 = load i8, i8* %34
%42 = zext i8 %41 to i32
%43 = add i32 %37, %42
%44 = mul nuw nsw i32 %42, %42
%45 = add i32 %44, %39
%46 = getelementptr inbounds i8, i8* %8, i64 7
%47 = load i8, i8* %40
%48 = zext i8 %47 to i32
%49 = add i32 %43, %48
%50 = mul nuw nsw i32 %48, %48
%51 = add i32 %50, %45
%52 = getelementptr inbounds i8, i8* %8, i64 8
%53 = load i8, i8* %46
%54 = zext i8 %53 to i32
%55 = add i32 %49, %54
%56 = mul nuw nsw i32 %54, %54
%57 = add i32 %56, %51
%58 = getelementptr inbounds i8, i8* %8, i64 9
%59 = load i8, i8* %52
%60 = zext i8 %59 to i32
%61 = add i32 %55, %60
%62 = mul nuw nsw i32 %60, %60
%63 = add i32 %62, %57
%64 = getelementptr inbounds i8, i8* %8, i64 10
%65 = load i8, i8* %58
%66 = zext i8 %65 to i32
%67 = add i32 %61, %66
%68 = mul nuw nsw i32 %66, %66
%69 = add i32 %68, %63
%70 = getelementptr inbounds i8, i8* %8, i64 11
%71 = load i8, i8* %64
%72 = zext i8 %71 to i32
%73 = add i32 %67, %72
%74 = mul nuw nsw i32 %72, %72
%75 = add i32 %74, %69
%76 = getelementptr inbounds i8, i8* %8, i64 12
%77 = load i8, i8* %70
%78 = zext i8 %77 to i32
%79 = add i32 %73, %78
%80 = mul nuw nsw i32 %78, %78
%81 = add i32 %80, %75
%82 = getelementptr inbounds i8, i8* %8, i64 13
%83 = load i8, i8* %76
%84 = zext i8 %83 to i32
%85 = add i32 %79, %84
%86 = mul nuw nsw i32 %84, %84
%87 = add i32 %86, %81
%88 = getelementptr inbounds i8, i8* %8, i64 14
%89 = load i8, i8* %82
%90 = zext i8 %89 to i32
%91 = add i32 %85, %90
%92 = mul nuw nsw i32 %90, %90
%93 = add i32 %92, %87
%94 = getelementptr inbounds i8, i8* %8, i64 15
%95 = load i8, i8* %88
%96 = zext i8 %95 to i32
%97 = add i32 %91, %96
%98 = mul nuw nsw i32 %96, %96
%99 = add i32 %98, %93
%100 = load i8, i8* %94
%101 = zext i8 %100 to i32
%102 = add i32 %97, %101
%103 = mul nuw nsw i32 %101, %101
%104 = add i32 %103, %99
%105 = getelementptr i8, i8* %8, i64 16
%106 = getelementptr inbounds i8, i8* %105, i64 %4
%107 = add nuw nsw i32 %9, 1
%108 = icmp eq i32 %107, 16
br i1 %108, label %109, label %5
109: ; preds = %5
%110 = mul i32 %102, %102
%111 = lshr i32 %110, 8
%112 = sub i32 %104, %111
ret i32 %112
}