int variance(unsigned char *p, int lx) {
  int i;
  int j;
  unsigned int v;
  unsigned int s;
  unsigned int s2;
  unsigned int sa;
  unsigned int s2a;
  unsigned char *tmp;
  {
    s2a = 0U;
    sa = s2a;
    s2 = 0U;
    s = s2;
    j = 0;
    while (j < 16) {
      i = 0;
      while (i < 16) {
        tmp = p;
        p++;
        v = (unsigned int)*tmp;
        s += v;
        s2 += v * v;
        i++;
      }
      p += lx - 16;
      j++;
    }
    return ((int)(s2 - (s * s) / 256U));
  }
}


x86 assembly (clang, -O0):
<variance>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
movl   $0x0,-0x28(%rbp)
mov    -0x28(%rbp),%eax
mov    %eax,-0x24(%rbp)
movl   $0x0,-0x20(%rbp)
mov    -0x20(%rbp),%eax
mov    %eax,-0x1c(%rbp)
movl   $0x0,-0x14(%rbp)
cmpl   $0x10,-0x14(%rbp)
jge    11ab <variance+0xab>
movl   $0x0,-0x10(%rbp)
cmpl   $0x10,-0x10(%rbp)
jge    1189 <variance+0x89>
mov    -0x8(%rbp),%rax
mov    %rax,-0x30(%rbp)
mov    -0x8(%rbp),%rax
add    $0x1,%rax
mov    %rax,-0x8(%rbp)
mov    -0x30(%rbp),%rax
movzbl (%rax),%eax
mov    %eax,-0x18(%rbp)
mov    -0x18(%rbp),%eax
add    -0x1c(%rbp),%eax
mov    %eax,-0x1c(%rbp)
mov    -0x18(%rbp),%eax
imul   -0x18(%rbp),%eax
add    -0x20(%rbp),%eax
mov    %eax,-0x20(%rbp)
mov    -0x10(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x10(%rbp)
jmp    113d <variance+0x3d>
mov    -0xc(%rbp),%ecx
sub    $0x10,%ecx
mov    -0x8(%rbp),%rax
movslq %ecx,%rcx
add    %rcx,%rax
mov    %rax,-0x8(%rbp)
mov    -0x14(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x14(%rbp)
jmp    112c <variance+0x2c>
mov    -0x20(%rbp),%eax
mov    -0x1c(%rbp),%ecx
imul   -0x1c(%rbp),%ecx
shr    $0x8,%ecx
sub    %ecx,%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<variance>:
movslq %esi,%r8
add    $0xf,%rdi
xor    %eax,%eax
mov    $0x10,%esi
xor    %edx,%edx
movzbl -0xf(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0xe(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0xd(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0xc(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0xb(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0xa(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x9(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0x8(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x7(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0x6(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x5(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0x4(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x3(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl -0x2(%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
movzbl -0x1(%rdi),%ecx
add    %ecx,%edx
imul   %ecx,%ecx
add    %eax,%ecx
movzbl (%rdi),%eax
add    %eax,%edx
imul   %eax,%eax
add    %ecx,%eax
add    %r8,%rdi
add    $0xffffffff,%esi
jne    1110 <variance+0x10>
imul   %edx,%edx
shr    $0x8,%edx
sub    %edx,%eax
ret

LLVM IR (-O0):
define i32 @variance(i8* %0, i32 %1) {
%3 = alloca i8*
%4 = alloca i32
%5 = alloca i32
%6 = alloca i32
%7 = alloca i32
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca i32
%12 = alloca i8*
store i8* %0, i8** %3
store i32 %1, i32* %4
store i32 0, i32* %11
%13 = load i32, i32* %11
store i32 %13, i32* %10
store i32 0, i32* %9
%14 = load i32, i32* %9
store i32 %14, i32* %8
store i32 0, i32* %6
br label %15
15: ; preds = %39, %2
%16 = load i32, i32* %6
%17 = icmp slt i32 %16, 16
br i1 %17, label %18, label %47
18: ; preds = %15
store i32 0, i32* %5
br label %19
19: ; preds = %22, %18
%20 = load i32, i32* %5
%21 = icmp slt i32 %20, 16
br i1 %21, label %22, label %39
22: ; preds = %19
%23 = load i8*, i8** %3
store i8* %23, i8** %12
%24 = load i8*, i8** %3
%25 = getelementptr inbounds i8, i8* %24, i32 1
store i8* %25, i8** %3
%26 = load i8*, i8** %12
%27 = load i8, i8* %26
%28 = zext i8 %27 to i32
store i32 %28, i32* %7
%29 = load i32, i32* %7
%30 = load i32, i32* %8
%31 = add i32 %30, %29
store i32 %31, i32* %8
%32 = load i32, i32* %7
%33 = load i32, i32* %7
%34 = mul i32 %32, %33
%35 = load i32, i32* %9
%36 = add i32 %35, %34
store i32 %36, i32* %9
%37 = load i32, i32* %5
%38 = add nsw i32 %37, 1
store i32 %38, i32* %5
br label %19
39: ; preds = %19
%40 = load i32, i32* %4
%41 = sub nsw i32 %40, 16
%42 = load i8*, i8** %3
%43 = sext i32 %41 to i64
%44 = getelementptr inbounds i8, i8* %42, i64 %43
store i8* %44, i8** %3
%45 = load i32, i32* %6
%46 = add nsw i32 %45, 1
store i32 %46, i32* %6
br label %15
47: ; preds = %15
%48 = load i32, i32* %9
%49 = load i32, i32* %8
%50 = load i32, i32* %8
%51 = mul i32 %49, %50
%52 = udiv i32 %51, 256
%53 = sub i32 %48, %52
ret i32 %53
}

LLVM IR (-O2):
define i32 @variance(i8* nocapture %0, i32 %1) {
%3 = add nsw i32 %1, -16
%4 = sext i32 %3 to i64
br label %5
5: ; preds = %2, %5
%6 = phi i8* [ %0, %2 ], [ %106, %5 ]
%7 = phi i32 [ 0, %2 ], [ %107, %5 ]
%8 = phi i32 [ 0, %2 ], [ %104, %5 ]
%9 = phi i32 [ 0, %2 ], [ %102, %5 ]
%10 = getelementptr inbounds i8, i8* %6, i64 1
%11 = load i8, i8* %6
%12 = zext i8 %11 to i32
%13 = add i32 %9, %12
%14 = mul nuw nsw i32 %12, %12
%15 = add i32 %14, %8
%16 = getelementptr inbounds i8, i8* %6, i64 2
%17 = load i8, i8* %10
%18 = zext i8 %17 to i32
%19 = add i32 %13, %18
%20 = mul nuw nsw i32 %18, %18
%21 = add i32 %20, %15
%22 = getelementptr inbounds i8, i8* %6, i64 3
%23 = load i8, i8* %16
%24 = zext i8 %23 to i32
%25 = add i32 %19, %24
%26 = mul nuw nsw i32 %24, %24
%27 = add i32 %26, %21
%28 = getelementptr inbounds i8, i8* %6, i64 4
%29 = load i8, i8* %22
%30 = zext i8 %29 to i32
%31 = add i32 %25, %30
%32 = mul nuw nsw i32 %30, %30
%33 = add i32 %32, %27
%34 = getelementptr inbounds i8, i8* %6, i64 5
%35 = load i8, i8* %28
%36 = zext i8 %35 to i32
%37 = add i32 %31, %36
%38 = mul nuw nsw i32 %36, %36
%39 = add i32 %38, %33
%40 = getelementptr inbounds i8, i8* %6, i64 6
%41 = load i8, i8* %34
%42 = zext i8 %41 to i32
%43 = add i32 %37, %42
%44 = mul nuw nsw i32 %42, %42
%45 = add i32 %44, %39
%46 = getelementptr inbounds i8, i8* %6, i64 7
%47 = load i8, i8* %40
%48 = zext i8 %47 to i32
%49 = add i32 %43, %48
%50 = mul nuw nsw i32 %48, %48
%51 = add i32 %50, %45
%52 = getelementptr inbounds i8, i8* %6, i64 8
%53 = load i8, i8* %46
%54 = zext i8 %53 to i32
%55 = add i32 %49, %54
%56 = mul nuw nsw i32 %54, %54
%57 = add i32 %56, %51
%58 = getelementptr inbounds i8, i8* %6, i64 9
%59 = load i8, i8* %52
%60 = zext i8 %59 to i32
%61 = add i32 %55, %60
%62 = mul nuw nsw i32 %60, %60
%63 = add i32 %62, %57
%64 = getelementptr inbounds i8, i8* %6, i64 10
%65 = load i8, i8* %58
%66 = zext i8 %65 to i32
%67 = add i32 %61, %66
%68 = mul nuw nsw i32 %66, %66
%69 = add i32 %68, %63
%70 = getelementptr inbounds i8, i8* %6, i64 11
%71 = load i8, i8* %64
%72 = zext i8 %71 to i32
%73 = add i32 %67, %72
%74 = mul nuw nsw i32 %72, %72
%75 = add i32 %74, %69
%76 = getelementptr inbounds i8, i8* %6, i64 12
%77 = load i8, i8* %70
%78 = zext i8 %77 to i32
%79 = add i32 %73, %78
%80 = mul nuw nsw i32 %78, %78
%81 = add i32 %80, %75
%82 = getelementptr inbounds i8, i8* %6, i64 13
%83 = load i8, i8* %76
%84 = zext i8 %83 to i32
%85 = add i32 %79, %84
%86 = mul nuw nsw i32 %84, %84
%87 = add i32 %86, %81
%88 = getelementptr inbounds i8, i8* %6, i64 14
%89 = load i8, i8* %82
%90 = zext i8 %89 to i32
%91 = add i32 %85, %90
%92 = mul nuw nsw i32 %90, %90
%93 = add i32 %92, %87
%94 = getelementptr inbounds i8, i8* %6, i64 15
%95 = load i8, i8* %88
%96 = zext i8 %95 to i32
%97 = add i32 %91, %96
%98 = mul nuw nsw i32 %96, %96
%99 = add i32 %98, %93
%100 = load i8, i8* %94
%101 = zext i8 %100 to i32
%102 = add i32 %97, %101
%103 = mul nuw nsw i32 %101, %101
%104 = add i32 %103, %99
%105 = getelementptr i8, i8* %6, i64 16
%106 = getelementptr inbounds i8, i8* %105, i64 %4
%107 = add nuw nsw i32 %7, 1
%108 = icmp eq i32 %107, 16
br i1 %108, label %109, label %5
109: ; preds = %5
%110 = mul i32 %102, %102
%111 = lshr i32 %110, 8
%112 = sub i32 %104, %111
ret i32 %112
}