void nibble_sort_vetter1(unsigned long long *buf) {
  for (int num = 0; num < 1024; num++) {
    unsigned long long value = buf[num];
    unsigned long long count = 0;
    for (int i = 0; i < 16; i++, value >>= 4)
      count += 1ULL << (4 * (value & 0xF));
    unsigned long long result = 0;
    int pos = 0;
    for (int i = 0; i < 16; i++, count >>= 4) {
      int shift = (count & 0xF) * 4;
      unsigned long long data = (0x1111111111111111ULL * i) << pos;
      result ^= data ^ (data << shift);
      pos += shift;
    }
    if (pos == 64)
      buf[num] = result;
  }
}


x86 assembly (clang, -O0):
<nibble_sort_vetter1>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
movl   $0x0,-0xc(%rbp)
cmpl   $0x400,-0xc(%rbp)
jge    1232 <nibble_sort_vetter1+0x132>
mov    -0x8(%rbp),%rax
movslq -0xc(%rbp),%rcx
mov    (%rax,%rcx,8),%rax
mov    %rax,-0x18(%rbp)
movq   $0x0,-0x20(%rbp)
movl   $0x0,-0x24(%rbp)
cmpl   $0x10,-0x24(%rbp)
jge    117b <nibble_sort_vetter1+0x7b>
mov    -0x18(%rbp),%rcx
and    $0xf,%rcx
shl    $0x2,%rcx
mov    $0x1,%eax
shl    %cl,%rax
add    -0x20(%rbp),%rax
mov    %rax,-0x20(%rbp)
mov    -0x24(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x24(%rbp)
mov    -0x18(%rbp),%rax
shr    $0x4,%rax
mov    %rax,-0x18(%rbp)
jmp    113b <nibble_sort_vetter1+0x3b>
movq   $0x0,-0x30(%rbp)
movl   $0x0,-0x34(%rbp)
movl   $0x0,-0x38(%rbp)
cmpl   $0x10,-0x38(%rbp)
jge    1205 <nibble_sort_vetter1+0x105>
mov    -0x20(%rbp),%rax
and    $0xf,%rax
shl    $0x2,%rax
mov    %eax,-0x3c(%rbp)
movslq -0x38(%rbp),%rax
movabs $0x1111111111111111,%rcx
11 11 11
imul   %rcx,%rax
mov    -0x34(%rbp),%ecx
shl    %cl,%rax
mov    %rax,-0x48(%rbp)
mov    -0x48(%rbp),%rax
mov    -0x48(%rbp),%rdx
mov    -0x3c(%rbp),%ecx
shl    %cl,%rdx
mov    %rdx,%rcx
xor    %rcx,%rax
xor    -0x30(%rbp),%rax
mov    %rax,-0x30(%rbp)
mov    -0x3c(%rbp),%eax
add    -0x34(%rbp),%eax
mov    %eax,-0x34(%rbp)
mov    -0x38(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x38(%rbp)
mov    -0x20(%rbp),%rax
shr    $0x4,%rax
mov    %rax,-0x20(%rbp)
jmp    1191 <nibble_sort_vetter1+0x91>
cmpl   $0x40,-0x34(%rbp)
jne    121f <nibble_sort_vetter1+0x11f>
mov    -0x30(%rbp),%rdx
mov    -0x8(%rbp),%rax
movslq -0xc(%rbp),%rcx
mov    %rdx,(%rax,%rcx,8)
jmp    1224 <nibble_sort_vetter1+0x124>
mov    -0xc(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0xc(%rbp)
jmp    110f <nibble_sort_vetter1+0xf>
pop    %rbp
ret

x86 assembly (clang, -O2):
<nibble_sort_vetter1>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
xor    %r8d,%r8d
movabs $0x1111111111111111,%r9
11 11 11
movabs $0x2222222222222222,%r11
22 22 22
jmp    1141 <nibble_sort_vetter1+0x41>
cs nopw 0x0(%rax,%rax,1)
nopl   (%rax)
add    $0x1,%r8
cmp    $0x400,%r8
je     1304 <nibble_sort_vetter1+0x204>
mov    (%rdi,%r8,8),%rax
lea    0x0(,%rax,4),%ecx
mov    $0x1,%r10d
shl    %cl,%r10
mov    %eax,%ecx
shr    $0x2,%cl
and    $0x3c,%cl
mov    $0x1,%r14d
shl    %cl,%r14
mov    %rax,%rcx
shr    $0x6,%rcx
and    $0x3c,%cl
mov    $0x1,%r15d
shl    %cl,%r15
mov    %rax,%rcx
shr    $0xa,%rcx
and    $0x3c,%cl
mov    $0x1,%r12d
shl    %cl,%r12
mov    %rax,%rcx
shr    $0xe,%rcx
and    $0x3c,%cl
mov    $0x1,%r13d
shl    %cl,%r13
mov    %rax,%rcx
shr    $0x12,%rcx
and    $0x3c,%cl
mov    $0x1,%ebp
shl    %cl,%rbp
mov    %rax,%rcx
shr    $0x16,%rcx
and    $0x3c,%cl
mov    $0x1,%ebx
shl    %cl,%rbx
mov    %rax,%rcx
shr    $0x1a,%rcx
and    $0x3c,%cl
mov    $0x1,%edx
shl    %cl,%rdx
add    %r10,%r14
mov    %rax,%rcx
shr    $0x1e,%rcx
and    $0x3c,%cl
mov    $0x1,%r10d
shl    %cl,%r10
add    %r14,%r15
add    %r15,%r12
mov    %rax,%rcx
shr    $0x22,%rcx
and    $0x3c,%cl
mov    $0x1,%r14d
shl    %cl,%r14
add    %r12,%r13
add    %r13,%rbp
mov    %rax,%rcx
shr    $0x26,%rcx
and    $0x3c,%cl
mov    $0x1,%esi
shl    %cl,%rsi
add    %rbp,%rbx
add    %rbx,%rdx
mov    %rax,%rcx
shr    $0x2a,%rcx
and    $0x3c,%cl
mov    $0x1,%ebx
shl    %cl,%rbx
add    %rdx,%r10
add    %r10,%r14
mov    %rax,%rcx
shr    $0x2e,%rcx
and    $0x3c,%cl
mov    $0x1,%edx
shl    %cl,%rdx
add    %r14,%rsi
add    %rsi,%rbx
mov    %rax,%rcx
shr    $0x32,%rcx
and    $0x3c,%cl
mov    $0x1,%esi
shl    %cl,%rsi
add    %rbx,%rdx
add    %rdx,%rsi
mov    %rax,%rcx
shr    $0x36,%rcx
and    $0x3c,%cl
mov    $0x1,%edx
shl    %cl,%rdx
add    %rsi,%rdx
shr    $0x3a,%rax
and    $0x3c,%al
mov    $0x1,%r14d
mov    %eax,%ecx
shl    %cl,%r14
add    %rdx,%r14
mov    $0x10,%r10d
xor    %r12d,%r12d
xor    %eax,%eax
xor    %esi,%esi
lea    0x0(,%r14,4),%edx
mov    %r12,%rbx
mov    %eax,%ecx
shl    %cl,%rbx
and    $0x3c,%edx
mov    %rbx,%r15
mov    %edx,%ecx
shl    %cl,%r15
xor    %rsi,%rbx
add    %eax,%edx
mov    %r14d,%eax
shr    $0x2,%eax
lea    (%r12,%r9,1),%rsi
mov    %edx,%ecx
shl    %cl,%rsi
and    $0x3c,%eax
mov    %rsi,%rbp
mov    %eax,%ecx
shl    %cl,%rbp
xor    %r15,%rbx
xor    %rbx,%rsi
xor    %rbp,%rsi
add    %edx,%eax
shr    $0x8,%r14
add    %r11,%r12
add    $0xfffffffffffffffe,%r10
jne    12a0 <nibble_sort_vetter1+0x1a0>
cmp    $0x40,%eax
jne    1130 <nibble_sort_vetter1+0x30>
mov    %rsi,(%rdi,%r8,8)
jmp    1130 <nibble_sort_vetter1+0x30>
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define void @nibble_sort_vetter1(i64* %0) {
%2 = alloca i64*
%3 = alloca i32
%4 = alloca i64
%5 = alloca i64
%6 = alloca i32
%7 = alloca i64
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca i64
store i64* %0, i64** %2
store i32 0, i32* %3
br label %12
12: ; preds = %77, %1
%13 = load i32, i32* %3
%14 = icmp slt i32 %13, 1024
br i1 %14, label %15, label %80
15: ; preds = %12
%16 = load i64*, i64** %2
%17 = load i32, i32* %3
%18 = sext i32 %17 to i64
%19 = getelementptr inbounds i64, i64* %16, i64 %18
%20 = load i64, i64* %19
store i64 %20, i64* %4
store i64 0, i64* %5
store i32 0, i32* %6
br label %21
21: ; preds = %31, %15
%22 = load i32, i32* %6
%23 = icmp slt i32 %22, 16
br i1 %23, label %24, label %36
24: ; preds = %21
%25 = load i64, i64* %4
%26 = and i64 %25, 15
%27 = mul i64 4, %26
%28 = shl i64 1, %27
%29 = load i64, i64* %5
%30 = add i64 %29, %28
store i64 %30, i64* %5
br label %31
31: ; preds = %24
%32 = load i32, i32* %6
%33 = add nsw i32 %32, 1
store i32 %33, i32* %6
%34 = load i64, i64* %4
%35 = lshr i64 %34, 4
store i64 %35, i64* %4
br label %21
36: ; preds = %21
store i64 0, i64* %7
store i32 0, i32* %8
store i32 0, i32* %9
br label %37
37: ; preds = %62, %36
%38 = load i32, i32* %9
%39 = icmp slt i32 %38, 16
br i1 %39, label %40, label %67
40: ; preds = %37
%41 = load i64, i64* %5
%42 = and i64 %41, 15
%43 = mul i64 %42, 4
%44 = trunc i64 %43 to i32
store i32 %44, i32* %10
%45 = load i32, i32* %9
%46 = sext i32 %45 to i64
%47 = mul i64 1229782938247303441, %46
%48 = load i32, i32* %8
%49 = zext i32 %48 to i64
%50 = shl i64 %47, %49
store i64 %50, i64* %11
%51 = load i64, i64* %11
%52 = load i64, i64* %11
%53 = load i32, i32* %10
%54 = zext i32 %53 to i64
%55 = shl i64 %52, %54
%56 = xor i64 %51, %55
%57 = load i64, i64* %7
%58 = xor i64 %57, %56
store i64 %58, i64* %7
%59 = load i32, i32* %10
%60 = load i32, i32* %8
%61 = add nsw i32 %60, %59
store i32 %61, i32* %8
br label %62
62: ; preds = %40
%63 = load i32, i32* %9
%64 = add nsw i32 %63, 1
store i32 %64, i32* %9
%65 = load i64, i64* %5
%66 = lshr i64 %65, 4
store i64 %66, i64* %5
br label %37
67: ; preds = %37
%68 = load i32, i32* %8
%69 = icmp eq i32 %68, 64
br i1 %69, label %70, label %76
70: ; preds = %67
%71 = load i64, i64* %7
%72 = load i64*, i64** %2
%73 = load i32, i32* %3
%74 = sext i32 %73 to i64
%75 = getelementptr inbounds i64, i64* %72, i64 %74
store i64 %71, i64* %75
br label %76
76: ; preds = %70, %67
br label %77
77: ; preds = %76
%78 = load i32, i32* %3
%79 = add nsw i32 %78, 1
store i32 %79, i32* %3
br label %12
80: ; preds = %12
ret void
}

LLVM IR (-O2):
define void @nibble_sort_vetter1(i64* nocapture %0) {
br label %3
2: ; preds = %104
ret void
3: ; preds = %1, %104
%4 = phi i64 [ 0, %1 ], [ %105, %104 ]
%5 = getelementptr inbounds i64, i64* %0, i64 %4
%6 = load i64, i64* %5
%7 = shl i64 %6, 2
%8 = and i64 %7, 60
%9 = shl nuw nsw i64 1, %8
%10 = lshr i64 %6, 2
%11 = and i64 %10, 60
%12 = shl nuw nsw i64 1, %11
%13 = add nuw nsw i64 %12, %9
%14 = lshr i64 %6, 6
%15 = and i64 %14, 60
%16 = shl nuw nsw i64 1, %15
%17 = add nuw nsw i64 %16, %13
%18 = lshr i64 %6, 10
%19 = and i64 %18, 60
%20 = shl nuw nsw i64 1, %19
%21 = add nuw nsw i64 %20, %17
%22 = lshr i64 %6, 14
%23 = and i64 %22, 60
%24 = shl nuw nsw i64 1, %23
%25 = add nuw nsw i64 %24, %21
%26 = lshr i64 %6, 18
%27 = and i64 %26, 60
%28 = shl nuw nsw i64 1, %27
%29 = add nuw nsw i64 %28, %25
%30 = lshr i64 %6, 22
%31 = and i64 %30, 60
%32 = shl nuw nsw i64 1, %31
%33 = add nuw nsw i64 %32, %29
%34 = lshr i64 %6, 26
%35 = and i64 %34, 60
%36 = shl nuw nsw i64 1, %35
%37 = add nuw i64 %36, %33
%38 = lshr i64 %6, 30
%39 = and i64 %38, 60
%40 = shl nuw nsw i64 1, %39
%41 = add nuw i64 %40, %37
%42 = lshr i64 %6, 34
%43 = and i64 %42, 60
%44 = shl nuw nsw i64 1, %43
%45 = add nuw i64 %44, %41
%46 = lshr i64 %6, 38
%47 = and i64 %46, 60
%48 = shl nuw nsw i64 1, %47
%49 = add nuw i64 %48, %45
%50 = lshr i64 %6, 42
%51 = and i64 %50, 60
%52 = shl nuw nsw i64 1, %51
%53 = add nuw i64 %52, %49
%54 = lshr i64 %6, 46
%55 = and i64 %54, 60
%56 = shl nuw nsw i64 1, %55
%57 = add nuw i64 %56, %53
%58 = lshr i64 %6, 50
%59 = and i64 %58, 60
%60 = shl nuw nsw i64 1, %59
%61 = add nuw i64 %60, %57
%62 = lshr i64 %6, 54
%63 = and i64 %62, 60
%64 = shl nuw nsw i64 1, %63
%65 = add nuw i64 %64, %61
%66 = lshr i64 %6, 58
%67 = and i64 %66, 60
%68 = shl nuw nsw i64 1, %67
%69 = add i64 %68, %65
br label %72
70: ; preds = %72
%71 = icmp eq i32 %99, 64
br i1 %71, label %103, label %104
72: ; preds = %72, %3
%73 = phi i64 [ 0, %3 ], [ %100, %72 ]
%74 = phi i32 [ 0, %3 ], [ %99, %72 ]
%75 = phi i64 [ 0, %3 ], [ %98, %72 ]
%76 = phi i64 [ %69, %3 ], [ %101, %72 ]
%77 = trunc i64 %76 to i32
%78 = shl i32 %77, 2
%79 = and i32 %78, 60
%80 = mul nuw i64 %73, 1229782938247303441
%81 = zext i32 %74 to i64
%82 = shl i64 %80, %81
%83 = zext i32 %79 to i64
%84 = shl i64 %82, %83
%85 = xor i64 %82, %75
%86 = xor i64 %85, %84
%87 = add nuw nsw i32 %79, %74
%88 = or i64 %73, 1
%89 = trunc i64 %76 to i32
%90 = lshr i32 %89, 2
%91 = and i32 %90, 60
%92 = mul nuw i64 %88, 1229782938247303441
%93 = zext i32 %87 to i64
%94 = shl i64 %92, %93
%95 = zext i32 %91 to i64
%96 = shl i64 %94, %95
%97 = xor i64 %94, %86
%98 = xor i64 %97, %96
%99 = add nuw nsw i32 %91, %87
%100 = add nuw nsw i64 %73, 2
%101 = lshr i64 %76, 8
%102 = icmp eq i64 %100, 16
br i1 %102, label %70, label %72
103: ; preds = %70
store i64 %98, i64* %5
br label %104
104: ; preds = %103, %70
%105 = add nuw nsw i64 %4, 1
%106 = icmp eq i64 %105, 1024
br i1 %106, label %2, label %3
}