void nibble_sort_vlad(unsigned long *pv) {
  unsigned char c[16] = {};
  unsigned long tmp[2];
  for (register unsigned long *e = pv + 1024; pv != e; ++pv) {
    register unsigned long v = *pv;
    tmp[0] = v & 0xF0F0F0F0F0F0F0F0;
    tmp[0] >>= 4;
    tmp[1] = v & 0x0F0F0F0F0F0F0F0F;
    unsigned char *p = (unsigned char *)tmp;
    register int n;
    for (n = 15; n >= 0; --n) {
      ++c[*p++];
    }
    for (n = 15; n >= 0; --n) {
      while (c[n]) {
        v = (v << 4) | n;
        --c[n];
      }
    }
    *pv = v;
  }
}


x86 assembly (clang, -O0):
<nibble_sort_vlad>:
push   %rbp
mov    %rsp,%rbp
sub    $0x50,%rsp
mov    %rdi,-0x8(%rbp)
lea    -0x20(%rbp),%rdi
xor    %esi,%esi
mov    $0x10,%edx
call   1030 <memset@plt>
mov    -0x8(%rbp),%rax
add    $0x2000,%rax
mov    %rax,-0x38(%rbp)
mov    -0x8(%rbp),%rax
cmp    -0x38(%rbp),%rax
je     1242 <nibble_sort_vlad+0x132>
mov    -0x8(%rbp),%rax
mov    (%rax),%rax
mov    %rax,-0x40(%rbp)
movabs $0xf0f0f0f0f0f0f0f0,%rax
f0 f0 f0
and    -0x40(%rbp),%rax
mov    %rax,-0x30(%rbp)
mov    -0x30(%rbp),%rax
shr    $0x4,%rax
mov    %rax,-0x30(%rbp)
movabs $0xf0f0f0f0f0f0f0f,%rax
0f 0f 0f
and    -0x40(%rbp),%rax
mov    %rax,-0x28(%rbp)
lea    -0x30(%rbp),%rax
mov    %rax,-0x48(%rbp)
movl   $0xf,-0x4c(%rbp)
cmpl   $0x0,-0x4c(%rbp)
jl     11c7 <nibble_sort_vlad+0xb7>
mov    -0x48(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x48(%rbp)
movzbl (%rax),%eax
mov    -0x20(%rbp,%rax,1),%cl
add    $0x1,%cl
mov    %cl,-0x20(%rbp,%rax,1)
mov    -0x4c(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x4c(%rbp)
jmp    1192 <nibble_sort_vlad+0x82>
movl   $0xf,-0x4c(%rbp)
cmpl   $0x0,-0x4c(%rbp)
jl     1226 <nibble_sort_vlad+0x116>
jmp    11dd <nibble_sort_vlad+0xcd>
movslq -0x4c(%rbp),%rax
cmpb   $0x0,-0x20(%rbp,%rax,1)
je     1213 <nibble_sort_vlad+0x103>
mov    -0x40(%rbp),%rax
shl    $0x4,%rax
movslq -0x4c(%rbp),%rcx
or     %rcx,%rax
mov    %rax,-0x40(%rbp)
movslq -0x4c(%rbp),%rax
mov    -0x20(%rbp,%rax,1),%cl
add    $0xff,%cl
mov    %cl,-0x20(%rbp,%rax,1)
jmp    11dd <nibble_sort_vlad+0xcd>
jmp    1218 <nibble_sort_vlad+0x108>
mov    -0x4c(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x4c(%rbp)
jmp    11ce <nibble_sort_vlad+0xbe>
mov    -0x40(%rbp),%rcx
mov    -0x8(%rbp),%rax
mov    %rcx,(%rax)
mov    -0x8(%rbp),%rax
add    $0x8,%rax
mov    %rax,-0x8(%rbp)
jmp    113a <nibble_sort_vlad+0x2a>
add    $0x50,%rsp
pop    %rbp
ret

x86 assembly (clang, -O2):
<nibble_sort_vlad>:
push   %rbx
xorps  %xmm0,%xmm0
movaps %xmm0,-0x10(%rsp)
xor    %r8d,%r8d
jmp    1125 <nibble_sort_vlad+0x25>
xchg   %ax,%ax
mov    %rcx,(%rdi,%r8,8)
add    $0x1,%r8
cmp    $0x400,%r8
je     12a0 <nibble_sort_vlad+0x1a0>
mov    (%rdi,%r8,8),%rcx
mov    %ecx,%r10d
shr    $0x4,%r10d
and    $0xf,%r10d
mov    %ecx,%r11d
shr    $0xc,%r11d
and    $0xf,%r11d
mov    %ecx,%ebx
shr    $0x14,%ebx
and    $0xf,%ebx
mov    %ecx,%r9d
shr    $0x1c,%r9d
mov    %rcx,%rax
addb   $0x1,-0x10(%rsp,%r10,1)
shr    $0x24,%rax
mov    %rcx,%rdx
addb   $0x1,-0x10(%rsp,%r11,1)
shr    $0x2c,%rdx
mov    %rcx,%rsi
addb   $0x1,-0x10(%rsp,%rbx,1)
shr    $0x34,%rsi
mov    %rcx,%rbx
addb   $0x1,-0x10(%rsp,%r9,1)
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
and    $0xf,%edx
addb   $0x1,-0x10(%rsp,%rdx,1)
and    $0xf,%esi
addb   $0x1,-0x10(%rsp,%rsi,1)
shr    $0x3c,%rbx
addb   $0x1,-0x10(%rsp,%rbx,1)
mov    %ecx,%eax
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
mov    %ecx,%eax
shr    $0x8,%eax
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
mov    %ecx,%eax
shr    $0x10,%eax
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
mov    %ecx,%eax
shr    $0x18,%eax
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
mov    %rcx,%rax
shr    $0x20,%rax
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
mov    %rcx,%rax
shr    $0x28,%rax
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
mov    %rcx,%rax
shr    $0x30,%rax
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
mov    %rcx,%rax
shr    $0x38,%rax
and    $0xf,%eax
addb   $0x1,-0x10(%rsp,%rax,1)
mov    $0xf,%edx
jmp    122f <nibble_sort_vlad+0x12f>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
movb   $0x0,-0x10(%rsp,%rdx,1)
sub    $0x1,%rdx
jb     1110 <nibble_sort_vlad+0x10>
mov    -0x10(%rsp,%rdx,1),%sil
test   %sil,%sil
je     1220 <nibble_sort_vlad+0x120>
lea    -0x1(%rsi),%r9d
mov    %esi,%r10d
and    $0x7,%r10b
je     1261 <nibble_sort_vlad+0x161>
xor    %eax,%eax
nopl   0x0(%rax,%rax,1)
shl    $0x4,%rcx
or     %rdx,%rcx
add    $0x1,%al
cmp    %al,%r10b
jne    1250 <nibble_sort_vlad+0x150>
sub    %al,%sil
cmp    $0x7,%r9b
jb     1220 <nibble_sort_vlad+0x120>
mov    %rdx,%rax
shl    $0x4,%rax
xchg   %ax,%ax
shl    $0x8,%rcx
or     %rax,%rcx
or     %rdx,%rcx
shl    $0x8,%rcx
or     %rax,%rcx
or     %rdx,%rcx
shl    $0x8,%rcx
or     %rax,%rcx
or     %rdx,%rcx
shl    $0x8,%rcx
or     %rax,%rcx
or     %rdx,%rcx
add    $0xf8,%sil
jne    1270 <nibble_sort_vlad+0x170>
jmp    1220 <nibble_sort_vlad+0x120>
pop    %rbx
ret

LLVM IR (-O0):
define void @nibble_sort_vlad(i64* %0) {
%2 = alloca i64*
%3 = alloca [16 x i8]
%4 = alloca [2 x i64]
%5 = alloca i64*
%6 = alloca i64
%7 = alloca i8*
%8 = alloca i32
store i64* %0, i64** %2
%9 = bitcast [16 x i8]* %3 to i8*
%10 = load i64*, i64** %2
%11 = getelementptr inbounds i64, i64* %10, i64 1024
store i64* %11, i64** %5
br label %12
12: ; preds = %73, %1
%13 = load i64*, i64** %2
%14 = load i64*, i64** %5
%15 = icmp ne i64* %13, %14
br i1 %15, label %16, label %76
16: ; preds = %12
%17 = load i64*, i64** %2
%18 = load i64, i64* %17
store i64 %18, i64* %6
%19 = load i64, i64* %6
%20 = and i64 %19, -1085102592571150096
%21 = getelementptr inbounds [2 x i64], [2 x i64]* %4, i64 0, i64 0
store i64 %20, i64* %21
%22 = getelementptr inbounds [2 x i64], [2 x i64]* %4, i64 0, i64 0
%23 = load i64, i64* %22
%24 = lshr i64 %23, 4
store i64 %24, i64* %22
%25 = load i64, i64* %6
%26 = and i64 %25, 1085102592571150095
%27 = getelementptr inbounds [2 x i64], [2 x i64]* %4, i64 0, i64 1
store i64 %26, i64* %27
%28 = getelementptr inbounds [2 x i64], [2 x i64]* %4, i64 0, i64 0
%29 = bitcast i64* %28 to i8*
store i8* %29, i8** %7
store i32 15, i32* %8
br label %30
30: ; preds = %41, %16
%31 = load i32, i32* %8
%32 = icmp sge i32 %31, 0
br i1 %32, label %33, label %44
33: ; preds = %30
%34 = load i8*, i8** %7
%35 = getelementptr inbounds i8, i8* %34, i32 1
store i8* %35, i8** %7
%36 = load i8, i8* %34
%37 = zext i8 %36 to i64
%38 = getelementptr inbounds [16 x i8], [16 x i8]* %3, i64 0, i64 %37
%39 = load i8, i8* %38
%40 = add i8 %39, 1
store i8 %40, i8* %38
br label %41
41: ; preds = %33
%42 = load i32, i32* %8
%43 = add nsw i32 %42, -1
store i32 %43, i32* %8
br label %30
44: ; preds = %30
store i32 15, i32* %8
br label %45
45: ; preds = %67, %44
%46 = load i32, i32* %8
%47 = icmp sge i32 %46, 0
br i1 %47, label %48, label %70
48: ; preds = %45
br label %49
49: ; preds = %55, %48
%50 = load i32, i32* %8
%51 = sext i32 %50 to i64
%52 = getelementptr inbounds [16 x i8], [16 x i8]* %3, i64 0, i64 %51
%53 = load i8, i8* %52
%54 = icmp ne i8 %53, 0
br i1 %54, label %55, label %66
55: ; preds = %49
%56 = load i64, i64* %6
%57 = shl i64 %56, 4
%58 = load i32, i32* %8
%59 = sext i32 %58 to i64
%60 = or i64 %57, %59
store i64 %60, i64* %6
%61 = load i32, i32* %8
%62 = sext i32 %61 to i64
%63 = getelementptr inbounds [16 x i8], [16 x i8]* %3, i64 0, i64 %62
%64 = load i8, i8* %63
%65 = add i8 %64, -1
store i8 %65, i8* %63
br label %49
66: ; preds = %49
br label %67
67: ; preds = %66
%68 = load i32, i32* %8
%69 = add nsw i32 %68, -1
store i32 %69, i32* %8
br label %45
70: ; preds = %45
%71 = load i64, i64* %6
%72 = load i64*, i64** %2
store i64 %71, i64* %72
br label %73
73: ; preds = %70
%74 = load i64*, i64** %2
%75 = getelementptr inbounds i64, i64* %74, i32 1
store i64* %75, i64** %2
br label %12
76: ; preds = %12
ret void
}

LLVM IR (-O2):
define void @nibble_sort_vlad(i64* nocapture %0) {
%2 = alloca [16 x i8]
%3 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 0
br label %5
4: ; preds = %137
ret void
5: ; preds = %1, %137
%6 = phi i64* [ %0, %1 ], [ %139, %137 ]
%7 = phi i64 [ 0, %1 ], [ %138, %137 ]
%8 = load i64, i64* %6
%9 = lshr i64 %8, 4
%10 = lshr i64 %8, 12
%11 = lshr i64 %8, 20
%12 = lshr i64 %8, 28
%13 = lshr i64 %8, 36
%14 = lshr i64 %8, 44
%15 = lshr i64 %8, 52
%16 = lshr i64 %8, 60
%17 = and i64 %9, 15
%18 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %17
%19 = load i8, i8* %18
%20 = add i8 %19, 1
store i8 %20, i8* %18
%21 = and i64 %10, 15
%22 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %21
%23 = load i8, i8* %22
%24 = add i8 %23, 1
store i8 %24, i8* %22
%25 = and i64 %11, 15
%26 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %25
%27 = load i8, i8* %26
%28 = add i8 %27, 1
store i8 %28, i8* %26
%29 = and i64 %12, 15
%30 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %29
%31 = load i8, i8* %30
%32 = add i8 %31, 1
store i8 %32, i8* %30
%33 = and i64 %13, 15
%34 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %33
%35 = load i8, i8* %34
%36 = add i8 %35, 1
store i8 %36, i8* %34
%37 = and i64 %14, 15
%38 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %37
%39 = load i8, i8* %38
%40 = add i8 %39, 1
store i8 %40, i8* %38
%41 = and i64 %15, 15
%42 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %41
%43 = load i8, i8* %42
%44 = add i8 %43, 1
store i8 %44, i8* %42
%45 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %16
%46 = load i8, i8* %45
%47 = add i8 %46, 1
store i8 %47, i8* %45
%48 = and i64 %8, 15
%49 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %48
%50 = load i8, i8* %49
%51 = add i8 %50, 1
store i8 %51, i8* %49
%52 = lshr i64 %8, 8
%53 = and i64 %52, 15
%54 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %53
%55 = load i8, i8* %54
%56 = add i8 %55, 1
store i8 %56, i8* %54
%57 = lshr i64 %8, 16
%58 = and i64 %57, 15
%59 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %58
%60 = load i8, i8* %59
%61 = add i8 %60, 1
store i8 %61, i8* %59
%62 = lshr i64 %8, 24
%63 = and i64 %62, 15
%64 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %63
%65 = load i8, i8* %64
%66 = add i8 %65, 1
store i8 %66, i8* %64
%67 = lshr i64 %8, 32
%68 = and i64 %67, 15
%69 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %68
%70 = load i8, i8* %69
%71 = add i8 %70, 1
store i8 %71, i8* %69
%72 = lshr i64 %8, 40
%73 = and i64 %72, 15
%74 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %73
%75 = load i8, i8* %74
%76 = add i8 %75, 1
store i8 %76, i8* %74
%77 = lshr i64 %8, 48
%78 = and i64 %77, 15
%79 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %78
%80 = load i8, i8* %79
%81 = add i8 %80, 1
store i8 %81, i8* %79
%82 = lshr i64 %8, 56
%83 = and i64 %82, 15
%84 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %83
%85 = load i8, i8* %84
%86 = add i8 %85, 1
store i8 %86, i8* %84
br label %87
87: ; preds = %5, %133
%88 = phi i64 [ 15, %5 ], [ %135, %133 ]
%89 = phi i64 [ %8, %5 ], [ %134, %133 ]
%90 = getelementptr inbounds [16 x i8], [16 x i8]* %2, i64 0, i64 %88
%91 = load i8, i8* %90
%92 = icmp eq i8 %91, 0
br i1 %92, label %133, label %93
93: ; preds = %87
%94 = add i8 %91, -1
%95 = and i8 %91, 7
%96 = icmp eq i8 %95, 0
br i1 %96, label %106, label %97
97: ; preds = %93, %97
%98 = phi i64 [ %102, %97 ], [ %89, %93 ]
%99 = phi i8 [ %103, %97 ], [ %91, %93 ]
%100 = phi i8 [ %104, %97 ], [ 0, %93 ]
%101 = shl i64 %98, 4
%102 = or i64 %101, %88
%103 = add i8 %99, -1
%104 = add i8 %100, 1
%105 = icmp eq i8 %104, %95
br i1 %105, label %106, label %97
106: ; preds = %97, %93
%107 = phi i64 [ undef, %93 ], [ %102, %97 ]
%108 = phi i64 [ %89, %93 ], [ %102, %97 ]
%109 = phi i8 [ %91, %93 ], [ %103, %97 ]
%110 = icmp ult i8 %94, 7
br i1 %110, label %133, label %111
111: ; preds = %106
%112 = shl i64 %88, 4
%113 = shl i64 %88, 4
%114 = shl i64 %88, 4
%115 = shl i64 %88, 4
br label %116
116: ; preds = %116, %111
%117 = phi i64 [ %108, %111 ], [ %130, %116 ]
%118 = phi i8 [ %109, %111 ], [ %131, %116 ]
%119 = shl i64 %117, 8
%120 = or i64 %119, %112
%121 = or i64 %120, %88
%122 = shl i64 %121, 8
%123 = or i64 %122, %113
%124 = or i64 %123, %88
%125 = shl i64 %124, 8
%126 = or i64 %125, %114
%127 = or i64 %126, %88
%128 = shl i64 %127, 8
%129 = or i64 %128, %115
%130 = or i64 %129, %88
%131 = add i8 %118, -8
%132 = icmp eq i8 %131, 0
br i1 %132, label %133, label %116
133: ; preds = %106, %116, %87
%134 = phi i64 [ %89, %87 ], [ %107, %106 ], [ %130, %116 ]
store i8 0, i8* %90
%135 = add nsw i64 %88, -1
%136 = icmp eq i64 %88, 0
br i1 %136, label %137, label %87
137: ; preds = %133
store i64 %134, i64* %6
%138 = add nuw nsw i64 %7, 1
%139 = getelementptr inbounds i64, i64* %0, i64 %138
%140 = icmp eq i64 %138, 1024
br i1 %140, label %4, label %5
}