unsigned swizzle(unsigned offset, unsigned log2_w) {
  if (log2_w <= 4)
    return offset;
  unsigned w_mask = (1 << log2_w) - 1;
  unsigned mx = offset & 0xf;
  unsigned by = offset & (~7 << log2_w);
  unsigned bx = offset & w_mask & ~0xf;
  unsigned my = offset & (7 << log2_w);
  return by | (bx << 3) | (my >> (log2_w - 4)) | mx;
}


x86 assembly (clang, -O0):
<swizzle>:
push   %rbp
mov    %rsp,%rbp
mov    %edi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
cmpl   $0x4,-0xc(%rbp)
ja     111f <swizzle+0x1f>
mov    -0x8(%rbp),%eax
mov    %eax,-0x4(%rbp)
jmp    118c <swizzle+0x8c>
mov    -0xc(%rbp),%ecx
mov    $0x1,%eax
shl    %cl,%eax
sub    $0x1,%eax
mov    %eax,-0x10(%rbp)
mov    -0x8(%rbp),%eax
and    $0xf,%eax
mov    %eax,-0x14(%rbp)
mov    -0x8(%rbp),%eax
mov    -0xc(%rbp),%ecx
mov    $0xfffffff8,%edx
shl    %cl,%edx
mov    %edx,%ecx
and    %ecx,%eax
mov    %eax,-0x18(%rbp)
mov    -0x8(%rbp),%eax
and    -0x10(%rbp),%eax
and    $0xfffffff0,%eax
mov    %eax,-0x1c(%rbp)
mov    -0x8(%rbp),%eax
mov    -0xc(%rbp),%ecx
mov    $0x7,%edx
shl    %cl,%edx
mov    %edx,%ecx
and    %ecx,%eax
mov    %eax,-0x20(%rbp)
mov    -0x18(%rbp),%eax
mov    -0x1c(%rbp),%ecx
shl    $0x3,%ecx
or     %ecx,%eax
mov    -0x20(%rbp),%edx
mov    -0xc(%rbp),%ecx
sub    $0x4,%ecx
shr    %cl,%edx
mov    %edx,%ecx
or     %ecx,%eax
or     -0x14(%rbp),%eax
mov    %eax,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<swizzle>:
mov    %edi,%eax
cmp    $0x5,%esi
jb     113a <swizzle+0x3a>
mov    %esi,%ecx
mov    $0xffffffff,%edx
shl    %cl,%edx
not    %edx
mov    $0xfffffff8,%esi
shl    %cl,%esi
mov    $0x7,%edi
shl    %cl,%edi
and    %eax,%edx
and    %eax,%edi
shl    $0x3,%edx
and    $0xffffff80,%edx
add    $0xfc,%cl
shr    %cl,%edi
or     $0xf,%esi
and    %eax,%esi
or     %edi,%esi
or     %edx,%esi
mov    %esi,%eax
ret

LLVM IR (-O0):
define i32 @swizzle(i32 %0, i32 %1) {
%3 = alloca i32
%4 = alloca i32
%5 = alloca i32
%6 = alloca i32
%7 = alloca i32
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
store i32 %0, i32* %4
store i32 %1, i32* %5
%11 = load i32, i32* %5
%12 = icmp ule i32 %11, 4
br i1 %12, label %13, label %15
13: ; preds = %2
%14 = load i32, i32* %4
store i32 %14, i32* %3
br label %44
15: ; preds = %2
%16 = load i32, i32* %5
%17 = shl i32 1, %16
%18 = sub nsw i32 %17, 1
store i32 %18, i32* %6
%19 = load i32, i32* %4
%20 = and i32 %19, 15
store i32 %20, i32* %7
%21 = load i32, i32* %4
%22 = load i32, i32* %5
%23 = shl i32 -8, %22
%24 = and i32 %21, %23
store i32 %24, i32* %8
%25 = load i32, i32* %4
%26 = load i32, i32* %6
%27 = and i32 %25, %26
%28 = and i32 %27, -16
store i32 %28, i32* %9
%29 = load i32, i32* %4
%30 = load i32, i32* %5
%31 = shl i32 7, %30
%32 = and i32 %29, %31
store i32 %32, i32* %10
%33 = load i32, i32* %8
%34 = load i32, i32* %9
%35 = shl i32 %34, 3
%36 = or i32 %33, %35
%37 = load i32, i32* %10
%38 = load i32, i32* %5
%39 = sub i32 %38, 4
%40 = lshr i32 %37, %39
%41 = or i32 %36, %40
%42 = load i32, i32* %7
%43 = or i32 %41, %42
store i32 %43, i32* %3
br label %44
44: ; preds = %15, %13
%45 = load i32, i32* %3
ret i32 %45
}

LLVM IR (-O2):
define i32 @swizzle(i32 %0, i32 %1) {
%3 = icmp ult i32 %1, 5
br i1 %3, label %19, label %4
4: ; preds = %2
%5 = shl nsw i32 -1, %1
%6 = xor i32 %5, -1
%7 = shl i32 -8, %1
%8 = and i32 %6, %0
%9 = shl i32 7, %1
%10 = and i32 %9, %0
%11 = shl i32 %8, 3
%12 = and i32 %11, -128
%13 = add i32 %1, -4
%14 = lshr i32 %10, %13
%15 = or i32 %7, 15
%16 = and i32 %15, %0
%17 = or i32 %16, %14
%18 = or i32 %17, %12
br label %19
19: ; preds = %2, %4
%20 = phi i32 [ %18, %4 ], [ %0, %2 ]
ret i32 %20
}