long encode6(long x, long y, long width, long height) {
  long v;
  long D = 6;
  long col = x / 6;
  long maxcol = (width - 4) / 6;
  if (col >= maxcol) {
    col = maxcol;
    D = width - maxcol * 6;
  }
  v = (height * 6 * col) + (height - 1 - y) * D + (x - col * 6);
  return v;
}


x86 assembly (clang, -O0):
<encode6>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %rcx,-0x20(%rbp)
movq   $0x6,-0x30(%rbp)
mov    -0x8(%rbp),%rax
mov    $0x6,%ecx
cqto
idiv   %rcx
mov    %rax,-0x38(%rbp)
mov    -0x18(%rbp),%rax
sub    $0x4,%rax
mov    $0x6,%ecx
cqto
idiv   %rcx
mov    %rax,-0x40(%rbp)
mov    -0x38(%rbp),%rax
cmp    -0x40(%rbp),%rax
jl     116a <encode6+0x6a>
mov    -0x40(%rbp),%rax
mov    %rax,-0x38(%rbp)
mov    -0x18(%rbp),%rax
imul   $0x6,-0x40(%rbp),%rcx
sub    %rcx,%rax
mov    %rax,-0x30(%rbp)
imul   $0x6,-0x20(%rbp),%rax
imul   -0x38(%rbp),%rax
mov    -0x20(%rbp),%rcx
sub    $0x1,%rcx
sub    -0x10(%rbp),%rcx
imul   -0x30(%rbp),%rcx
add    %rcx,%rax
mov    -0x8(%rbp),%rcx
imul   $0x6,-0x38(%rbp),%rdx
sub    %rdx,%rcx
add    %rcx,%rax
mov    %rax,-0x28(%rbp)
mov    -0x28(%rbp),%rax
pop    %rbp
ret

x86 assembly (clang, -O2):
<encode6>:
mov    %rdx,%r8
mov    %rdi,%r9
movabs $0x2aaaaaaaaaaaaaab,%r10
aa aa 2a
mov    %rdi,%rax
imul   %r10
mov    %rdx,%rdi
lea    -0x4(%r8),%rax
imul   %r10
mov    %rdi,%rax
shr    $0x3f,%rax
add    %rdi,%rax
mov    %rdx,%rdi
shr    $0x3f,%rdi
add    %rdx,%rdi
lea    (%rdi,%rdi,1),%rdx
lea    (%rdx,%rdx,2),%rdx
sub    %rdx,%r8
cmp    %rdi,%rax
cmovl  %rax,%rdi
mov    $0x6,%eax
cmovge %r8,%rax
mov    %rdi,%rdx
imul   %rcx,%rdx
not    %rsi
add    %rcx,%rsi
imul   %rax,%rsi
sub    %rdi,%rdx
lea    (%rdx,%rdx,2),%rax
add    %r9,%rsi
lea    (%rsi,%rax,2),%rax
ret

LLVM IR (-O0):
define i64 @encode6(i64 %0, i64 %1, i64 %2, i64 %3) {
%5 = alloca i64
%6 = alloca i64
%7 = alloca i64
%8 = alloca i64
%9 = alloca i64
%10 = alloca i64
%11 = alloca i64
%12 = alloca i64
store i64 %0, i64* %5
store i64 %1, i64* %6
store i64 %2, i64* %7
store i64 %3, i64* %8
store i64 6, i64* %10
%13 = load i64, i64* %5
%14 = sdiv i64 %13, 6
store i64 %14, i64* %11
%15 = load i64, i64* %7
%16 = sub nsw i64 %15, 4
%17 = sdiv i64 %16, 6
store i64 %17, i64* %12
%18 = load i64, i64* %11
%19 = load i64, i64* %12
%20 = icmp sge i64 %18, %19
br i1 %20, label %21, label %27
21: ; preds = %4
%22 = load i64, i64* %12
store i64 %22, i64* %11
%23 = load i64, i64* %7
%24 = load i64, i64* %12
%25 = mul nsw i64 %24, 6
%26 = sub nsw i64 %23, %25
store i64 %26, i64* %10
br label %27
27: ; preds = %21, %4
%28 = load i64, i64* %8
%29 = mul nsw i64 %28, 6
%30 = load i64, i64* %11
%31 = mul nsw i64 %29, %30
%32 = load i64, i64* %8
%33 = sub nsw i64 %32, 1
%34 = load i64, i64* %6
%35 = sub nsw i64 %33, %34
%36 = load i64, i64* %10
%37 = mul nsw i64 %35, %36
%38 = add nsw i64 %31, %37
%39 = load i64, i64* %5
%40 = load i64, i64* %11
%41 = mul nsw i64 %40, 6
%42 = sub nsw i64 %39, %41
%43 = add nsw i64 %38, %42
store i64 %43, i64* %9
%44 = load i64, i64* %9
ret i64 %44
}

LLVM IR (-O2):
define i64 @encode6(i64 %0, i64 %1, i64 %2, i64 %3) {
%5 = sdiv i64 %0, 6
%6 = add nsw i64 %2, -4
%7 = sdiv i64 %6, 6
%8 = icmp slt i64 %5, %7
%9 = mul nsw i64 %7, -6
%10 = add i64 %9, %2
%11 = select i1 %8, i64 %5, i64 %7
%12 = select i1 %8, i64 6, i64 %10
%13 = mul i64 %11, %3
%14 = xor i64 %1, -1
%15 = add i64 %14, %3
%16 = mul nsw i64 %12, %15
%17 = sub i64 %13, %11
%18 = mul i64 %17, 6
%19 = add i64 %16, %0
%20 = add i64 %19, %18
ret i64 %20
}