int encodeSixWide(int x, int y, int width, int height) {
  int D = 6;
  int col = x / 6;
  int maxcol = (width - 4) / 6;
  if (col >= maxcol) {
    col = maxcol;
    D = width - maxcol * 6;
  }
  return (height * 6 * col) + (height - 1 - y) * D + (x - col * 6);
}


x86 assembly (clang, -O0):
<encodeSixWide>:
push   %rbp
mov    %rsp,%rbp
mov    %edi,-0x4(%rbp)
mov    %esi,-0x8(%rbp)
mov    %edx,-0xc(%rbp)
mov    %ecx,-0x10(%rbp)
movl   $0x6,-0x14(%rbp)
mov    -0x4(%rbp),%eax
mov    $0x6,%ecx
cltd
idiv   %ecx
mov    %eax,-0x18(%rbp)
mov    -0xc(%rbp),%eax
sub    $0x4,%eax
mov    $0x6,%ecx
cltd
idiv   %ecx
mov    %eax,-0x1c(%rbp)
mov    -0x18(%rbp),%eax
cmp    -0x1c(%rbp),%eax
jl     1154 <encodeSixWide+0x54>
mov    -0x1c(%rbp),%eax
mov    %eax,-0x18(%rbp)
mov    -0xc(%rbp),%eax
imul   $0x6,-0x1c(%rbp),%ecx
sub    %ecx,%eax
mov    %eax,-0x14(%rbp)
imul   $0x6,-0x10(%rbp),%eax
imul   -0x18(%rbp),%eax
mov    -0x10(%rbp),%ecx
sub    $0x1,%ecx
sub    -0x8(%rbp),%ecx
imul   -0x14(%rbp),%ecx
add    %ecx,%eax
mov    -0x4(%rbp),%ecx
imul   $0x6,-0x18(%rbp),%edx
sub    %edx,%ecx
add    %ecx,%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<encodeSixWide>:
movslq %edi,%r8
imul   $0x2aaaaaab,%r8,%r10
mov    %r10,%rax
shr    $0x3f,%rax
shr    $0x20,%r10
add    %eax,%r10d
lea    -0x4(%rdx),%eax
cltq
imul   $0x2aaaaaab,%rax,%rax
mov    %rax,%r9
shr    $0x3f,%r9
shr    $0x20,%rax
add    %r9d,%eax
lea    (%rax,%rax,1),%edi
lea    (%rdi,%rdi,2),%edi
sub    %edi,%edx
cmp    %eax,%r10d
cmovl  %r10d,%eax
mov    $0x6,%edi
cmovge %edx,%edi
mov    %eax,%edx
imul   %ecx,%edx
not    %esi
add    %ecx,%esi
imul   %edi,%esi
sub    %eax,%edx
lea    (%rdx,%rdx,2),%eax
add    %esi,%r8d
lea    (%r8,%rax,2),%eax
ret

LLVM IR (-O0):
define i32 @encodeSixWide(i32 %0, i32 %1, i32 %2, i32 %3) {
%5 = alloca i32
%6 = alloca i32
%7 = alloca i32
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca i32
store i32 %0, i32* %5
store i32 %1, i32* %6
store i32 %2, i32* %7
store i32 %3, i32* %8
store i32 6, i32* %9
%12 = load i32, i32* %5
%13 = sdiv i32 %12, 6
store i32 %13, i32* %10
%14 = load i32, i32* %7
%15 = sub nsw i32 %14, 4
%16 = sdiv i32 %15, 6
store i32 %16, i32* %11
%17 = load i32, i32* %10
%18 = load i32, i32* %11
%19 = icmp sge i32 %17, %18
br i1 %19, label %20, label %26
20: ; preds = %4
%21 = load i32, i32* %11
store i32 %21, i32* %10
%22 = load i32, i32* %7
%23 = load i32, i32* %11
%24 = mul nsw i32 %23, 6
%25 = sub nsw i32 %22, %24
store i32 %25, i32* %9
br label %26
26: ; preds = %20, %4
%27 = load i32, i32* %8
%28 = mul nsw i32 %27, 6
%29 = load i32, i32* %10
%30 = mul nsw i32 %28, %29
%31 = load i32, i32* %8
%32 = sub nsw i32 %31, 1
%33 = load i32, i32* %6
%34 = sub nsw i32 %32, %33
%35 = load i32, i32* %9
%36 = mul nsw i32 %34, %35
%37 = add nsw i32 %30, %36
%38 = load i32, i32* %5
%39 = load i32, i32* %10
%40 = mul nsw i32 %39, 6
%41 = sub nsw i32 %38, %40
%42 = add nsw i32 %37, %41
ret i32 %42
}

LLVM IR (-O2):
define i32 @encodeSixWide(i32 %0, i32 %1, i32 %2, i32 %3) {
%5 = sdiv i32 %0, 6
%6 = add nsw i32 %2, -4
%7 = sdiv i32 %6, 6
%8 = icmp slt i32 %5, %7
%9 = mul nsw i32 %7, -6
%10 = add i32 %9, %2
%11 = select i1 %8, i32 %5, i32 %7
%12 = select i1 %8, i32 6, i32 %10
%13 = mul i32 %11, %3
%14 = xor i32 %1, -1
%15 = add i32 %14, %3
%16 = mul nsw i32 %12, %15
%17 = sub i32 %13, %11
%18 = mul i32 %17, 6
%19 = add i32 %16, %0
%20 = add i32 %19, %18
ret i32 %20
}