unsigned long n_cubes(unsigned long layer, unsigned long w, unsigned long h,
                      unsigned long d) {
  int ret;
  ret = 2 * w * h + 2 * w * d + 2 * h * d;
  ret += (layer - 1) * (4 * w + 4 * h + 4 * d);
  ret += 4 * (layer - 2) * (layer - 1);
  return ret;
}


x86 assembly (clang, -O0):
<n_cubes>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %rcx,-0x20(%rbp)
mov    -0x10(%rbp),%rax
shl    $0x1,%rax
imul   -0x18(%rbp),%rax
mov    -0x10(%rbp),%rcx
shl    $0x1,%rcx
imul   -0x20(%rbp),%rcx
add    %rcx,%rax
mov    -0x18(%rbp),%rcx
shl    $0x1,%rcx
imul   -0x20(%rbp),%rcx
add    %rcx,%rax
mov    %eax,-0x24(%rbp)
mov    -0x8(%rbp),%rcx
sub    $0x1,%rcx
mov    -0x10(%rbp),%rax
shl    $0x2,%rax
mov    -0x18(%rbp),%rdx
shl    $0x2,%rdx
add    %rdx,%rax
mov    -0x20(%rbp),%rdx
shl    $0x2,%rdx
add    %rdx,%rax
imul   %rax,%rcx
movslq -0x24(%rbp),%rax
add    %rcx,%rax
mov    %eax,-0x24(%rbp)
mov    -0x8(%rbp),%rcx
sub    $0x2,%rcx
shl    $0x2,%rcx
mov    -0x8(%rbp),%rax
sub    $0x1,%rax
imul   %rax,%rcx
movslq -0x24(%rbp),%rax
add    %rcx,%rax
mov    %eax,-0x24(%rbp)
movslq -0x24(%rbp),%rax
pop    %rbp
ret

x86 assembly (clang, -O2):
<n_cubes>:
lea    (%rcx,%rdx,1),%eax
mov    %eax,%r8d
imul   %esi,%r8d
imul   %edx,%ecx
add    %r8d,%ecx
lea    -0x1(%rdi),%edx
add    %esi,%eax
imul   %edx,%eax
shl    $0x2,%eax
lea    (%rax,%rcx,2),%eax
lea    -0x8(,%rdi,4),%ecx
imul   %edx,%ecx
add    %eax,%ecx
movslq %ecx,%rax
ret

LLVM IR (-O0):
define i64 @n_cubes(i64 %0, i64 %1, i64 %2, i64 %3) {
%5 = alloca i64
%6 = alloca i64
%7 = alloca i64
%8 = alloca i64
%9 = alloca i32
store i64 %0, i64* %5
store i64 %1, i64* %6
store i64 %2, i64* %7
store i64 %3, i64* %8
%10 = load i64, i64* %6
%11 = mul i64 2, %10
%12 = load i64, i64* %7
%13 = mul i64 %11, %12
%14 = load i64, i64* %6
%15 = mul i64 2, %14
%16 = load i64, i64* %8
%17 = mul i64 %15, %16
%18 = add i64 %13, %17
%19 = load i64, i64* %7
%20 = mul i64 2, %19
%21 = load i64, i64* %8
%22 = mul i64 %20, %21
%23 = add i64 %18, %22
%24 = trunc i64 %23 to i32
store i32 %24, i32* %9
%25 = load i64, i64* %5
%26 = sub i64 %25, 1
%27 = load i64, i64* %6
%28 = mul i64 4, %27
%29 = load i64, i64* %7
%30 = mul i64 4, %29
%31 = add i64 %28, %30
%32 = load i64, i64* %8
%33 = mul i64 4, %32
%34 = add i64 %31, %33
%35 = mul i64 %26, %34
%36 = load i32, i32* %9
%37 = sext i32 %36 to i64
%38 = add i64 %37, %35
%39 = trunc i64 %38 to i32
store i32 %39, i32* %9
%40 = load i64, i64* %5
%41 = sub i64 %40, 2
%42 = mul i64 4, %41
%43 = load i64, i64* %5
%44 = sub i64 %43, 1
%45 = mul i64 %42, %44
%46 = load i32, i32* %9
%47 = sext i32 %46 to i64
%48 = add i64 %47, %45
%49 = trunc i64 %48 to i32
store i32 %49, i32* %9
%50 = load i32, i32* %9
%51 = sext i32 %50 to i64
ret i64 %51
}

LLVM IR (-O2):
define i64 @n_cubes(i64 %0, i64 %1, i64 %2, i64 %3) {
%5 = add i64 %3, %2
%6 = mul i64 %5, %1
%7 = mul i64 %3, %2
%8 = add i64 %0, -1
%9 = add i64 %5, %1
%10 = shl i64 %8, 2
%11 = mul i64 %10, %9
%12 = add i64 %6, %7
%13 = shl i64 %12, 1
%14 = add i64 %13, %11
%15 = shl i64 %0, 2
%16 = add i64 %15, -8
%17 = mul i64 %16, %8
%18 = add i64 %14, %17
%19 = shl i64 %18, 32
%20 = ashr exact i64 %19, 32
ret i64 %20
}