int GDS_grid(unsigned char *gds, int *nx, int *ny, long int *nxny) {
  int i, ix, iy, pl;
  long int isum;
  *nx = ix = ((int)((gds[6] << 8) + gds[7]));
  *ny = iy = ((int)((gds[8] << 8) + gds[9]));
  *nxny = ix * iy;
  if ((gds[5] == 4) || (gds[5] == 0)) {
    if (ix == 65535) {
      *nx = -1;
      isum = 0;
      pl = ((gds[4] == 255) ? -1 : (int)gds[3] * 4 + (int)gds[4] - 1);
      for (i = 0; i < iy; i++) {
        isum += gds[pl + i * 2] * 256 + gds[pl + i * 2 + 1];
      }
      *nxny = isum;
    }
    return 0;
  }
  return 0;
}


x86 assembly (clang, -O0):
<GDS_grid>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x10(%rbp)
mov    %rsi,-0x18(%rbp)
mov    %rdx,-0x20(%rbp)
mov    %rcx,-0x28(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x6(%rax),%ecx
shl    $0x8,%ecx
mov    -0x10(%rbp),%rax
movzbl 0x7(%rax),%eax
add    %eax,%ecx
mov    %ecx,-0x30(%rbp)
mov    -0x18(%rbp),%rax
mov    %ecx,(%rax)
mov    -0x10(%rbp),%rax
movzbl 0x8(%rax),%ecx
shl    $0x8,%ecx
mov    -0x10(%rbp),%rax
movzbl 0x9(%rax),%eax
add    %eax,%ecx
mov    %ecx,-0x34(%rbp)
mov    -0x20(%rbp),%rax
mov    %ecx,(%rax)
mov    -0x30(%rbp),%eax
imul   -0x34(%rbp),%eax
movslq %eax,%rcx
mov    -0x28(%rbp),%rax
mov    %rcx,(%rax)
mov    -0x10(%rbp),%rax
movzbl 0x5(%rax),%eax
cmp    $0x4,%eax
je     1183 <GDS_grid+0x83>
mov    -0x10(%rbp),%rax
movzbl 0x5(%rax),%eax
cmp    $0x0,%eax
jne    1259 <GDS_grid+0x159>
cmpl   $0xffff,-0x30(%rbp)
jne    124d <GDS_grid+0x14d>
mov    -0x18(%rbp),%rax
movl   $0xffffffff,(%rax)
movq   $0x0,-0x40(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x4(%rax),%eax
cmp    $0xff,%eax
jne    11c2 <GDS_grid+0xc2>
mov    $0xffffffff,%eax
mov    %eax,-0x44(%rbp)
jmp    11dd <GDS_grid+0xdd>
mov    -0x10(%rbp),%rax
movzbl 0x3(%rax),%eax
shl    $0x2,%eax
mov    -0x10(%rbp),%rcx
movzbl 0x4(%rcx),%ecx
add    %ecx,%eax
sub    $0x1,%eax
mov    %eax,-0x44(%rbp)
mov    -0x44(%rbp),%eax
mov    %eax,-0x38(%rbp)
movl   $0x0,-0x2c(%rbp)
mov    -0x2c(%rbp),%eax
cmp    -0x34(%rbp),%eax
jge    1242 <GDS_grid+0x142>
mov    -0x10(%rbp),%rax
mov    -0x38(%rbp),%ecx
mov    -0x2c(%rbp),%edx
shl    $0x1,%edx
add    %edx,%ecx
movslq %ecx,%rcx
movzbl (%rax,%rcx,1),%eax
shl    $0x8,%eax
mov    -0x10(%rbp),%rcx
mov    -0x38(%rbp),%edx
mov    -0x2c(%rbp),%esi
shl    $0x1,%esi
add    %esi,%edx
add    $0x1,%edx
movslq %edx,%rdx
movzbl (%rcx,%rdx,1),%ecx
add    %ecx,%eax
cltq
add    -0x40(%rbp),%rax
mov    %rax,-0x40(%rbp)
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
jmp    11ea <GDS_grid+0xea>
mov    -0x40(%rbp),%rcx
mov    -0x28(%rbp),%rax
mov    %rcx,(%rax)
movl   $0x0,-0x4(%rbp)
jmp    1260 <GDS_grid+0x160>
movl   $0x0,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<GDS_grid>:
movzwl 0x6(%rdi),%eax
shl    $0x30,%rax
bswap  %rax
mov    %eax,(%rsi)
movzwl 0x8(%rdi),%r10d
shl    $0x30,%r10
bswap  %r10
mov    %r10d,(%rdx)
mov    %r10,%rdx
imul   %rax,%rdx
mov    %rdx,(%rcx)
testb  $0xfb,0x5(%rdi)
jne    11d4 <GDS_grid+0xd4>
cmp    $0xffff,%eax
jne    11d4 <GDS_grid+0xd4>
movl   $0xffffffff,(%rsi)
movzbl 0x4(%rdi),%eax
cmp    $0xff,%rax
je     116d <GDS_grid+0x6d>
movzbl 0x3(%rdi),%edx
lea    (%rax,%rdx,4),%r8
add    $0xffffffffffffffff,%r8
test   %r10d,%r10d
je     1179 <GDS_grid+0x79>
mov    %r10d,%r9d
cmp    $0x1,%r10d
jne    117d <GDS_grid+0x7d>
xor    %eax,%eax
xor    %edx,%edx
jmp    11ba <GDS_grid+0xba>
mov    $0xffffffffffffffff,%r8
test   %r10d,%r10d
jne    115e <GDS_grid+0x5e>
xor    %edx,%edx
jmp    11d1 <GDS_grid+0xd1>
mov    %r9d,%r11d
and    $0xfffffffe,%r11d
lea    (%r8,%rdi,1),%r10
add    $0x3,%r10
xor    %eax,%eax
xor    %edx,%edx
movzwl -0x3(%r10,%rax,1),%esi
shl    $0x30,%rsi
bswap  %rsi
add    %rdx,%rsi
movzwl -0x1(%r10,%rax,1),%edx
shl    $0x30,%rdx
bswap  %rdx
add    %rsi,%rdx
add    $0x4,%rax
add    $0xfffffffffffffffe,%r11
jne    1190 <GDS_grid+0x90>
test   $0x1,%r9b
je     11d1 <GDS_grid+0xd1>
add    %r8,%rax
movzwl (%rdi,%rax,1),%eax
shl    $0x30,%rax
bswap  %rax
add    %rax,%rdx
mov    %rdx,(%rcx)
xor    %eax,%eax
ret

LLVM IR (-O0):
define i32 @GDS_grid(i8* %0, i32* %1, i32* %2, i64* %3) {
%5 = alloca i32
%6 = alloca i8*
%7 = alloca i32*
%8 = alloca i32*
%9 = alloca i64*
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
%13 = alloca i32
%14 = alloca i64
store i8* %0, i8** %6
store i32* %1, i32** %7
store i32* %2, i32** %8
store i64* %3, i64** %9
%15 = load i8*, i8** %6
%16 = getelementptr inbounds i8, i8* %15, i64 6
%17 = load i8, i8* %16
%18 = zext i8 %17 to i32
%19 = shl i32 %18, 8
%20 = load i8*, i8** %6
%21 = getelementptr inbounds i8, i8* %20, i64 7
%22 = load i8, i8* %21
%23 = zext i8 %22 to i32
%24 = add nsw i32 %19, %23
store i32 %24, i32* %11
%25 = load i32*, i32** %7
store i32 %24, i32* %25
%26 = load i8*, i8** %6
%27 = getelementptr inbounds i8, i8* %26, i64 8
%28 = load i8, i8* %27
%29 = zext i8 %28 to i32
%30 = shl i32 %29, 8
%31 = load i8*, i8** %6
%32 = getelementptr inbounds i8, i8* %31, i64 9
%33 = load i8, i8* %32
%34 = zext i8 %33 to i32
%35 = add nsw i32 %30, %34
store i32 %35, i32* %12
%36 = load i32*, i32** %8
store i32 %35, i32* %36
%37 = load i32, i32* %11
%38 = load i32, i32* %12
%39 = mul nsw i32 %37, %38
%40 = sext i32 %39 to i64
%41 = load i64*, i64** %9
store i64 %40, i64* %41
%42 = load i8*, i8** %6
%43 = getelementptr inbounds i8, i8* %42, i64 5
%44 = load i8, i8* %43
%45 = zext i8 %44 to i32
%46 = icmp eq i32 %45, 4
br i1 %46, label %53, label %47
47: ; preds = %4
%48 = load i8*, i8** %6
%49 = getelementptr inbounds i8, i8* %48, i64 5
%50 = load i8, i8* %49
%51 = zext i8 %50 to i32
%52 = icmp eq i32 %51, 0
br i1 %52, label %53, label %114
53: ; preds = %47, %4
%54 = load i32, i32* %11
%55 = icmp eq i32 %54, 65535
br i1 %55, label %56, label %113
56: ; preds = %53
%57 = load i32*, i32** %7
store i32 -1, i32* %57
store i64 0, i64* %14
%58 = load i8*, i8** %6
%59 = getelementptr inbounds i8, i8* %58, i64 4
%60 = load i8, i8* %59
%61 = zext i8 %60 to i32
%62 = icmp eq i32 %61, 255
br i1 %62, label %63, label %64
63: ; preds = %56
br label %76
64: ; preds = %56
%65 = load i8*, i8** %6
%66 = getelementptr inbounds i8, i8* %65, i64 3
%67 = load i8, i8* %66
%68 = zext i8 %67 to i32
%69 = mul nsw i32 %68, 4
%70 = load i8*, i8** %6
%71 = getelementptr inbounds i8, i8* %70, i64 4
%72 = load i8, i8* %71
%73 = zext i8 %72 to i32
%74 = add nsw i32 %69, %73
%75 = sub nsw i32 %74, 1
br label %76
76: ; preds = %64, %63
%77 = phi i32 [ -1, %63 ], [ %75, %64 ]
store i32 %77, i32* %13
store i32 0, i32* %10
br label %78
78: ; preds = %107, %76
%79 = load i32, i32* %10
%80 = load i32, i32* %12
%81 = icmp slt i32 %79, %80
br i1 %81, label %82, label %110
82: ; preds = %78
%83 = load i8*, i8** %6
%84 = load i32, i32* %13
%85 = load i32, i32* %10
%86 = mul nsw i32 %85, 2
%87 = add nsw i32 %84, %86
%88 = sext i32 %87 to i64
%89 = getelementptr inbounds i8, i8* %83, i64 %88
%90 = load i8, i8* %89
%91 = zext i8 %90 to i32
%92 = mul nsw i32 %91, 256
%93 = load i8*, i8** %6
%94 = load i32, i32* %13
%95 = load i32, i32* %10
%96 = mul nsw i32 %95, 2
%97 = add nsw i32 %94, %96
%98 = add nsw i32 %97, 1
%99 = sext i32 %98 to i64
%100 = getelementptr inbounds i8, i8* %93, i64 %99
%101 = load i8, i8* %100
%102 = zext i8 %101 to i32
%103 = add nsw i32 %92, %102
%104 = sext i32 %103 to i64
%105 = load i64, i64* %14
%106 = add nsw i64 %105, %104
store i64 %106, i64* %14
br label %107
107: ; preds = %82
%108 = load i32, i32* %10
%109 = add nsw i32 %108, 1
store i32 %109, i32* %10
br label %78
110: ; preds = %78
%111 = load i64, i64* %14
%112 = load i64*, i64** %9
store i64 %111, i64* %112
br label %113
113: ; preds = %110, %53
store i32 0, i32* %5
br label %115
114: ; preds = %47
store i32 0, i32* %5
br label %115
115: ; preds = %114, %113
%116 = load i32, i32* %5
ret i32 %116
}

LLVM IR (-O2):
define i32 @GDS_grid(i8* nocapture %0, i32* nocapture writeonly %1, i32* nocapture writeonly %2, i64* nocapture writeonly %3) {
%5 = getelementptr inbounds i8, i8* %0, i64 6
%6 = load i8, i8* %5
%7 = zext i8 %6 to i32
%8 = shl nuw nsw i32 %7, 8
%9 = getelementptr inbounds i8, i8* %0, i64 7
%10 = load i8, i8* %9
%11 = zext i8 %10 to i32
%12 = or i32 %8, %11
store i32 %12, i32* %1
%13 = getelementptr inbounds i8, i8* %0, i64 8
%14 = load i8, i8* %13
%15 = zext i8 %14 to i32
%16 = shl nuw nsw i32 %15, 8
%17 = getelementptr inbounds i8, i8* %0, i64 9
%18 = load i8, i8* %17
%19 = zext i8 %18 to i32
%20 = or i32 %16, %19
store i32 %20, i32* %2
%21 = mul nuw nsw i32 %20, %12
%22 = zext i32 %21 to i64
store i64 %22, i64* %3
%23 = getelementptr inbounds i8, i8* %0, i64 5
%24 = load i8, i8* %23
switch i8 %24, label %102 [
i8 4, label %25
i8 0, label %25
]
25: ; preds = %4, %4
%26 = icmp eq i32 %12, 65535
br i1 %26, label %27, label %102
27: ; preds = %25
store i32 -1, i32* %1
%28 = getelementptr inbounds i8, i8* %0, i64 4
%29 = load i8, i8* %28
%30 = icmp eq i8 %29, -1
br i1 %30, label %40, label %31
31: ; preds = %27
%32 = zext i8 %29 to i32
%33 = getelementptr inbounds i8, i8* %0, i64 3
%34 = load i8, i8* %33
%35 = zext i8 %34 to i32
%36 = shl nuw nsw i32 %35, 2
%37 = add nsw i32 %32, -1
%38 = add nsw i32 %37, %36
%39 = sext i32 %38 to i64
br label %40
40: ; preds = %27, %31
%41 = phi i64 [ %39, %31 ], [ -1, %27 ]
%42 = icmp eq i32 %20, 0
br i1 %42, label %100, label %43
43: ; preds = %40
%44 = zext i32 %20 to i64
%45 = and i64 %44, 1
%46 = icmp eq i32 %20, 1
br i1 %46, label %83, label %47
47: ; preds = %43
%48 = and i64 %44, 65534
br label %49
49: ; preds = %49, %47
%50 = phi i64 [ 0, %47 ], [ %78, %49 ]
%51 = phi i64 [ 0, %47 ], [ %77, %49 ]
%52 = phi i64 [ 0, %47 ], [ %79, %49 ]
%53 = shl nuw nsw i64 %50, 1
%54 = add nsw i64 %53, %41
%55 = getelementptr inbounds i8, i8* %0, i64 %54
%56 = load i8, i8* %55
%57 = zext i8 %56 to i64
%58 = shl nuw nsw i64 %57, 8
%59 = add nsw i64 %54, 1
%60 = getelementptr inbounds i8, i8* %0, i64 %59
%61 = load i8, i8* %60
%62 = zext i8 %61 to i64
%63 = or i64 %58, %62
%64 = add nuw nsw i64 %63, %51
%65 = shl nuw i64 %50, 1
%66 = or i64 %65, 2
%67 = add nsw i64 %66, %41
%68 = getelementptr inbounds i8, i8* %0, i64 %67
%69 = load i8, i8* %68
%70 = zext i8 %69 to i64
%71 = shl nuw nsw i64 %70, 8
%72 = add nsw i64 %67, 1
%73 = getelementptr inbounds i8, i8* %0, i64 %72
%74 = load i8, i8* %73
%75 = zext i8 %74 to i64
%76 = or i64 %71, %75
%77 = add nuw nsw i64 %76, %64
%78 = add nuw nsw i64 %50, 2
%79 = add nuw i64 %52, 2
%80 = icmp eq i64 %79, %48
br i1 %80, label %81, label %49
81: ; preds = %49
%82 = shl nuw i64 %78, 1
br label %83
83: ; preds = %81, %43
%84 = phi i64 [ undef, %43 ], [ %77, %81 ]
%85 = phi i64 [ 0, %43 ], [ %82, %81 ]
%86 = phi i64 [ 0, %43 ], [ %77, %81 ]
%87 = icmp eq i64 %45, 0
br i1 %87, label %100, label %88
88: ; preds = %83
%89 = add nsw i64 %85, %41
%90 = getelementptr inbounds i8, i8* %0, i64 %89
%91 = load i8, i8* %90
%92 = zext i8 %91 to i64
%93 = shl nuw nsw i64 %92, 8
%94 = add nsw i64 %89, 1
%95 = getelementptr inbounds i8, i8* %0, i64 %94
%96 = load i8, i8* %95
%97 = zext i8 %96 to i64
%98 = or i64 %93, %97
%99 = add nuw nsw i64 %98, %86
br label %100
100: ; preds = %88, %83, %40
%101 = phi i64 [ 0, %40 ], [ %84, %83 ], [ %99, %88 ]
store i64 %101, i64* %3
br label %102
102: ; preds = %4, %25, %100
ret i32 0
}