int CalcFrameLength(int NumLevels, int GrossBitsPerCell, int NumCells,
                    int BytesA, int *pNumeratorsA, int *pDenominatorsA,
                    int *pNumeratorsB, int *pDenominatorsB, int LCM) {
  int NumCellsA, NumCellsB;
  int NetBitsA, NetBitsB;
  int TotalNetBits;
  int NumLCMA;
  int l;
  int BitsPerLCM = 0;
  if (pNumeratorsA[0] == -1 || pNumeratorsB[0] == -1)
    return -1;
  for (l = 0; l < NumLevels; l++) {
    BitsPerLCM += LCM / pDenominatorsA[l] * pNumeratorsA[l] * GrossBitsPerCell;
  }
  if (BytesA != 0) {
    NumLCMA = 8 * BytesA / BitsPerLCM;
    if ((8 * BytesA) % BitsPerLCM != 0) {
      NumLCMA++;
    }
  } else
    NumLCMA = 0;
  NumCellsA = NumLCMA * LCM;
  NumCellsB = NumCells - NumCellsA;
  if (GrossBitsPerCell * NumCellsB - 12 < 0)
    return -1;
  NetBitsA = 0;
  NetBitsB = 0;
  for (l = 0; l < NumLevels; l++) {
    NetBitsA +=
        GrossBitsPerCell * NumCellsA / pDenominatorsA[l] * pNumeratorsA[l];
    NetBitsB += (GrossBitsPerCell * NumCellsB - 12) / pDenominatorsB[l] *
                pNumeratorsB[l];
  }
  TotalNetBits = NetBitsA + NetBitsB;
  if (TotalNetBits < 8 * BytesA)
    return -1;
  else
    return (TotalNetBits / 8);
}


x86 assembly (clang, -O0):
<CalcFrameLength>:
push   %rbp
mov    %rsp,%rbp
mov    0x20(%rbp),%eax
mov    0x18(%rbp),%rax
mov    0x10(%rbp),%rax
mov    %edi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %edx,-0x10(%rbp)
mov    %ecx,-0x14(%rbp)
mov    %r8,-0x20(%rbp)
mov    %r9,-0x28(%rbp)
movl   $0x0,-0x48(%rbp)
mov    -0x20(%rbp),%rax
cmpl   $0xffffffff,(%rax)
je     1144 <CalcFrameLength+0x44>
mov    0x10(%rbp),%rax
cmpl   $0xffffffff,(%rax)
jne    1150 <CalcFrameLength+0x50>
movl   $0xffffffff,-0x4(%rbp)
jmp    12b7 <CalcFrameLength+0x1b7>
movl   $0x0,-0x44(%rbp)
mov    -0x44(%rbp),%eax
cmp    -0x8(%rbp),%eax
jge    1196 <CalcFrameLength+0x96>
mov    0x20(%rbp),%eax
mov    -0x28(%rbp),%rcx
movslq -0x44(%rbp),%rsi
cltd
idivl  (%rcx,%rsi,4)
mov    -0x20(%rbp),%rcx
movslq -0x44(%rbp),%rdx
imul   (%rcx,%rdx,4),%eax
imul   -0xc(%rbp),%eax
add    -0x48(%rbp),%eax
mov    %eax,-0x48(%rbp)
mov    -0x44(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x44(%rbp)
jmp    1157 <CalcFrameLength+0x57>
cmpl   $0x0,-0x14(%rbp)
je     11ce <CalcFrameLength+0xce>
mov    -0x14(%rbp),%eax
shl    $0x3,%eax
cltd
idivl  -0x48(%rbp)
mov    %eax,-0x40(%rbp)
mov    -0x14(%rbp),%eax
shl    $0x3,%eax
cltd
idivl  -0x48(%rbp)
cmp    $0x0,%edx
je     11c9 <CalcFrameLength+0xc9>
mov    -0x40(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x40(%rbp)
jmp    11d5 <CalcFrameLength+0xd5>
movl   $0x0,-0x40(%rbp)
mov    -0x40(%rbp),%eax
imul   0x20(%rbp),%eax
mov    %eax,-0x2c(%rbp)
mov    -0x10(%rbp),%eax
sub    -0x2c(%rbp),%eax
mov    %eax,-0x30(%rbp)
mov    -0xc(%rbp),%eax
imul   -0x30(%rbp),%eax
sub    $0xc,%eax
cmp    $0x0,%eax
jge    1207 <CalcFrameLength+0x107>
movl   $0xffffffff,-0x4(%rbp)
jmp    12b7 <CalcFrameLength+0x1b7>
movl   $0x0,-0x34(%rbp)
movl   $0x0,-0x38(%rbp)
movl   $0x0,-0x44(%rbp)
mov    -0x44(%rbp),%eax
cmp    -0x8(%rbp),%eax
jge    1283 <CalcFrameLength+0x183>
mov    -0xc(%rbp),%eax
imul   -0x2c(%rbp),%eax
mov    -0x28(%rbp),%rcx
movslq -0x44(%rbp),%rsi
cltd
idivl  (%rcx,%rsi,4)
mov    -0x20(%rbp),%rcx
movslq -0x44(%rbp),%rdx
imul   (%rcx,%rdx,4),%eax
add    -0x34(%rbp),%eax
mov    %eax,-0x34(%rbp)
mov    -0xc(%rbp),%eax
imul   -0x30(%rbp),%eax
sub    $0xc,%eax
mov    0x18(%rbp),%rcx
movslq -0x44(%rbp),%rsi
cltd
idivl  (%rcx,%rsi,4)
mov    0x10(%rbp),%rcx
movslq -0x44(%rbp),%rdx
imul   (%rcx,%rdx,4),%eax
add    -0x38(%rbp),%eax
mov    %eax,-0x38(%rbp)
mov    -0x44(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x44(%rbp)
jmp    121c <CalcFrameLength+0x11c>
mov    -0x34(%rbp),%eax
add    -0x38(%rbp),%eax
mov    %eax,-0x3c(%rbp)
mov    -0x3c(%rbp),%eax
mov    -0x14(%rbp),%ecx
shl    $0x3,%ecx
cmp    %ecx,%eax
jge    12a9 <CalcFrameLength+0x1a9>
movl   $0xffffffff,-0x4(%rbp)
jmp    12b7 <CalcFrameLength+0x1b7>
mov    -0x3c(%rbp),%eax
mov    $0x8,%ecx
cltd
idiv   %ecx
mov    %eax,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<CalcFrameLength>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
mov    (%r8),%r11d
mov    $0xffffffff,%r12d
cmp    $0xffffffff,%r11d
je     12ac <CalcFrameLength+0x1ac>
mov    0x38(%rsp),%rax
mov    (%rax),%r13d
cmp    $0xffffffff,%r13d
je     12ac <CalcFrameLength+0x1ac>
mov    %edx,%r10d
xor    %r15d,%r15d
mov    $0x0,%ebp
test   %edi,%edi
jle    11f1 <CalcFrameLength+0xf1>
mov    0x48(%rsp),%eax
cltd
idivl  (%r9)
mov    %eax,%ebp
imul   %esi,%ebp
imul   %r11d,%ebp
cmp    $0x1,%edi
je     11f1 <CalcFrameLength+0xf1>
mov    %rcx,-0x10(%rsp)
mov    %edi,%r12d
add    $0xffffffffffffffff,%r12
mov    %edi,-0x4(%rsp)
cmp    $0x2,%edi
jne    117c <CalcFrameLength+0x7c>
mov    %r12,%rcx
mov    $0x1,%r14d
jmp    11ca <CalcFrameLength+0xca>
mov    %r12,%rcx
and    $0xfffffffffffffffe,%r12
neg    %r12
mov    $0x1,%r14d
mov    0x48(%rsp),%edi
mov    %edi,%eax
cltd
idivl  (%r9,%r14,4)
mov    %eax,%ebx
imul   %esi,%ebx
imul   (%r8,%r14,4),%ebx
mov    %edi,%eax
cltd
idivl  0x4(%r9,%r14,4)
add    %ebp,%ebx
mov    %eax,%ebp
imul   %esi,%ebp
imul   0x4(%r8,%r14,4),%ebp
add    %ebx,%ebp
lea    (%r12,%r14,1),%rax
add    $0x2,%rax
add    $0x2,%r14
cmp    $0x1,%rax
jne    1190 <CalcFrameLength+0x90>
test   $0x1,%cl
mov    $0xffffffff,%r12d
mov    -0x10(%rsp),%rcx
mov    -0x4(%rsp),%edi
je     11f1 <CalcFrameLength+0xf1>
mov    0x48(%rsp),%eax
cltd
idivl  (%r9,%r14,4)
imul   %esi,%eax
imul   (%r8,%r14,4),%eax
add    %eax,%ebp
test   %ecx,%ecx
je     1209 <CalcFrameLength+0x109>
lea    0x0(,%rcx,8),%eax
cltd
idiv   %ebp
mov    %eax,%r15d
cmp    $0x1,%edx
sbb    $0xffffffff,%r15d
imul   0x48(%rsp),%r15d
sub    %r15d,%r10d
imul   %esi,%r10d
cmp    $0xc,%r10d
jl     12ac <CalcFrameLength+0x1ac>
test   %edi,%edi
jle    1295 <CalcFrameLength+0x195>
mov    %rcx,-0x10(%rsp)
mov    0x40(%rsp),%r14
add    $0xfffffff4,%r10d
imul   %esi,%r15d
mov    %edi,%edi
add    $0xffffffffffffffff,%rdi
xor    %ebx,%ebx
xor    %eax,%eax
xor    %esi,%esi
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
mov    %esi,%ebp
mov    %eax,%ecx
mov    %r15d,%eax
cltd
idivl  (%r9,%rbx,4)
mov    %eax,%esi
imul   %r11d,%esi
mov    %r10d,%eax
cltd
idivl  (%r14,%rbx,4)
add    %ebp,%esi
imul   %r13d,%eax
add    %ecx,%eax
cmp    %rbx,%rdi
je     128c <CalcFrameLength+0x18c>
mov    0x4(%r8,%rbx,4),%r11d
mov    0x38(%rsp),%rcx
mov    0x4(%rcx,%rbx,4),%r13d
add    $0x1,%rbx
jmp    1250 <CalcFrameLength+0x150>
add    %esi,%eax
mov    -0x10(%rsp),%rcx
jmp    1297 <CalcFrameLength+0x197>
xor    %eax,%eax
shl    $0x3,%ecx
cmp    %ecx,%eax
jl     12ac <CalcFrameLength+0x1ac>
lea    0x7(%rax),%r12d
test   %eax,%eax
cmovns %eax,%r12d
sar    $0x3,%r12d
mov    %r12d,%eax
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define i32 @CalcFrameLength(i32 %0, i32 %1, i32 %2, i32 %3, i32* %4, i32* %5, i32* %6, i32* %7, i32 %8) {
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
%13 = alloca i32
%14 = alloca i32
%15 = alloca i32*
%16 = alloca i32*
%17 = alloca i32*
%18 = alloca i32*
%19 = alloca i32
%20 = alloca i32
%21 = alloca i32
%22 = alloca i32
%23 = alloca i32
%24 = alloca i32
%25 = alloca i32
%26 = alloca i32
%27 = alloca i32
store i32 %0, i32* %11
store i32 %1, i32* %12
store i32 %2, i32* %13
store i32 %3, i32* %14
store i32* %4, i32** %15
store i32* %5, i32** %16
store i32* %6, i32** %17
store i32* %7, i32** %18
store i32 %8, i32* %19
store i32 0, i32* %27
%28 = load i32*, i32** %15
%29 = getelementptr inbounds i32, i32* %28, i64 0
%30 = load i32, i32* %29
%31 = icmp eq i32 %30, -1
br i1 %31, label %37, label %32
32: ; preds = %9
%33 = load i32*, i32** %17
%34 = getelementptr inbounds i32, i32* %33, i64 0
%35 = load i32, i32* %34
%36 = icmp eq i32 %35, -1
br i1 %36, label %37, label %38
37: ; preds = %32, %9
store i32 -1, i32* %10
br label %151
38: ; preds = %32
store i32 0, i32* %26
br label %39
39: ; preds = %61, %38
%40 = load i32, i32* %26
%41 = load i32, i32* %11
%42 = icmp slt i32 %40, %41
br i1 %42, label %43, label %64
43: ; preds = %39
%44 = load i32, i32* %19
%45 = load i32*, i32** %16
%46 = load i32, i32* %26
%47 = sext i32 %46 to i64
%48 = getelementptr inbounds i32, i32* %45, i64 %47
%49 = load i32, i32* %48
%50 = sdiv i32 %44, %49
%51 = load i32*, i32** %15
%52 = load i32, i32* %26
%53 = sext i32 %52 to i64
%54 = getelementptr inbounds i32, i32* %51, i64 %53
%55 = load i32, i32* %54
%56 = mul nsw i32 %50, %55
%57 = load i32, i32* %12
%58 = mul nsw i32 %56, %57
%59 = load i32, i32* %27
%60 = add nsw i32 %59, %58
store i32 %60, i32* %27
br label %61
61: ; preds = %43
%62 = load i32, i32* %26
%63 = add nsw i32 %62, 1
store i32 %63, i32* %26
br label %39
64: ; preds = %39
%65 = load i32, i32* %14
%66 = icmp ne i32 %65, 0
br i1 %66, label %67, label %81
67: ; preds = %64
%68 = load i32, i32* %14
%69 = mul nsw i32 8, %68
%70 = load i32, i32* %27
%71 = sdiv i32 %69, %70
store i32 %71, i32* %25
%72 = load i32, i32* %14
%73 = mul nsw i32 8, %72
%74 = load i32, i32* %27
%75 = srem i32 %73, %74
%76 = icmp ne i32 %75, 0
br i1 %76, label %77, label %80
77: ; preds = %67
%78 = load i32, i32* %25
%79 = add nsw i32 %78, 1
store i32 %79, i32* %25
br label %80
80: ; preds = %77, %67
br label %82
81: ; preds = %64
store i32 0, i32* %25
br label %82
82: ; preds = %81, %80
%83 = load i32, i32* %25
%84 = load i32, i32* %19
%85 = mul nsw i32 %83, %84
store i32 %85, i32* %20
%86 = load i32, i32* %13
%87 = load i32, i32* %20
%88 = sub nsw i32 %86, %87
store i32 %88, i32* %21
%89 = load i32, i32* %12
%90 = load i32, i32* %21
%91 = mul nsw i32 %89, %90
%92 = sub nsw i32 %91, 12
%93 = icmp slt i32 %92, 0
br i1 %93, label %94, label %95
94: ; preds = %82
store i32 -1, i32* %10
br label %151
95: ; preds = %82
store i32 0, i32* %22
store i32 0, i32* %23
store i32 0, i32* %26
br label %96
96: ; preds = %136, %95
%97 = load i32, i32* %26
%98 = load i32, i32* %11
%99 = icmp slt i32 %97, %98
br i1 %99, label %100, label %139
100: ; preds = %96
%101 = load i32, i32* %12
%102 = load i32, i32* %20
%103 = mul nsw i32 %101, %102
%104 = load i32*, i32** %16
%105 = load i32, i32* %26
%106 = sext i32 %105 to i64
%107 = getelementptr inbounds i32, i32* %104, i64 %106
%108 = load i32, i32* %107
%109 = sdiv i32 %103, %108
%110 = load i32*, i32** %15
%111 = load i32, i32* %26
%112 = sext i32 %111 to i64
%113 = getelementptr inbounds i32, i32* %110, i64 %112
%114 = load i32, i32* %113
%115 = mul nsw i32 %109, %114
%116 = load i32, i32* %22
%117 = add nsw i32 %116, %115
store i32 %117, i32* %22
%118 = load i32, i32* %12
%119 = load i32, i32* %21
%120 = mul nsw i32 %118, %119
%121 = sub nsw i32 %120, 12
%122 = load i32*, i32** %18
%123 = load i32, i32* %26
%124 = sext i32 %123 to i64
%125 = getelementptr inbounds i32, i32* %122, i64 %124
%126 = load i32, i32* %125
%127 = sdiv i32 %121, %126
%128 = load i32*, i32** %17
%129 = load i32, i32* %26
%130 = sext i32 %129 to i64
%131 = getelementptr inbounds i32, i32* %128, i64 %130
%132 = load i32, i32* %131
%133 = mul nsw i32 %127, %132
%134 = load i32, i32* %23
%135 = add nsw i32 %134, %133
store i32 %135, i32* %23
br label %136
136: ; preds = %100
%137 = load i32, i32* %26
%138 = add nsw i32 %137, 1
store i32 %138, i32* %26
br label %96
139: ; preds = %96
%140 = load i32, i32* %22
%141 = load i32, i32* %23
%142 = add nsw i32 %140, %141
store i32 %142, i32* %24
%143 = load i32, i32* %24
%144 = load i32, i32* %14
%145 = mul nsw i32 8, %144
%146 = icmp slt i32 %143, %145
br i1 %146, label %147, label %148
147: ; preds = %139
store i32 -1, i32* %10
br label %151
148: ; preds = %139
%149 = load i32, i32* %24
%150 = sdiv i32 %149, 8
store i32 %150, i32* %10
br label %151
151: ; preds = %148, %147, %94, %37
%152 = load i32, i32* %10
ret i32 %152
}

LLVM IR (-O2):
define i32 @CalcFrameLength(i32 %0, i32 %1, i32 %2, i32 %3, i32* nocapture %4, i32* nocapture %5, i32* nocapture %6, i32* nocapture %7, i32 %8) {
%10 = load i32, i32* %4
%11 = icmp eq i32 %10, -1
br i1 %11, label %120, label %12
12: ; preds = %9
%13 = load i32, i32* %6
%14 = icmp eq i32 %13, -1
br i1 %14, label %120, label %15
15: ; preds = %12
%16 = icmp sgt i32 %0, 0
br i1 %16, label %17, label %68
17: ; preds = %15
%18 = load i32, i32* %5
%19 = sdiv i32 %8, %18
%20 = mul i32 %19, %1
%21 = mul i32 %20, %10
%22 = icmp eq i32 %0, 1
br i1 %22, label %68, label %23
23: ; preds = %17
%24 = zext i32 %0 to i64
%25 = add nsw i64 %24, -1
%26 = and i64 %25, 1
%27 = icmp eq i32 %0, 2
br i1 %27, label %54, label %28
28: ; preds = %23
%29 = and i64 %25, -2
br label %30
30: ; preds = %30, %28
%31 = phi i64 [ 1, %28 ], [ %51, %30 ]
%32 = phi i32 [ %21, %28 ], [ %50, %30 ]
%33 = phi i64 [ 0, %28 ], [ %52, %30 ]
%34 = getelementptr inbounds i32, i32* %4, i64 %31
%35 = load i32, i32* %34
%36 = getelementptr inbounds i32, i32* %5, i64 %31
%37 = load i32, i32* %36
%38 = sdiv i32 %8, %37
%39 = mul i32 %38, %1
%40 = mul i32 %39, %35
%41 = add nsw i32 %40, %32
%42 = add nuw nsw i64 %31, 1
%43 = getelementptr inbounds i32, i32* %4, i64 %42
%44 = load i32, i32* %43
%45 = getelementptr inbounds i32, i32* %5, i64 %42
%46 = load i32, i32* %45
%47 = sdiv i32 %8, %46
%48 = mul i32 %47, %1
%49 = mul i32 %48, %44
%50 = add nsw i32 %49, %41
%51 = add nuw nsw i64 %31, 2
%52 = add i64 %33, 2
%53 = icmp eq i64 %52, %29
br i1 %53, label %54, label %30
54: ; preds = %30, %23
%55 = phi i32 [ undef, %23 ], [ %50, %30 ]
%56 = phi i64 [ 1, %23 ], [ %51, %30 ]
%57 = phi i32 [ %21, %23 ], [ %50, %30 ]
%58 = icmp eq i64 %26, 0
br i1 %58, label %68, label %59
59: ; preds = %54
%60 = getelementptr inbounds i32, i32* %4, i64 %56
%61 = load i32, i32* %60
%62 = getelementptr inbounds i32, i32* %5, i64 %56
%63 = load i32, i32* %62
%64 = sdiv i32 %8, %63
%65 = mul i32 %64, %1
%66 = mul i32 %65, %61
%67 = add nsw i32 %66, %57
br label %68
68: ; preds = %59, %54, %17, %15
%69 = phi i32 [ 0, %15 ], [ %21, %17 ], [ %55, %54 ], [ %67, %59 ]
%70 = icmp eq i32 %3, 0
br i1 %70, label %78, label %71
71: ; preds = %68
%72 = shl nsw i32 %3, 3
%73 = sdiv i32 %72, %69
%74 = srem i32 %72, %69
%75 = icmp ne i32 %74, 0
%76 = zext i1 %75 to i32
%77 = add nsw i32 %73, %76
br label %78
78: ; preds = %71, %68
%79 = phi i32 [ %77, %71 ], [ 0, %68 ]
%80 = mul nsw i32 %79, %8
%81 = sub nsw i32 %2, %80
%82 = mul nsw i32 %81, %1
%83 = add nsw i32 %82, -12
%84 = icmp slt i32 %82, 12
br i1 %84, label %120, label %85
85: ; preds = %78
br i1 %16, label %86, label %114
86: ; preds = %85
%87 = mul nsw i32 %80, %1
%88 = zext i32 %0 to i64
br label %89
89: ; preds = %107, %86
%90 = phi i32 [ %13, %86 ], [ %111, %107 ]
%91 = phi i32 [ %10, %86 ], [ %109, %107 ]
%92 = phi i64 [ 0, %86 ], [ %105, %107 ]
%93 = phi i32 [ 0, %86 ], [ %104, %107 ]
%94 = phi i32 [ 0, %86 ], [ %99, %107 ]
%95 = getelementptr inbounds i32, i32* %5, i64 %92
%96 = load i32, i32* %95
%97 = sdiv i32 %87, %96
%98 = mul nsw i32 %91, %97
%99 = add nsw i32 %98, %94
%100 = getelementptr inbounds i32, i32* %7, i64 %92
%101 = load i32, i32* %100
%102 = sdiv i32 %83, %101
%103 = mul nsw i32 %90, %102
%104 = add nsw i32 %103, %93
%105 = add nuw nsw i64 %92, 1
%106 = icmp eq i64 %105, %88
br i1 %106, label %112, label %107
107: ; preds = %89
%108 = getelementptr inbounds i32, i32* %4, i64 %105
%109 = load i32, i32* %108
%110 = getelementptr inbounds i32, i32* %6, i64 %105
%111 = load i32, i32* %110
br label %89
112: ; preds = %89
%113 = add nsw i32 %104, %99
br label %114
114: ; preds = %112, %85
%115 = phi i32 [ %113, %112 ], [ 0, %85 ]
%116 = shl nsw i32 %3, 3
%117 = icmp slt i32 %115, %116
br i1 %117, label %120, label %118
118: ; preds = %114
%119 = sdiv i32 %115, 8
br label %120
120: ; preds = %114, %78, %9, %12, %118
%121 = phi i32 [ %119, %118 ], [ -1, %12 ], [ -1, %9 ], [ -1, %78 ], [ -1, %114 ]
ret i32 %121
}