// File: /workspace/github_c_makefile_star2_O0/genometools[P]genometools/src/mgth/mg_compute_gene_prediction.c
// Function: frameshiftprocessing
static int frameshiftprocessing(ParseStruct *parsestruct_ptr,
                                RegionStruct **regionmatrix,
                                short real_frame, GtError * err)
{
  int had_err = 0;

  unsigned short row_index,
    check_bp = 0;

  GtUword arraysize,
    arraysize_realframe,
    GT_UNUSED arraysize_real,
    arraysize_tmp,
    array_idx,
    arrayreal_idx = 0,
    from_tmp,
    to_tmp,
    from_real,
    to_real,
    from_min = 0,
    to_min = 0;

  GtWord min_value,
    min_value_tmp = LONG_MAX;

  GtArray *tmp_from;
  GtArray *tmp_to;
  GtArray *real_from;
  GtArray *real_to;
  GtArray *real_fromtmp;
  GtArray *real_totmp;
  GtArray *realfrom;
  GtArray *realto;

  gt_error_check(err);

  tmp_from = gt_array_new(sizeof (GtUword));
  tmp_to = gt_array_new(sizeof (GtUword));
  real_from = gt_array_new(sizeof (GtUword));
  real_to = gt_array_new(sizeof (GtUword));
  real_fromtmp = gt_array_new(sizeof (GtUword));
  real_totmp = gt_array_new(sizeof (GtUword));
  realfrom = gt_array_new(sizeof (GtUword));
  realto = gt_array_new(sizeof (GtUword));

  /* Vergleich mit allen anderen Frames - Der reale Frame ist der Frame
     mit der hoechsten Haeufigkeit (frame_counter) */
  for (row_index = 0; row_index < 7; row_index++)
  {
    /* Frameshift nur zwischen realem und von diesem verschiedenen Frames
       moeglich */
    if (row_index != real_frame)
    {
      /* Anzahl der kodierenden Bereiche im zu vergleichendem Leserahmen */
      arraysize = gt_array_size(regionmatrix[row_index][0].from);

      if (arraysize > 0)
      {
        /* alle kodierenden Bereiche des zu vergleichenden Frames werden
           betrachtet */
        for (array_idx = 0; array_idx < arraysize; array_idx++)
        {
          /* Grenzen des zu Betrachtenden Abschnitts - Abschnitte liegen
             in aufsteigender Reihenfolge vor */
          from_tmp =
            *(GtUword *) gt_array_get(regionmatrix[row_index][0].from,
                                            array_idx);
          to_tmp =
            *(GtUword *) gt_array_get(regionmatrix[row_index][0].to,
                                            array_idx);

          /* Aufruf der Methode zur Ueberpruefung auf Stop-Codons im
             kodierendem Bereich des zu vergleichendem Frames -
             ueberprueft wird der kodierende Abschnitt bezgl. Stop-Codons
             im realen Frame */
          check_bp = check_coding(parsestruct_ptr,
                                  from_tmp, to_tmp, real_frame, err);

          if (check_bp || !check_bp)
          {
            arraysize_realframe =
              gt_array_size(regionmatrix[real_frame][0].from);

            /* alle kodierenden Bereiche des realen Frames werden
               betrachtet */
            for (arrayreal_idx = 0; arrayreal_idx < arraysize_realframe;
                 arrayreal_idx++)
            {
              /* Grenzen des kodierenden Bereichs des realen Frames */
              from_real =
                *(GtUword *) gt_array_get(regionmatrix[real_frame][0].
                                             from, arrayreal_idx);
              to_real =
                *(GtUword *) gt_array_get(regionmatrix[real_frame][0].
                                             to, arrayreal_idx);

              /* Bestimmen der Frames von realem und zu vergleichendem
                 Frame mit minimalem Abstand */
              if (from_real > from_tmp)
              {
                min_value = from_real - from_tmp;
              }
              else
                min_value = from_tmp - from_real;

              /* kodierender Bereich mit minimalem Abstand wird
                 gespeichert */
              if (min_value < min_value_tmp)
              {
                min_value_tmp = min_value;
                from_min = from_real =
                  *(GtUword *) gt_array_get(regionmatrix[real_frame][0].
                                               from, arrayreal_idx);
                to_min = to_real =
                  *(GtUword *) gt_array_get(regionmatrix[real_frame][0].
                                               to, arrayreal_idx);
              }
            }

            /* Falls der betrachtete Abschnitt des zu vergleichenden
               Frames innerhalb des max. Abstandes liegt (per GtOption bei
               Programmaufruf einstellbar) und der kodierende Bereich kein
               Stop-Codon enthaelt werden die Grenzen des Abschnittes im
               real_fromtmp- bzw. real_totmp-Array abgespeichert */
            if (!check_bp
                && ((to_tmp + ARGUMENTSSTRUCT(frameshift_span) > from_min)
                    || (to_min + ARGUMENTSSTRUCT(frameshift_span) >
                        from_tmp)))
            {
              gt_array_add(real_fromtmp, from_tmp);
              gt_array_add(real_totmp, to_tmp);
            }
            /* ansonsten im from_tmp- bzw. to_tmp-Array */
            else
            {
              gt_array_add(tmp_from, from_tmp);
              gt_array_add(tmp_to, to_tmp);
            }
          }
          else
          {
            had_err = -1;
          }
        }
      }

      if (!had_err)
      {
        /* die from- to-Grenzen des zu vergleichenden GtArrays werden
           aktualisiert */
        gt_array_delete(regionmatrix[row_index][0].from);
        gt_array_delete(regionmatrix[row_index][0].to);

        regionmatrix[row_index][0].from = gt_array_clone(tmp_from);
        regionmatrix[row_index][0].to = gt_array_clone(tmp_to);
        gt_array_reset(tmp_from);
        gt_array_reset(tmp_to);
      }
    }
  }

  if (!had_err)
  {
    /* Anzahl der kodierenden Bereiche im realen- und im
       real_fromtmp-Array werden bestimmt */
    arraysize_real = gt_array_size(regionmatrix[real_frame][0].from);
    arraysize_tmp = gt_array_size(real_fromtmp);

    /* Falls im tmp-Array Eintraege vorhanden sind, sind diese in das
       GtArray der kodierenden Abschnitte der realen-Frames einzutragen */
    if (arraysize_tmp > 0)
    {
      /* sortieren der neu einzutragenden kodierenden Abschnitte anhand
         des From-Wertes */
      sort_realtmp(realfrom, realto, real_fromtmp, real_totmp);

      /* bisher: rueckwaerts von hinten angegebene Bereichsgrenzen -
         danach: Bereichsgrenzen von vorne nach hinten */
      gt_array_reverse(realfrom);
      gt_array_reverse(realto);

      /* sortiertes einfuegen der neuen Bereichsgrenzen in das GtArray
         bestehender kodierender Bereiche des realen Frames */
      merge_array(regionmatrix,
                  real_from,
                  real_to, realfrom, realto, 0, 0, real_frame, row_index);

      /* aktualisieren der Bereichsgrenzen im GtArray des realen-Frames */
      gt_array_delete(regionmatrix[real_frame][0].from);
      gt_array_delete(regionmatrix[real_frame][0].to);

      regionmatrix[real_frame][0].from = gt_array_clone(real_from);
      regionmatrix[real_frame][0].to = gt_array_clone(real_to);
    }
  }

  gt_array_delete(tmp_from);
  gt_array_delete(tmp_to);
  gt_array_delete(real_from);
  gt_array_delete(real_to);
  gt_array_delete(real_fromtmp);
  gt_array_delete(real_totmp);
  gt_array_delete(realfrom);
  gt_array_delete(realto);

  return had_err;
}

// Assembly:
subq $0xf8, %rsp
movw %dx, %ax
movq %rdi, 0xf0(%rsp)
movq %rsi, 0xe8(%rsp)
movw %ax, 0xe6(%rsp)
movq %rcx, 0xd8(%rsp)
movl $0x0, 0xd4(%rsp)
movw $0x0, 0xd0(%rsp)
movq $0x0, 0xa0(%rsp)
movq $0x0, 0x78(%rsp)
movq $0x0, 0x70(%rsp)
movabsq $0x7fffffffffffffff, %rax # imm = 0x7FFFFFFFFFFFFFFF
movq %rax, 0x60(%rsp)
cmpq $0x0, 0xd8(%rsp)
je 0x4ecce2
movq 0xd8(%rsp), %rdi
callq 0xd8a60
testb $0x1, %al
jne 0x4eccaa
jmp 0x4ecce2
movq 0x14f2ef(%rip), %rax    # 0x63bfa0
movq (%rax), %rdi
leaq 0x29358(%rip), %rsi     # 0x516013
leaq 0x294fd(%rip), %rdx     # 0x5161bf
leaq 0xcf227(%rip), %rcx     # 0x5bbef0
leaq 0xcf1ea(%rip), %r8      # 0x5bbeba
movl $0x20c, %r9d            # imm = 0x20C
movb $0x0, %al
callq 0x199f0
callq 0x19370
jmp 0x4ecce4
movl $0x8, %edi
callq 0x80990
movq %rax, 0x58(%rsp)
movl $0x8, %edi
callq 0x80990
movq %rax, 0x50(%rsp)
movl $0x8, %edi
callq 0x80990
movq %rax, 0x48(%rsp)
movl $0x8, %edi
callq 0x80990
movq %rax, 0x40(%rsp)
movl $0x8, %edi
callq 0x80990
movq %rax, 0x38(%rsp)
movl $0x8, %edi
callq 0x80990
movq %rax, 0x30(%rsp)
movl $0x8, %edi
callq 0x80990
movq %rax, 0x28(%rsp)
movl $0x8, %edi
callq 0x80990
movq %rax, 0x20(%rsp)
movw $0x0, 0xd2(%rsp)
movzwl 0xd2(%rsp), %eax
cmpl $0x7, %eax
jge 0x4ed22d
movzwl 0xd2(%rsp), %eax
movswl 0xe6(%rsp), %ecx
cmpl %ecx, %eax
je 0x4ed212
movq 0xe8(%rsp), %rax
movzwl 0xd2(%rsp), %ecx
movq (%rax,%rcx,8), %rax
movq (%rax), %rdi
callq 0x81370
movq %rax, 0xc8(%rsp)
cmpq $0x0, 0xc8(%rsp)
jbe 0x4ed16c
movq $0x0, 0xa8(%rsp)
movq 0xa8(%rsp), %rax
cmpq 0xc8(%rsp), %rax
jae 0x4ed16a
movq 0xe8(%rsp), %rax
movzwl 0xd2(%rsp), %ecx
movq (%rax,%rcx,8), %rax
movq (%rax), %rdi
movq 0xa8(%rsp), %rsi
callq 0x80b60
movq (%rax), %rax
movq %rax, 0x98(%rsp)
movq 0xe8(%rsp), %rax
movzwl 0xd2(%rsp), %ecx
movq (%rax,%rcx,8), %rax
movq 0x8(%rax), %rdi
movq 0xa8(%rsp), %rsi
callq 0x80b60
movq (%rax), %rax
movq %rax, 0x90(%rsp)
movq 0xf0(%rsp), %rdi
movq 0x98(%rsp), %rsi
movq 0x90(%rsp), %rdx
movw 0xe6(%rsp), %ax
movq 0xd8(%rsp), %r8
movswl %ax, %ecx
callq 0x4ed8f0
movw %ax, 0xd0(%rsp)
movzwl 0xd0(%rsp), %eax
cmpl $0x0, %eax
jne 0x4ece97
cmpw $0x0, 0xd0(%rsp)
jne 0x4ed144
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rcx
movq (%rax,%rcx,8), %rax
movq (%rax), %rdi
callq 0x81370
movq %rax, 0xc0(%rsp)
movq $0x0, 0xa0(%rsp)
movq 0xa0(%rsp), %rax
cmpq 0xc0(%rsp), %rax
jae 0x4ed019
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rcx
movq (%rax,%rcx,8), %rax
movq (%rax), %rdi
movq 0xa0(%rsp), %rsi
callq 0x80b60
movq (%rax), %rax
movq %rax, 0x88(%rsp)
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rcx
movq (%rax,%rcx,8), %rax
movq 0x8(%rax), %rdi
movq 0xa0(%rsp), %rsi
callq 0x80b60
movq (%rax), %rax
movq %rax, 0x80(%rsp)
movq 0x88(%rsp), %rax
cmpq 0x98(%rsp), %rax
jbe 0x4ecf68
movq 0x88(%rsp), %rax
subq 0x98(%rsp), %rax
movq %rax, 0x68(%rsp)
jmp 0x4ecf7d
movq 0x98(%rsp), %rax
subq 0x88(%rsp), %rax
movq %rax, 0x68(%rsp)
movq 0x68(%rsp), %rax
cmpq 0x60(%rsp), %rax
jge 0x4ecffe
movq 0x68(%rsp), %rax
movq %rax, 0x60(%rsp)
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rcx
movq (%rax,%rcx,8), %rax
movq (%rax), %rdi
movq 0xa0(%rsp), %rsi
callq 0x80b60
movq (%rax), %rax
movq %rax, 0x88(%rsp)
movq %rax, 0x78(%rsp)
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rcx
movq (%rax,%rcx,8), %rax
movq 0x8(%rax), %rdi
movq 0xa0(%rsp), %rsi
callq 0x80b60
movq (%rax), %rax
movq %rax, 0x80(%rsp)
movq %rax, 0x70(%rsp)
jmp 0x4ed000
movq 0xa0(%rsp), %rax
addq $0x1, %rax
movq %rax, 0xa0(%rsp)
jmp 0x4ecec8
cmpw $0x0, 0xd0(%rsp)
jne 0x4ed114
movq 0x90(%rsp), %xmm0
movaps 0x2b8f8(%rip), %xmm3    # 0x518930
punpckldq %xmm3, %xmm0    # xmm0 = xmm0[0],xmm3[0],xmm0[1],xmm3[1]
movapd 0x2b8fc(%rip), %xmm2    # 0x518940
subpd %xmm2, %xmm0
movaps %xmm0, %xmm1
unpckhpd %xmm0, %xmm0            # xmm0 = xmm0[1,1]
addsd %xmm1, %xmm0
movq 0xf0(%rsp), %rax
movsd 0x1a8(%rax), %xmm1
addsd %xmm1, %xmm0
movq 0x78(%rsp), %xmm1
punpckldq %xmm3, %xmm1    # xmm1 = xmm1[0],xmm3[0],xmm1[1],xmm3[1]
subpd %xmm2, %xmm1
movaps %xmm1, %xmm2
unpckhpd %xmm1, %xmm1            # xmm1 = xmm1[1,1]
addsd %xmm2, %xmm1
ucomisd %xmm1, %xmm0
ja 0x4ed0e4
movq 0x70(%rsp), %xmm0
movaps 0x2b89d(%rip), %xmm3    # 0x518930
punpckldq %xmm3, %xmm0    # xmm0 = xmm0[0],xmm3[0],xmm0[1],xmm3[1]
movapd 0x2b8a1(%rip), %xmm2    # 0x518940
subpd %xmm2, %xmm0
movaps %xmm0, %xmm1
unpckhpd %xmm0, %xmm0            # xmm0 = xmm0[1,1]
addsd %xmm1, %xmm0
movq 0xf0(%rsp), %rax
movsd 0x1a8(%rax), %xmm1
addsd %xmm1, %xmm0
movq 0x98(%rsp), %xmm1
punpckldq %xmm3, %xmm1    # xmm1 = xmm1[0],xmm3[0],xmm1[1],xmm3[1]
subpd %xmm2, %xmm1
movaps %xmm1, %xmm2
unpckhpd %xmm1, %xmm1            # xmm1 = xmm1[1,1]
addsd %xmm2, %xmm1
ucomisd %xmm1, %xmm0
jbe 0x4ed114
movq 0x38(%rsp), %rdi
leaq 0x98(%rsp), %rsi
movl $0x8, %edx
callq 0x81100
movq 0x30(%rsp), %rdi
leaq 0x90(%rsp), %rsi
movl $0x8, %edx
callq 0x81100
jmp 0x4ed142
movq 0x58(%rsp), %rdi
leaq 0x98(%rsp), %rsi
movl $0x8, %edx
callq 0x81100
movq 0x50(%rsp), %rdi
leaq 0x90(%rsp), %rsi
movl $0x8, %edx
callq 0x81100
jmp 0x4ed14f
movl $0xffffffff, 0xd4(%rsp) # imm = 0xFFFFFFFF
jmp 0x4ed151
movq 0xa8(%rsp), %rax
addq $0x1, %rax
movq %rax, 0xa8(%rsp)
jmp 0x4ecdce
jmp 0x4ed16c
cmpl $0x0, 0xd4(%rsp)
jne 0x4ed210
movq 0xe8(%rsp), %rax
movzwl 0xd2(%rsp), %ecx
movq (%rax,%rcx,8), %rax
movq (%rax), %rdi
callq 0x81f80
movq 0xe8(%rsp), %rax
movzwl 0xd2(%rsp), %ecx
movq (%rax,%rcx,8), %rax
movq 0x8(%rax), %rdi
callq 0x81f80
movq 0x58(%rsp), %rdi
callq 0x80a20
movq %rax, %rcx
movq 0xe8(%rsp), %rax
movzwl 0xd2(%rsp), %edx
movq (%rax,%rdx,8), %rax
movq %rcx, (%rax)
movq 0x50(%rsp), %rdi
callq 0x80a20
movq %rax, %rcx
movq 0xe8(%rsp), %rax
movzwl 0xd2(%rsp), %edx
movq (%rax,%rdx,8), %rax
movq %rcx, 0x8(%rax)
movq 0x58(%rsp), %rdi
callq 0x814a0
movq 0x50(%rsp), %rdi
callq 0x814a0
jmp 0x4ed212
jmp 0x4ed214
movw 0xd2(%rsp), %ax
addw $0x1, %ax
movw %ax, 0xd2(%rsp)
jmp 0x4ecd66
cmpl $0x0, 0xd4(%rsp)
jne 0x4ed37b
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rcx
movq (%rax,%rcx,8), %rax
movq (%rax), %rdi
callq 0x81370
movq %rax, 0xb8(%rsp)
movq 0x38(%rsp), %rdi
callq 0x81370
movq %rax, 0xb0(%rsp)
cmpq $0x0, 0xb0(%rsp)
jbe 0x4ed379
movq 0x28(%rsp), %rdi
movq 0x20(%rsp), %rsi
movq 0x38(%rsp), %rdx
movq 0x30(%rsp), %rcx
callq 0x4edbb0
movq 0x28(%rsp), %rdi
callq 0x80f40
movq 0x20(%rsp), %rdi
callq 0x80f40
movq 0xe8(%rsp), %rdi
movq 0x48(%rsp), %rsi
movq 0x40(%rsp), %rdx
movq 0x28(%rsp), %rcx
movq 0x20(%rsp), %r8
movw 0xe6(%rsp), %ax
xorl %r9d, %r9d
movq $0x0, (%rsp)
cwtl
movl %eax, 0x8(%rsp)
movzwl 0xd2(%rsp), %eax
movl %eax, 0x10(%rsp)
callq 0x4edd40
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rcx
movq (%rax,%rcx,8), %rax
movq (%rax), %rdi
callq 0x81f80
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rcx
movq (%rax,%rcx,8), %rax
movq 0x8(%rax), %rdi
callq 0x81f80
movq 0x48(%rsp), %rdi
callq 0x80a20
movq %rax, %rcx
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rdx
movq (%rax,%rdx,8), %rax
movq %rcx, (%rax)
movq 0x40(%rsp), %rdi
callq 0x80a20
movq %rax, %rcx
movq 0xe8(%rsp), %rax
movswq 0xe6(%rsp), %rdx
movq (%rax,%rdx,8), %rax
movq %rcx, 0x8(%rax)
jmp 0x4ed37b
movq 0x58(%rsp), %rdi
callq 0x81f80
movq 0x50(%rsp), %rdi
callq 0x81f80
movq 0x48(%rsp), %rdi
callq 0x81f80
movq 0x40(%rsp), %rdi
callq 0x81f80
movq 0x38(%rsp), %rdi
callq 0x81f80
movq 0x30(%rsp), %rdi
callq 0x81f80
movq 0x28(%rsp), %rdi
callq 0x81f80
movq 0x20(%rsp), %rdi
callq 0x81f80
movl 0xd4(%rsp), %eax
addq $0xf8, %rsp
retq
nopw (%rax,%rax)