void findKey(int *text, int cnt, int *key, int size) {
  int i = 0, l = 0, hex = 0, k = 0;
  double pr;
  double *prSet = (double *)calloc(256, sizeof(double));
  int *stream = (int *)calloc(cnt / size, sizeof(int));
  for (l = 0; l < size; l++) {
    for (hex = 0; hex < 256; hex++) {
      k = -1;
      prSet[hex] = 0.0;
      i = 0;
      while (i * size + l <= cnt) {
        stream[i] = text[l + i * size] ^ hex;
        if (stream[i] < 32 || stream[i] > 127) {
          k = i++;
          break;
        }
        i++;
      }
      if (k >= 0) {
        continue;
      }
      prSet[hex] = calcKeyBytes(stream, cnt / size);
    }
    pr = 0.0;
    k = 0;
    printf("\nfor byte %d more probability are:\n", l);
    for (hex = 0; hex < 256; hex++) {
      if (prSet[hex] > pr) {
        pr = prSet[hex];
        if (pr > 0.058) {
          printf("%3d (%6.5f) ", hex, pr);
        }
        k = hex;
        i = 256;
      }
    }
    key[l] = k;
  }
  free(stream);
  free(prSet);
}


x86 assembly (clang, -O0):
<findKey>:
push   %rbp
mov    %rsp,%rbp
sub    $0x50,%rsp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %ecx,-0x1c(%rbp)
movl   $0x0,-0x20(%rbp)
movl   $0x0,-0x24(%rbp)
movl   $0x0,-0x28(%rbp)
movl   $0x0,-0x2c(%rbp)
mov    $0x100,%edi
mov    $0x8,%esi
call   1060 <calloc@plt>
mov    %rax,-0x40(%rbp)
mov    -0xc(%rbp),%eax
cltd
idivl  -0x1c(%rbp)
movslq %eax,%rdi
mov    $0x4,%esi
call   1060 <calloc@plt>
mov    %rax,-0x48(%rbp)
movl   $0x0,-0x24(%rbp)
mov    -0x24(%rbp),%eax
cmp    -0x1c(%rbp),%eax
jge    1367 <findKey+0x227>
movl   $0x0,-0x28(%rbp)
cmpl   $0x100,-0x28(%rbp)
jge    12a0 <findKey+0x160>
movl   $0xffffffff,-0x2c(%rbp)
mov    -0x40(%rbp),%rax
movslq -0x28(%rbp),%rcx
xorps  %xmm0,%xmm0
movsd  %xmm0,(%rax,%rcx,8)
movl   $0x0,-0x20(%rbp)
mov    -0x20(%rbp),%eax
imul   -0x1c(%rbp),%eax
add    -0x24(%rbp),%eax
cmp    -0xc(%rbp),%eax
jg     125e <findKey+0x11e>
mov    -0x8(%rbp),%rax
mov    -0x24(%rbp),%ecx
mov    -0x20(%rbp),%edx
imul   -0x1c(%rbp),%edx
add    %edx,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,4),%edx
xor    -0x28(%rbp),%edx
mov    -0x48(%rbp),%rax
movslq -0x20(%rbp),%rcx
mov    %edx,(%rax,%rcx,4)
mov    -0x48(%rbp),%rax
movslq -0x20(%rbp),%rcx
cmpl   $0x20,(%rax,%rcx,4)
jl     123d <findKey+0xfd>
mov    -0x48(%rbp),%rax
movslq -0x20(%rbp),%rcx
cmpl   $0x7f,(%rax,%rcx,4)
jle    1250 <findKey+0x110>
mov    -0x20(%rbp),%eax
mov    %eax,%ecx
add    $0x1,%ecx
mov    %ecx,-0x20(%rbp)
mov    %eax,-0x2c(%rbp)
jmp    125e <findKey+0x11e>
mov    -0x20(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x20(%rbp)
jmp    11e2 <findKey+0xa2>
cmpl   $0x0,-0x2c(%rbp)
jl     126d <findKey+0x12d>
jmp    1292 <findKey+0x152>
mov    -0x48(%rbp),%rdi
mov    -0xc(%rbp),%eax
cltd
idivl  -0x1c(%rbp)
mov    %eax,%esi
mov    $0x0,%al
call   1040 <calcKeyBytes@plt>
cvtsi2sd %eax,%xmm0
mov    -0x40(%rbp),%rax
movslq -0x28(%rbp),%rcx
movsd  %xmm0,(%rax,%rcx,8)
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    11b7 <findKey+0x77>
xorps  %xmm0,%xmm0
movsd  %xmm0,-0x38(%rbp)
movl   $0x0,-0x2c(%rbp)
mov    -0x24(%rbp),%esi
lea    0xd4f(%rip),%rdi
mov    $0x0,%al
call   1050 <printf@plt>
movl   $0x0,-0x28(%rbp)
cmpl   $0x100,-0x28(%rbp)
jge    134b <findKey+0x20b>
mov    -0x40(%rbp),%rax
movslq -0x28(%rbp),%rcx
movsd  (%rax,%rcx,8),%xmm0
ucomisd -0x38(%rbp),%xmm0
jbe    1338 <findKey+0x1f8>
mov    -0x40(%rbp),%rax
movslq -0x28(%rbp),%rcx
movsd  (%rax,%rcx,8),%xmm0
movsd  %xmm0,-0x38(%rbp)
movsd  -0x38(%rbp),%xmm0
movsd  0xcf5(%rip),%xmm1
ucomisd %xmm1,%xmm0
jbe    132b <findKey+0x1eb>
mov    -0x28(%rbp),%esi
movsd  -0x38(%rbp),%xmm0
lea    0xd08(%rip),%rdi
mov    $0x1,%al
call   1050 <printf@plt>
mov    -0x28(%rbp),%eax
mov    %eax,-0x2c(%rbp)
movl   $0x100,-0x20(%rbp)
jmp    133d <findKey+0x1fd>
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    12c7 <findKey+0x187>
mov    -0x2c(%rbp),%edx
mov    -0x18(%rbp),%rax
movslq -0x24(%rbp),%rcx
mov    %edx,(%rax,%rcx,4)
mov    -0x24(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x24(%rbp)
jmp    11a4 <findKey+0x64>
mov    -0x48(%rbp),%rdi
call   1030 <free@plt>
mov    -0x40(%rbp),%rdi
call   1030 <free@plt>
add    $0x50,%rsp
pop    %rbp
ret

x86 assembly (clang, -O2):
<findKey>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
sub    $0x38,%rsp
mov    %ecx,%r13d
mov    %rdx,0x28(%rsp)
mov    %esi,%ebp
mov    %rdi,%r15
mov    $0x100,%edi
mov    $0x8,%esi
call   1060 <calloc@plt>
mov    %rax,%rbx
mov    %ebp,%eax
cltd
idiv   %r13d
mov    %eax,0x14(%rsp)
movslq %eax,%rdi
mov    $0x4,%esi
call   1060 <calloc@plt>
mov    %rbx,%r8
mov    %rax,0x8(%rsp)
test   %r13d,%r13d
jle    1300 <findKey+0x1c0>
mov    %r13d,%r14d
movslq %ebp,%rbp
mov    %r14,%r12
shl    $0x20,%r12
xor    %eax,%eax
mov    %rax,0x18(%rsp)
xor    %esi,%esi
mov    %r8,(%rsp)
jmp    11e9 <findKey+0xa9>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax,%rax,1)
mov    0x28(%rsp),%rcx
mov    0x20(%rsp),%rsi
mov    %eax,(%rcx,%rsi,4)
add    $0x1,%rsi
movabs $0x100000000,%rax
add    %rax,0x18(%rsp)
cmp    %r14,%rsi
je     1300 <findKey+0x1c0>
xor    %ebx,%ebx
mov    0x14(%rsp),%r13d
mov    %rsi,0x20(%rsp)
jmp    1232 <findKey+0xf2>
nopw   0x0(%rax,%rax,1)
mov    0x8(%rsp),%rdi
mov    %r13d,%esi
xor    %eax,%eax
call   1040 <calcKeyBytes@plt>
mov    0x20(%rsp),%rsi
mov    (%rsp),%r8
xorps  %xmm0,%xmm0
cvtsi2sd %eax,%xmm0
movsd  %xmm0,(%r8,%rbx,8)
add    $0x1,%rbx
cmp    $0x100,%rbx
je     1280 <findKey+0x140>
movq   $0x0,(%r8,%rbx,8)
cmp    %rbp,%rsi
jg     1200 <findKey+0xc0>
mov    %rsi,%rax
mov    0x18(%rsp),%rdi
mov    0x8(%rsp),%rdx
nopl   0x0(%rax)
mov    %rdi,%rcx
sar    $0x1e,%rcx
mov    (%r15,%rcx,1),%ecx
xor    %ebx,%ecx
mov    %ecx,(%rdx)
add    $0xffffff80,%ecx
cmp    $0xffffffa0,%ecx
jb     1225 <findKey+0xe5>
add    $0x4,%rdx
add    %r12,%rdi
add    %r14,%rax
cmp    %rbp,%rax
jle    1250 <findKey+0x110>
jmp    1200 <findKey+0xc0>
nopl   0x0(%rax,%rax,1)
xor    %r13d,%r13d
lea    0xd7e(%rip),%rdi
xor    %eax,%eax
call   1050 <printf@plt>
mov    (%rsp),%r8
xorpd  %xmm1,%xmm1
xor    %eax,%eax
lea    0xd8a(%rip),%rbx
jmp    12e1 <findKey+0x1a1>
cs nopw 0x0(%rax,%rax,1)
xchg   %ax,%ax
mov    %rbx,%rdi
mov    %r13d,%esi
mov    $0x1,%al
movsd  %xmm0,0x30(%rsp)
call   1050 <printf@plt>
mov    (%rsp),%r8
mov    %r13d,%eax
movsd  0x30(%rsp),%xmm1
add    $0x1,%r13
cmp    $0x100,%r13
je     11c0 <findKey+0x80>
movsd  (%r8,%r13,8),%xmm0
ucomisd %xmm1,%xmm0
jbe    12d0 <findKey+0x190>
ucomisd 0xd0b(%rip),%xmm0
ja     12b0 <findKey+0x170>
mov    %r13d,%eax
movapd %xmm0,%xmm1
jmp    12d0 <findKey+0x190>
mov    %r8,%rbx
mov    0x8(%rsp),%rdi
call   1030 <free@plt>
mov    %rbx,%rdi
add    $0x38,%rsp
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
jmp    1030 <free@plt>

LLVM IR (-O0):
@.str = [36 x i8] c"\0Afor byte %d more probability are:\0A\00"
@.str.1 = [13 x i8] c"%3d (%6.5f) \00"
define void @findKey(i32* %0, i32 %1, i32* %2, i32 %3) {
%5 = alloca i32*
%6 = alloca i32
%7 = alloca i32*
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca i32
%12 = alloca i32
%13 = alloca double
%14 = alloca double*
%15 = alloca i32*
store i32* %0, i32** %5
store i32 %1, i32* %6
store i32* %2, i32** %7
store i32 %3, i32* %8
store i32 0, i32* %9
store i32 0, i32* %10
store i32 0, i32* %11
store i32 0, i32* %12
%16 = call i8* @calloc(i64 256, i64 8)
%17 = bitcast i8* %16 to double*
store double* %17, double** %14
%18 = load i32, i32* %6
%19 = load i32, i32* %8
%20 = sdiv i32 %18, %19
%21 = sext i32 %20 to i64
%22 = call i8* @calloc(i64 %21, i64 4)
%23 = bitcast i8* %22 to i32*
store i32* %23, i32** %15
store i32 0, i32* %10
br label %24
24: ; preds = %136, %4
%25 = load i32, i32* %10
%26 = load i32, i32* %8
%27 = icmp slt i32 %25, %26
br i1 %27, label %28, label %139
28: ; preds = %24
store i32 0, i32* %11
br label %29
29: ; preds = %95, %28
%30 = load i32, i32* %11
%31 = icmp slt i32 %30, 256
br i1 %31, label %32, label %98
32: ; preds = %29
store i32 -1, i32* %12
%33 = load double*, double** %14
%34 = load i32, i32* %11
%35 = sext i32 %34 to i64
%36 = getelementptr inbounds double, double* %33, i64 %35
store double 0.000000e+00, double* %36
store i32 0, i32* %9
br label %37
37: ; preds = %77, %32
%38 = load i32, i32* %9
%39 = load i32, i32* %8
%40 = mul nsw i32 %38, %39
%41 = load i32, i32* %10
%42 = add nsw i32 %40, %41
%43 = load i32, i32* %6
%44 = icmp sle i32 %42, %43
br i1 %44, label %45, label %80
45: ; preds = %37
%46 = load i32*, i32** %5
%47 = load i32, i32* %10
%48 = load i32, i32* %9
%49 = load i32, i32* %8
%50 = mul nsw i32 %48, %49
%51 = add nsw i32 %47, %50
%52 = sext i32 %51 to i64
%53 = getelementptr inbounds i32, i32* %46, i64 %52
%54 = load i32, i32* %53
%55 = load i32, i32* %11
%56 = xor i32 %54, %55
%57 = load i32*, i32** %15
%58 = load i32, i32* %9
%59 = sext i32 %58 to i64
%60 = getelementptr inbounds i32, i32* %57, i64 %59
store i32 %56, i32* %60
%61 = load i32*, i32** %15
%62 = load i32, i32* %9
%63 = sext i32 %62 to i64
%64 = getelementptr inbounds i32, i32* %61, i64 %63
%65 = load i32, i32* %64
%66 = icmp slt i32 %65, 32
br i1 %66, label %74, label %67
67: ; preds = %45
%68 = load i32*, i32** %15
%69 = load i32, i32* %9
%70 = sext i32 %69 to i64
%71 = getelementptr inbounds i32, i32* %68, i64 %70
%72 = load i32, i32* %71
%73 = icmp sgt i32 %72, 127
br i1 %73, label %74, label %77
74: ; preds = %67, %45
%75 = load i32, i32* %9
%76 = add nsw i32 %75, 1
store i32 %76, i32* %9
store i32 %75, i32* %12
br label %80
77: ; preds = %67
%78 = load i32, i32* %9
%79 = add nsw i32 %78, 1
store i32 %79, i32* %9
br label %37
80: ; preds = %74, %37
%81 = load i32, i32* %12
%82 = icmp sge i32 %81, 0
br i1 %82, label %83, label %84
83: ; preds = %80
br label %95
84: ; preds = %80
%85 = load i32*, i32** %15
%86 = load i32, i32* %6
%87 = load i32, i32* %8
%88 = sdiv i32 %86, %87
%89 = call i32 (i32*, i32, ...) bitcast (i32 (...)* @calcKeyBytes to i32 (i32*, i32, ...)*)(i32* %85, i32 %88)
%90 = sitofp i32 %89 to double
%91 = load double*, double** %14
%92 = load i32, i32* %11
%93 = sext i32 %92 to i64
%94 = getelementptr inbounds double, double* %91, i64 %93
store double %90, double* %94
br label %95
95: ; preds = %84, %83
%96 = load i32, i32* %11
%97 = add nsw i32 %96, 1
store i32 %97, i32* %11
br label %29
98: ; preds = %29
store double 0.000000e+00, double* %13
store i32 0, i32* %12
%99 = load i32, i32* %10
%100 = call i32 (i8*, ...) @printf(i8* getelementptr inbounds ([36 x i8], [36 x i8]* @.str, i64 0, i64 0), i32 %99)
store i32 0, i32* %11
br label %101
101: ; preds = %127, %98
%102 = load i32, i32* %11
%103 = icmp slt i32 %102, 256
br i1 %103, label %104, label %130
104: ; preds = %101
%105 = load double*, double** %14
%106 = load i32, i32* %11
%107 = sext i32 %106 to i64
%108 = getelementptr inbounds double, double* %105, i64 %107
%109 = load double, double* %108
%110 = load double, double* %13
%111 = fcmp ogt double %109, %110
br i1 %111, label %112, label %126
112: ; preds = %104
%113 = load double*, double** %14
%114 = load i32, i32* %11
%115 = sext i32 %114 to i64
%116 = getelementptr inbounds double, double* %113, i64 %115
%117 = load double, double* %116
store double %117, double* %13
%118 = load double, double* %13
%119 = fcmp ogt double %118, 5.800000e-02
br i1 %119, label %120, label %124
120: ; preds = %112
%121 = load i32, i32* %11
%122 = load double, double* %13
%123 = call i32 (i8*, ...) @printf(i8* getelementptr inbounds ([13 x i8], [13 x i8]* @.str.1, i64 0, i64 0), i32 %121, double %122)
br label %124
124: ; preds = %120, %112
%125 = load i32, i32* %11
store i32 %125, i32* %12
store i32 256, i32* %9
br label %126
126: ; preds = %124, %104
br label %127
127: ; preds = %126
%128 = load i32, i32* %11
%129 = add nsw i32 %128, 1
store i32 %129, i32* %11
br label %101
130: ; preds = %101
%131 = load i32, i32* %12
%132 = load i32*, i32** %7
%133 = load i32, i32* %10
%134 = sext i32 %133 to i64
%135 = getelementptr inbounds i32, i32* %132, i64 %134
store i32 %131, i32* %135
br label %136
136: ; preds = %130
%137 = load i32, i32* %10
%138 = add nsw i32 %137, 1
store i32 %138, i32* %10
br label %24
139: ; preds = %24
%140 = load i32*, i32** %15
%141 = bitcast i32* %140 to i8*
%142 = load double*, double** %14
%143 = bitcast double* %142 to i8*
ret void
}

LLVM IR (-O2):
@.str = [36 x i8] c"\0Afor byte %d more probability are:\0A\00"
@.str.1 = [13 x i8] c"%3d (%6.5f) \00"
define void @findKey(i32* nocapture %0, i32 %1, i32* nocapture writeonly %2, i32 %3) {
%5 = tail call dereferenceable_or_null(2048) i8* @calloc(i64 256, i64 8)
%6 = bitcast i8* %5 to double*
%7 = sdiv i32 %1, %3
%8 = sext i32 %7 to i64
%9 = tail call i8* @calloc(i64 %8, i64 4)
%10 = bitcast i8* %9 to i32*
%11 = icmp sgt i32 %3, 0
br i1 %11, label %12, label %70
12: ; preds = %4
%13 = zext i32 %3 to i64
%14 = sext i32 %1 to i64
%15 = zext i32 %3 to i64
br label %16
16: ; preds = %12, %66
%17 = phi i64 [ 0, %12 ], [ %68, %66 ]
%18 = icmp sgt i64 %17, %14
%19 = trunc i64 %17 to i32
br label %20
20: ; preds = %16, %44
%21 = phi i64 [ 0, %16 ], [ %45, %44 ]
%22 = getelementptr inbounds double, double* %6, i64 %21
store double 0.000000e+00, double* %22
br i1 %18, label %41, label %23
23: ; preds = %20
%24 = trunc i64 %21 to i32
br label %29
25: ; preds = %29
%26 = mul nsw i64 %40, %13
%27 = add nsw i64 %26, %17
%28 = icmp sgt i64 %27, %14
br i1 %28, label %41, label %29
29: ; preds = %23, %25
%30 = phi i64 [ 0, %23 ], [ %40, %25 ]
%31 = phi i64 [ %17, %23 ], [ %27, %25 ]
%32 = shl i64 %31, 32
%33 = ashr exact i64 %32, 32
%34 = getelementptr inbounds i32, i32* %0, i64 %33
%35 = load i32, i32* %34
%36 = xor i32 %35, %24
%37 = getelementptr inbounds i32, i32* %10, i64 %30
store i32 %36, i32* %37
%38 = add i32 %36, -128
%39 = icmp ult i32 %38, -96
%40 = add nuw i64 %30, 1
br i1 %39, label %44, label %25
41: ; preds = %25, %20
%42 = tail call i32 (i32*, i32, ...) bitcast (i32 (...)* @calcKeyBytes to i32 (i32*, i32, ...)*)(i32* %10, i32 %7)
%43 = sitofp i32 %42 to double
store double %43, double* %22
br label %44
44: ; preds = %29, %41
%45 = add nuw nsw i64 %21, 1
%46 = icmp eq i64 %45, 256
br i1 %46, label %47, label %20
47: ; preds = %44
%48 = tail call i32 (i8*, ...) @printf(i8* dereferenceable(1) getelementptr inbounds ([36 x i8], [36 x i8]* @.str, i64 0, i64 0), i32 %19)
br label %49
49: ; preds = %47, %61
%50 = phi i64 [ 0, %47 ], [ %64, %61 ]
%51 = phi double [ 0.000000e+00, %47 ], [ %63, %61 ]
%52 = phi i32 [ 0, %47 ], [ %62, %61 ]
%53 = getelementptr inbounds double, double* %6, i64 %50
%54 = load double, double* %53
%55 = fcmp ogt double %54, %51
br i1 %55, label %56, label %61
56: ; preds = %49
%57 = fcmp ogt double %54, 5.800000e-02
%58 = trunc i64 %50 to i32
br i1 %57, label %59, label %61
59: ; preds = %56
%60 = tail call i32 (i8*, ...) @printf(i8* dereferenceable(1) getelementptr inbounds ([13 x i8], [13 x i8]* @.str.1, i64 0, i64 0), i32 %58, double %54)
br label %61
61: ; preds = %56, %59, %49
%62 = phi i32 [ %52, %49 ], [ %58, %59 ], [ %58, %56 ]
%63 = phi double [ %51, %49 ], [ %54, %59 ], [ %54, %56 ]
%64 = add nuw nsw i64 %50, 1
%65 = icmp eq i64 %64, 256
br i1 %65, label %66, label %49
66: ; preds = %61
%67 = getelementptr inbounds i32, i32* %2, i64 %17
store i32 %62, i32* %67
%68 = add nuw nsw i64 %17, 1
%69 = icmp eq i64 %68, %15
br i1 %69, label %70, label %16
70: ; preds = %66, %4
tail call void @free(i8* %9)
tail call void @free(i8* %5)
ret void
}