int encode_cmd(char *incmd, char inlen, char **enccmd, char *enclen) {
  unsigned char i, j;
  char n;
  static char _enccmd[(3 / 2) + (3 % 2)];
  *enclen = (inlen / 2) + (inlen % 2);
  *enccmd = _enccmd;
  if (inlen > 3) {
    return -1;
  }
  j = 0;
  for (i = 0; i < inlen; i++) {
    n = incmd[i] - 48;
    if (n > 8) {
      return -2;
    }
    if (0 == n) {
      n = 1;
    } else {
      n = (n - 1) << 1;
    }
    if ((0 == (i & 1))) {
      (*enccmd)[j] = (0x0F & n);
    } else {
      (*enccmd)[j] |= (n << 4);
      j++;
    }
  }
  for (i = 0; i < ((*enclen) / 2); i++) {
    n = (*enccmd)[i];
    (*enccmd)[i] = (*enccmd)[((*enclen) - 1) - i];
    (*enccmd)[((*enclen) - 1) - i] = n;
  }
  return 0;
}


x86 assembly (clang, -O0):
<encode_cmd>:
push   %rbp
mov    %rsp,%rbp
mov    %sil,%al
mov    %rdi,-0x10(%rbp)
mov    %al,-0x11(%rbp)
mov    %rdx,-0x20(%rbp)
mov    %rcx,-0x28(%rbp)
movsbl -0x11(%rbp),%eax
mov    $0x2,%ecx
cltd
idiv   %ecx
mov    %eax,-0x30(%rbp)
movsbl -0x11(%rbp),%eax
mov    $0x2,%ecx
cltd
idiv   %ecx
mov    -0x30(%rbp),%eax
add    %edx,%eax
mov    %al,%cl
mov    -0x28(%rbp),%rax
mov    %cl,(%rax)
mov    -0x20(%rbp),%rax
lea    0x2ed8(%rip),%rcx
mov    %rcx,(%rax)
movsbl -0x11(%rbp),%eax
cmp    $0x3,%eax
jle    1165 <encode_cmd+0x65>
movl   $0xffffffff,-0x4(%rbp)
jmp    12c5 <encode_cmd+0x1c5>
movb   $0x0,-0x2a(%rbp)
movb   $0x0,-0x29(%rbp)
movzbl -0x29(%rbp),%eax
movsbl -0x11(%rbp),%ecx
cmp    %ecx,%eax
jge    122e <encode_cmd+0x12e>
mov    -0x10(%rbp),%rax
movzbl -0x29(%rbp),%ecx
movsbl (%rax,%rcx,1),%eax
sub    $0x30,%eax
mov    %al,-0x2b(%rbp)
movsbl -0x2b(%rbp),%eax
cmp    $0x8,%eax
jle    11a8 <encode_cmd+0xa8>
movl   $0xfffffffe,-0x4(%rbp)
jmp    12c5 <encode_cmd+0x1c5>
movsbl -0x2b(%rbp),%ecx
xor    %eax,%eax
cmp    %ecx,%eax
jne    11bf <encode_cmd+0xbf>
movb   $0x1,-0x2b(%rbp)
jmp    11cc <encode_cmd+0xcc>
movsbl -0x2b(%rbp),%eax
sub    $0x1,%eax
shl    $0x1,%eax
mov    %al,-0x2b(%rbp)
movzbl -0x29(%rbp),%ecx
and    $0x1,%ecx
xor    %eax,%eax
cmp    %ecx,%eax
jne    11f9 <encode_cmd+0xf9>
movsbl -0x2b(%rbp),%eax
and    $0xf,%eax
mov    %al,%dl
mov    -0x20(%rbp),%rax
mov    (%rax),%rax
movzbl -0x2a(%rbp),%ecx
mov    %dl,(%rax,%rcx,1)
jmp    121c <encode_cmd+0x11c>
movsbl -0x2b(%rbp),%esi
shl    $0x4,%esi
mov    -0x20(%rbp),%rax
mov    (%rax),%rax
movzbl -0x2a(%rbp),%ecx
movsbl (%rax,%rcx,1),%edx
or     %esi,%edx
mov    %dl,(%rax,%rcx,1)
mov    -0x2a(%rbp),%al
add    $0x1,%al
mov    %al,-0x2a(%rbp)
jmp    1221 <encode_cmd+0x121>
mov    -0x29(%rbp),%al
add    $0x1,%al
mov    %al,-0x29(%rbp)
jmp    116d <encode_cmd+0x6d>
movb   $0x0,-0x29(%rbp)
movzbl -0x29(%rbp),%eax
mov    %eax,-0x34(%rbp)
mov    -0x28(%rbp),%rax
movsbl (%rax),%eax
mov    $0x2,%ecx
cltd
idiv   %ecx
mov    %eax,%ecx
mov    -0x34(%rbp),%eax
cmp    %ecx,%eax
jge    12be <encode_cmd+0x1be>
mov    -0x20(%rbp),%rax
mov    (%rax),%rax
movzbl -0x29(%rbp),%ecx
mov    (%rax,%rcx,1),%al
mov    %al,-0x2b(%rbp)
mov    -0x20(%rbp),%rax
mov    (%rax),%rax
mov    -0x28(%rbp),%rcx
movsbl (%rcx),%ecx
sub    $0x1,%ecx
movzbl -0x29(%rbp),%edx
sub    %edx,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,1),%dl
mov    -0x20(%rbp),%rax
mov    (%rax),%rax
movzbl -0x29(%rbp),%ecx
mov    %dl,(%rax,%rcx,1)
mov    -0x2b(%rbp),%dl
mov    -0x20(%rbp),%rax
mov    (%rax),%rax
mov    -0x28(%rbp),%rcx
movsbl (%rcx),%ecx
sub    $0x1,%ecx
movzbl -0x29(%rbp),%esi
sub    %esi,%ecx
movslq %ecx,%rcx
mov    %dl,(%rax,%rcx,1)
mov    -0x29(%rbp),%al
add    $0x1,%al
mov    %al,-0x29(%rbp)
jmp    1232 <encode_cmd+0x132>
movl   $0x0,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<encode_cmd>:
push   %rbx
mov    %esi,%eax
shr    $0x7,%al
add    %sil,%al
mov    %eax,%ebx
and    $0xfe,%bl
mov    %esi,%r8d
sub    %bl,%r8b
sar    %al
add    %r8b,%al
mov    %al,(%rcx)
lea    0x2eff(%rip),%rax
mov    %rax,(%rdx)
mov    $0xffffffff,%eax
cmp    $0x3,%sil
jg     1210 <encode_cmd+0x110>
test   %sil,%sil
jle    11a4 <encode_cmd+0xa4>
xor    %ebx,%ebx
mov    $0x1,%r8d
xor    %r9d,%r9d
jmp    116c <encode_cmd+0x6c>
cs nopw 0x0(%rax,%rax,1)
shl    $0x4,%r10b
mov    (%rdx),%rax
or     %r10b,(%rax,%r11,1)
add    $0x1,%r11b
mov    %r11d,%r9d
add    $0x1,%ebx
movzbl %bl,%ebx
cmp    %esi,%ebx
jae    11a4 <encode_cmd+0xa4>
mov    %ebx,%eax
movzbl (%rdi,%rax,1),%eax
add    $0xd0,%al
cmp    $0x8,%al
jg     1212 <encode_cmd+0x112>
lea    (%rax,%rax,1),%r10d
add    $0xfe,%r10b
test   %al,%al
movzbl %r10b,%r10d
cmove  %r8d,%r10d
movzbl %r9b,%r11d
test   $0x1,%bl
jne    1150 <encode_cmd+0x50>
and    $0xf,%r10b
mov    (%rdx),%rax
mov    %r10b,(%rax,%r11,1)
jmp    1162 <encode_cmd+0x62>
mov    (%rcx),%dil
xor    %eax,%eax
cmp    $0x2,%dil
jl     1210 <encode_cmd+0x110>
xor    %eax,%eax
xor    %esi,%esi
cs nopw 0x0(%rax,%rax,1)
nopl   (%rax)
movsbl %dil,%edi
mov    (%rdx),%r10
mov    %esi,%r8d
movzbl (%r10,%r8,1),%r9d
mov    %esi,%r11d
not    %r11d
add    %r11d,%edi
movslq %edi,%rdi
movzbl (%r10,%rdi,1),%ebx
mov    %bl,(%r10,%r8,1)
mov    (%rdx),%r8
movsbq (%rcx),%rbx
movslq %r11d,%rdi
add    %rbx,%rdi
mov    %r9b,(%r8,%rdi,1)
add    $0x1,%esi
movzbl %sil,%esi
movzbl (%rcx),%edi
mov    %edi,%ebx
shr    $0x7,%bl
add    %dil,%bl
sar    %bl
movsbl %bl,%ebx
cmp    %ebx,%esi
jl     11c0 <encode_cmd+0xc0>
pop    %rbx
ret
mov    $0xfffffffe,%eax
pop    %rbx
ret

LLVM IR (-O0):
@encode_cmd._enccmd = internal global [2 x i8] zeroinitializer
define i32 @encode_cmd(i8* %0, i8 signext %1, i8** %2, i8* %3) {
%5 = alloca i32
%6 = alloca i8*
%7 = alloca i8
%8 = alloca i8**
%9 = alloca i8*
%10 = alloca i8
%11 = alloca i8
%12 = alloca i8
store i8* %0, i8** %6
store i8 %1, i8* %7
store i8** %2, i8*** %8
store i8* %3, i8** %9
%13 = load i8, i8* %7
%14 = sext i8 %13 to i32
%15 = sdiv i32 %14, 2
%16 = load i8, i8* %7
%17 = sext i8 %16 to i32
%18 = srem i32 %17, 2
%19 = add nsw i32 %15, %18
%20 = trunc i32 %19 to i8
%21 = load i8*, i8** %9
store i8 %20, i8* %21
%22 = load i8**, i8*** %8
store i8* getelementptr inbounds ([2 x i8], [2 x i8]* @encode_cmd._enccmd, i64 0, i64 0), i8** %22
%23 = load i8, i8* %7
%24 = sext i8 %23 to i32
%25 = icmp sgt i32 %24, 3
br i1 %25, label %26, label %27
26: ; preds = %4
store i32 -1, i32* %5
br label %141
27: ; preds = %4
store i8 0, i8* %11
store i8 0, i8* %10
br label %28
28: ; preds = %89, %27
%29 = load i8, i8* %10
%30 = zext i8 %29 to i32
%31 = load i8, i8* %7
%32 = sext i8 %31 to i32
%33 = icmp slt i32 %30, %32
br i1 %33, label %34, label %92
34: ; preds = %28
%35 = load i8*, i8** %6
%36 = load i8, i8* %10
%37 = zext i8 %36 to i64
%38 = getelementptr inbounds i8, i8* %35, i64 %37
%39 = load i8, i8* %38
%40 = sext i8 %39 to i32
%41 = sub nsw i32 %40, 48
%42 = trunc i32 %41 to i8
store i8 %42, i8* %12
%43 = load i8, i8* %12
%44 = sext i8 %43 to i32
%45 = icmp sgt i32 %44, 8
br i1 %45, label %46, label %47
46: ; preds = %34
store i32 -2, i32* %5
br label %141
47: ; preds = %34
%48 = load i8, i8* %12
%49 = sext i8 %48 to i32
%50 = icmp eq i32 0, %49
br i1 %50, label %51, label %52
51: ; preds = %47
store i8 1, i8* %12
br label %58
52: ; preds = %47
%53 = load i8, i8* %12
%54 = sext i8 %53 to i32
%55 = sub nsw i32 %54, 1
%56 = shl i32 %55, 1
%57 = trunc i32 %56 to i8
store i8 %57, i8* %12
br label %58
58: ; preds = %52, %51
%59 = load i8, i8* %10
%60 = zext i8 %59 to i32
%61 = and i32 %60, 1
%62 = icmp eq i32 0, %61
br i1 %62, label %63, label %73
63: ; preds = %58
%64 = load i8, i8* %12
%65 = sext i8 %64 to i32
%66 = and i32 15, %65
%67 = trunc i32 %66 to i8
%68 = load i8**, i8*** %8
%69 = load i8*, i8** %68
%70 = load i8, i8* %11
%71 = zext i8 %70 to i64
%72 = getelementptr inbounds i8, i8* %69, i64 %71
store i8 %67, i8* %72
br label %88
73: ; preds = %58
%74 = load i8, i8* %12
%75 = sext i8 %74 to i32
%76 = shl i32 %75, 4
%77 = load i8**, i8*** %8
%78 = load i8*, i8** %77
%79 = load i8, i8* %11
%80 = zext i8 %79 to i64
%81 = getelementptr inbounds i8, i8* %78, i64 %80
%82 = load i8, i8* %81
%83 = sext i8 %82 to i32
%84 = or i32 %83, %76
%85 = trunc i32 %84 to i8
store i8 %85, i8* %81
%86 = load i8, i8* %11
%87 = add i8 %86, 1
store i8 %87, i8* %11
br label %88
88: ; preds = %73, %63
br label %89
89: ; preds = %88
%90 = load i8, i8* %10
%91 = add i8 %90, 1
store i8 %91, i8* %10
br label %28
92: ; preds = %28
store i8 0, i8* %10
br label %93
93: ; preds = %137, %92
%94 = load i8, i8* %10
%95 = zext i8 %94 to i32
%96 = load i8*, i8** %9
%97 = load i8, i8* %96
%98 = sext i8 %97 to i32
%99 = sdiv i32 %98, 2
%100 = icmp slt i32 %95, %99
br i1 %100, label %101, label %140
101: ; preds = %93
%102 = load i8**, i8*** %8
%103 = load i8*, i8** %102
%104 = load i8, i8* %10
%105 = zext i8 %104 to i64
%106 = getelementptr inbounds i8, i8* %103, i64 %105
%107 = load i8, i8* %106
store i8 %107, i8* %12
%108 = load i8**, i8*** %8
%109 = load i8*, i8** %108
%110 = load i8*, i8** %9
%111 = load i8, i8* %110
%112 = sext i8 %111 to i32
%113 = sub nsw i32 %112, 1
%114 = load i8, i8* %10
%115 = zext i8 %114 to i32
%116 = sub nsw i32 %113, %115
%117 = sext i32 %116 to i64
%118 = getelementptr inbounds i8, i8* %109, i64 %117
%119 = load i8, i8* %118
%120 = load i8**, i8*** %8
%121 = load i8*, i8** %120
%122 = load i8, i8* %10
%123 = zext i8 %122 to i64
%124 = getelementptr inbounds i8, i8* %121, i64 %123
store i8 %119, i8* %124
%125 = load i8, i8* %12
%126 = load i8**, i8*** %8
%127 = load i8*, i8** %126
%128 = load i8*, i8** %9
%129 = load i8, i8* %128
%130 = sext i8 %129 to i32
%131 = sub nsw i32 %130, 1
%132 = load i8, i8* %10
%133 = zext i8 %132 to i32
%134 = sub nsw i32 %131, %133
%135 = sext i32 %134 to i64
%136 = getelementptr inbounds i8, i8* %127, i64 %135
store i8 %125, i8* %136
br label %137
137: ; preds = %101
%138 = load i8, i8* %10
%139 = add i8 %138, 1
store i8 %139, i8* %10
br label %93
140: ; preds = %93
store i32 0, i32* %5
br label %141
141: ; preds = %140, %46, %26
%142 = load i32, i32* %5
ret i32 %142
}

LLVM IR (-O2):
@encode_cmd._enccmd = internal global [2 x i8] zeroinitializer
define i32 @encode_cmd(i8* nocapture %0, i8 signext %1, i8** nocapture %2, i8* nocapture %3) {
%5 = sext i8 %1 to i32
%6 = sdiv i8 %1, 2
%7 = srem i8 %1, 2
%8 = add nsw i8 %6, %7
store i8 %8, i8* %3
store i8* getelementptr inbounds ([2 x i8], [2 x i8]* @encode_cmd._enccmd, i64 0, i64 0), i8** %2
%9 = icmp sgt i8 %1, 3
br i1 %9, label %73, label %10
10: ; preds = %4
%11 = icmp sgt i8 %1, 0
br i1 %11, label %15, label %12
12: ; preds = %43, %10
%13 = load i8, i8* %3
%14 = icmp sgt i8 %13, 1
br i1 %14, label %48, label %73
15: ; preds = %10, %43
%16 = phi i32 [ %46, %43 ], [ 0, %10 ]
%17 = phi i8 [ %44, %43 ], [ 0, %10 ]
%18 = zext i32 %16 to i64
%19 = getelementptr inbounds i8, i8* %0, i64 %18
%20 = load i8, i8* %19
%21 = add i8 %20, -48
%22 = icmp sgt i8 %21, 8
br i1 %22, label %73, label %23
23: ; preds = %15
%24 = icmp eq i8 %21, 0
%25 = shl i8 %21, 1
%26 = add i8 %25, -2
%27 = select i1 %24, i8 1, i8 %26
%28 = and i32 %16, 1
%29 = icmp eq i32 %28, 0
br i1 %29, label %30, label %35
30: ; preds = %23
%31 = and i8 %27, 15
%32 = load i8*, i8** %2
%33 = zext i8 %17 to i64
%34 = getelementptr inbounds i8, i8* %32, i64 %33
store i8 %31, i8* %34
br label %43
35: ; preds = %23
%36 = shl i8 %27, 4
%37 = load i8*, i8** %2
%38 = zext i8 %17 to i64
%39 = getelementptr inbounds i8, i8* %37, i64 %38
%40 = load i8, i8* %39
%41 = or i8 %40, %36
store i8 %41, i8* %39
%42 = add i8 %17, 1
br label %43
43: ; preds = %30, %35
%44 = phi i8 [ %17, %30 ], [ %42, %35 ]
%45 = add nuw nsw i32 %16, 1
%46 = and i32 %45, 255
%47 = icmp ult i32 %46, %5
br i1 %47, label %15, label %12
48: ; preds = %12, %48
%49 = phi i8 [ %69, %48 ], [ %13, %12 ]
%50 = phi i32 [ %68, %48 ], [ 0, %12 ]
%51 = sext i8 %49 to i32
%52 = load i8*, i8** %2
%53 = zext i32 %50 to i64
%54 = getelementptr inbounds i8, i8* %52, i64 %53
%55 = load i8, i8* %54
%56 = xor i32 %50, -1
%57 = add nsw i32 %51, %56
%58 = sext i32 %57 to i64
%59 = getelementptr inbounds i8, i8* %52, i64 %58
%60 = load i8, i8* %59
store i8 %60, i8* %54
%61 = load i8*, i8** %2
%62 = load i8, i8* %3
%63 = sext i8 %62 to i32
%64 = add nsw i32 %63, %56
%65 = sext i32 %64 to i64
%66 = getelementptr inbounds i8, i8* %61, i64 %65
store i8 %55, i8* %66
%67 = add nuw nsw i32 %50, 1
%68 = and i32 %67, 255
%69 = load i8, i8* %3
%70 = sdiv i8 %69, 2
%71 = sext i8 %70 to i32
%72 = icmp slt i32 %68, %71
br i1 %72, label %48, label %73
73: ; preds = %15, %48, %12, %4
%74 = phi i32 [ -1, %4 ], [ 0, %12 ], [ 0, %48 ], [ -2, %15 ]
ret i32 %74
}