char *hextostr(_s, ptr, _len, fixed)
char *_s;
void *ptr;
int _len;
int fixed;
{
  int len = _len;
  char *s = _s + len * 2;
  if (s && ptr) {
    int skip = 0;
    *s-- = 0;
    while (len) {
      char c = *(char *)ptr++;
      char digit;
      digit = c & 0xf;
      *s-- = digit >= 10 ? digit + 'A' - 10 : digit + '0';
      digit = (c >> 4) & 0xf;
      *s-- = digit >= 10 ? digit + 'A' - 10 : digit + '0';
      len--;
    }
    s = _s;
    while (*s) {
      if (*s != '0')
        break;
      skip++;
      s++;
    }
    s = _s;
    if (skip == (_len * 2))
      skip--;
    if (skip && !fixed)
      while (1) {
        *s = *(s + skip);
        if (!*s)
          break;
        s++;
      }
  }
  return _s;
}


x86 assembly (clang, -O0):
<hextostr>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %edx,-0x14(%rbp)
mov    %ecx,-0x18(%rbp)
mov    -0x14(%rbp),%eax
mov    %eax,-0x1c(%rbp)
mov    -0x8(%rbp),%rax
mov    -0x1c(%rbp),%ecx
shl    $0x1,%ecx
movslq %ecx,%rcx
add    %rcx,%rax
mov    %rax,-0x28(%rbp)
cmpq   $0x0,-0x28(%rbp)
je     12d9 <hextostr+0x1d9>
cmpq   $0x0,-0x10(%rbp)
je     12d9 <hextostr+0x1d9>
movl   $0x0,-0x2c(%rbp)
mov    -0x28(%rbp),%rax
mov    %rax,%rcx
add    $0xffffffffffffffff,%rcx
mov    %rcx,-0x28(%rbp)
movb   $0x0,(%rax)
cmpl   $0x0,-0x1c(%rbp)
je     121c <hextostr+0x11c>
mov    -0x10(%rbp),%rax
mov    %rax,%rcx
add    $0x1,%rcx
mov    %rcx,-0x10(%rbp)
mov    (%rax),%al
mov    %al,-0x2d(%rbp)
movsbl -0x2d(%rbp),%eax
and    $0xf,%eax
mov    %al,-0x2e(%rbp)
movsbl -0x2e(%rbp),%eax
cmp    $0xa,%eax
jl     11a2 <hextostr+0xa2>
movsbl -0x2e(%rbp),%eax
add    $0x41,%eax
sub    $0xa,%eax
mov    %eax,-0x34(%rbp)
jmp    11ac <hextostr+0xac>
movsbl -0x2e(%rbp),%eax
add    $0x30,%eax
mov    %eax,-0x34(%rbp)
mov    -0x34(%rbp),%eax
mov    %al,%cl
mov    -0x28(%rbp),%rax
mov    %rax,%rdx
add    $0xffffffffffffffff,%rdx
mov    %rdx,-0x28(%rbp)
mov    %cl,(%rax)
movsbl -0x2d(%rbp),%eax
sar    $0x4,%eax
and    $0xf,%eax
mov    %al,-0x2e(%rbp)
movsbl -0x2e(%rbp),%eax
cmp    $0xa,%eax
jl     11ee <hextostr+0xee>
movsbl -0x2e(%rbp),%eax
add    $0x41,%eax
sub    $0xa,%eax
mov    %eax,-0x38(%rbp)
jmp    11f8 <hextostr+0xf8>
movsbl -0x2e(%rbp),%eax
add    $0x30,%eax
mov    %eax,-0x38(%rbp)
mov    -0x38(%rbp),%eax
mov    %al,%cl
mov    -0x28(%rbp),%rax
mov    %rax,%rdx
add    $0xffffffffffffffff,%rdx
mov    %rdx,-0x28(%rbp)
mov    %cl,(%rax)
mov    -0x1c(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x1c(%rbp)
jmp    115b <hextostr+0x5b>
mov    -0x8(%rbp),%rax
mov    %rax,-0x28(%rbp)
mov    -0x28(%rbp),%rax
cmpb   $0x0,(%rax)
je     1260 <hextostr+0x160>
mov    -0x28(%rbp),%rax
movsbl (%rax),%eax
cmp    $0x30,%eax
je     1246 <hextostr+0x146>
jmp    1260 <hextostr+0x160>
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
mov    -0x28(%rbp),%rax
add    $0x1,%rax
mov    %rax,-0x28(%rbp)
jmp    1224 <hextostr+0x124>
mov    -0x8(%rbp),%rax
mov    %rax,-0x28(%rbp)
mov    -0x2c(%rbp),%eax
mov    -0x14(%rbp),%ecx
shl    $0x1,%ecx
cmp    %ecx,%eax
jne    1282 <hextostr+0x182>
mov    -0x2c(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x2c(%rbp)
cmpl   $0x0,-0x2c(%rbp)
je     12d4 <hextostr+0x1d4>
cmpl   $0x0,-0x18(%rbp)
jne    12d4 <hextostr+0x1d4>
jmp    129b <hextostr+0x19b>
mov    -0x28(%rbp),%rax
movslq -0x2c(%rbp),%rcx
mov    (%rax,%rcx,1),%cl
mov    -0x28(%rbp),%rax
mov    %cl,(%rax)
mov    -0x28(%rbp),%rax
cmpb   $0x0,(%rax)
jne    12be <hextostr+0x1be>
jmp    12cf <hextostr+0x1cf>
mov    -0x28(%rbp),%rax
add    $0x1,%rax
mov    %rax,-0x28(%rbp)
jmp    129b <hextostr+0x19b>
jmp    12d4 <hextostr+0x1d4>
jmp    12d9 <hextostr+0x1d9>
mov    -0x8(%rbp),%rax
pop    %rbp
ret

x86 assembly (clang, -O2):
<hextostr>:
push   %r15
push   %r14
push   %rbx
mov    %rdi,%rax
test   %rdi,%rdi
je     121e <hextostr+0x11e>
test   %rsi,%rsi
je     121e <hextostr+0x11e>
lea    (%rdx,%rdx,1),%r8d
movslq %r8d,%rbx
lea    (%rax,%rbx,1),%r9
movb   $0x0,(%r9)
test   %edx,%edx
je     11cb <hextostr+0xcb>
lea    -0x1(%r9),%r10
lea    -0x1(%rdx),%r11d
cmp    $0x7,%r11d
jb     1167 <hextostr+0x67>
sub    %r11,%rbx
sub    %r11,%rbx
lea    (%rbx,%rax,1),%rdi
add    $0xfffffffffffffffe,%rdi
lea    (%r11,%rsi,1),%rbx
add    $0x1,%rbx
cmp    %rbx,%rdi
jae    1224 <hextostr+0x124>
cmp    %rsi,%r9
jbe    1224 <hextostr+0x124>
mov    %rsi,%r9
mov    %r10,%r15
mov    %edx,%r10d
xor    %esi,%esi
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
movzbl (%r9,%rsi,1),%ebx
mov    %ebx,%edx
and    $0xf,%dl
lea    0x37(%rdx),%r11d
lea    0x30(%rdx),%edi
cmp    $0xa,%dl
movzbl %r11b,%edx
movzbl %dil,%edi
cmovae %edx,%edi
mov    %dil,(%r15)
mov    %ebx,%edx
shr    $0x4,%dl
lea    0x37(%rdx),%edi
or     $0x30,%dl
cmp    $0xa0,%bl
movzbl %dil,%edi
movzbl %dl,%edx
cmovae %edi,%edx
mov    %dl,-0x1(%r15)
add    $0x1,%rsi
add    $0xfffffffffffffffe,%r15
cmp    %esi,%r10d
jne    1180 <hextostr+0x80>
xor    %edx,%edx
cmpb   $0x30,(%rax)
jne    11eb <hextostr+0xeb>
xor    %edx,%edx
cs nopw 0x0(%rax,%rax,1)
xchg   %ax,%ax
cmpb   $0x30,0x1(%rax,%rdx,1)
lea    0x1(%rdx),%rdx
je     11e0 <hextostr+0xe0>
xor    %esi,%esi
cmp    %r8d,%edx
sete   %bl
test   %ecx,%ecx
jne    121e <hextostr+0x11e>
mov    %bl,%sil
sub    %esi,%edx
je     121e <hextostr+0x11e>
movslq %edx,%rcx
mov    %rax,%rdx
cs nopw 0x0(%rax,%rax,1)
xchg   %ax,%ax
movzbl (%rdx,%rcx,1),%ebx
mov    %bl,(%rdx)
add    $0x1,%rdx
test   %bl,%bl
jne    1210 <hextostr+0x110>
pop    %rbx
pop    %r14
pop    %r15
ret
add    $0x1,%r11
mov    %r11,%r14
and    $0xfffffffffffffff8,%r14
lea    (%rsi,%r14,1),%r9
mov    %r10,%r15
sub    %r14,%r15
sub    %r14,%r15
sub    %r14d,%edx
add    $0xfffffffffffffff1,%r10
xor    %ebx,%ebx
movdqa 0xdb2(%rip),%xmm8
movdqa 0xdb9(%rip),%xmm9
movdqa 0xdc1(%rip),%xmm2
movdqa 0xdc9(%rip),%xmm3
movdqa 0xdd0(%rip),%xmm10
movdqa 0xdd8(%rip),%xmm5
nopl   0x0(%rax,%rax,1)
movq   (%rsi,%rbx,1),%xmm0
movdqa %xmm0,%xmm7
movdqa %xmm0,%xmm6
pminub %xmm5,%xmm6
pcmpeqb %xmm0,%xmm6
pand   %xmm8,%xmm0
movdqa %xmm0,%xmm1
pminub %xmm9,%xmm1
pcmpeqb %xmm0,%xmm1
movdqa %xmm0,%xmm4
paddb  %xmm2,%xmm4
por    %xmm3,%xmm0
pand   %xmm1,%xmm0
pandn  %xmm4,%xmm1
por    %xmm0,%xmm1
psrlw  $0x4,%xmm7
pand   %xmm10,%xmm7
movdqa %xmm7,%xmm0
paddb  %xmm2,%xmm0
por    %xmm3,%xmm7
pand   %xmm6,%xmm7
pandn  %xmm0,%xmm6
por    %xmm7,%xmm6
punpcklbw %xmm1,%xmm6
pshufd $0x4e,%xmm6,%xmm0
pshuflw $0x1b,%xmm0,%xmm0
pshufhw $0x1b,%xmm0,%xmm0
movdqu %xmm0,(%r10)
add    $0x8,%rbx
add    $0xfffffffffffffff0,%r10
cmp    %rbx,%r14
jne    1280 <hextostr+0x180>
cmp    %r14,%r11
jne    116d <hextostr+0x6d>
jmp    11cb <hextostr+0xcb>

LLVM IR (-O0):
define i8* @hextostr(i8* %0, i8* %1, i32 %2, i32 %3) {
%5 = alloca i8*
%6 = alloca i8*
%7 = alloca i32
%8 = alloca i32
%9 = alloca i32
%10 = alloca i8*
%11 = alloca i32
%12 = alloca i8
%13 = alloca i8
store i8* %0, i8** %5
store i8* %1, i8** %6
store i32 %2, i32* %7
store i32 %3, i32* %8
%14 = load i32, i32* %7
store i32 %14, i32* %9
%15 = load i8*, i8** %5
%16 = load i32, i32* %9
%17 = mul nsw i32 %16, 2
%18 = sext i32 %17 to i64
%19 = getelementptr inbounds i8, i8* %15, i64 %18
store i8* %19, i8** %10
%20 = load i8*, i8** %10
%21 = icmp ne i8* %20, null
br i1 %21, label %22, label %129
22: ; preds = %4
%23 = load i8*, i8** %6
%24 = icmp ne i8* %23, null
br i1 %24, label %25, label %129
25: ; preds = %22
store i32 0, i32* %11
%26 = load i8*, i8** %10
%27 = getelementptr inbounds i8, i8* %26, i32 -1
store i8* %27, i8** %10
store i8 0, i8* %26
br label %28
28: ; preds = %73, %25
%29 = load i32, i32* %9
%30 = icmp ne i32 %29, 0
br i1 %30, label %31, label %80
31: ; preds = %28
%32 = load i8*, i8** %6
%33 = getelementptr inbounds i8, i8* %32, i32 1
store i8* %33, i8** %6
%34 = load i8, i8* %32
store i8 %34, i8* %12
%35 = load i8, i8* %12
%36 = sext i8 %35 to i32
%37 = and i32 %36, 15
%38 = trunc i32 %37 to i8
store i8 %38, i8* %13
%39 = load i8, i8* %13
%40 = sext i8 %39 to i32
%41 = icmp sge i32 %40, 10
br i1 %41, label %42, label %47
42: ; preds = %31
%43 = load i8, i8* %13
%44 = sext i8 %43 to i32
%45 = add nsw i32 %44, 65
%46 = sub nsw i32 %45, 10
br label %51
47: ; preds = %31
%48 = load i8, i8* %13
%49 = sext i8 %48 to i32
%50 = add nsw i32 %49, 48
br label %51
51: ; preds = %47, %42
%52 = phi i32 [ %46, %42 ], [ %50, %47 ]
%53 = trunc i32 %52 to i8
%54 = load i8*, i8** %10
%55 = getelementptr inbounds i8, i8* %54, i32 -1
store i8* %55, i8** %10
store i8 %53, i8* %54
%56 = load i8, i8* %12
%57 = sext i8 %56 to i32
%58 = ashr i32 %57, 4
%59 = and i32 %58, 15
%60 = trunc i32 %59 to i8
store i8 %60, i8* %13
%61 = load i8, i8* %13
%62 = sext i8 %61 to i32
%63 = icmp sge i32 %62, 10
br i1 %63, label %64, label %69
64: ; preds = %51
%65 = load i8, i8* %13
%66 = sext i8 %65 to i32
%67 = add nsw i32 %66, 65
%68 = sub nsw i32 %67, 10
br label %73
69: ; preds = %51
%70 = load i8, i8* %13
%71 = sext i8 %70 to i32
%72 = add nsw i32 %71, 48
br label %73
73: ; preds = %69, %64
%74 = phi i32 [ %68, %64 ], [ %72, %69 ]
%75 = trunc i32 %74 to i8
%76 = load i8*, i8** %10
%77 = getelementptr inbounds i8, i8* %76, i32 -1
store i8* %77, i8** %10
store i8 %75, i8* %76
%78 = load i32, i32* %9
%79 = add nsw i32 %78, -1
store i32 %79, i32* %9
br label %28
80: ; preds = %28
%81 = load i8*, i8** %5
store i8* %81, i8** %10
br label %82
82: ; preds = %92, %80
%83 = load i8*, i8** %10
%84 = load i8, i8* %83
%85 = icmp ne i8 %84, 0
br i1 %85, label %86, label %97
86: ; preds = %82
%87 = load i8*, i8** %10
%88 = load i8, i8* %87
%89 = sext i8 %88 to i32
%90 = icmp ne i32 %89, 48
br i1 %90, label %91, label %92
91: ; preds = %86
br label %97
92: ; preds = %86
%93 = load i32, i32* %11
%94 = add nsw i32 %93, 1
store i32 %94, i32* %11
%95 = load i8*, i8** %10
%96 = getelementptr inbounds i8, i8* %95, i32 1
store i8* %96, i8** %10
br label %82
97: ; preds = %91, %82
%98 = load i8*, i8** %5
store i8* %98, i8** %10
%99 = load i32, i32* %11
%100 = load i32, i32* %7
%101 = mul nsw i32 %100, 2
%102 = icmp eq i32 %99, %101
br i1 %102, label %103, label %106
103: ; preds = %97
%104 = load i32, i32* %11
%105 = add nsw i32 %104, -1
store i32 %105, i32* %11
br label %106
106: ; preds = %103, %97
%107 = load i32, i32* %11
%108 = icmp ne i32 %107, 0
br i1 %108, label %109, label %128
109: ; preds = %106
%110 = load i32, i32* %8
%111 = icmp ne i32 %110, 0
br i1 %111, label %128, label %112
112: ; preds = %109
br label %113
113: ; preds = %112, %124
%114 = load i8*, i8** %10
%115 = load i32, i32* %11
%116 = sext i32 %115 to i64
%117 = getelementptr inbounds i8, i8* %114, i64 %116
%118 = load i8, i8* %117
%119 = load i8*, i8** %10
store i8 %118, i8* %119
%120 = load i8*, i8** %10
%121 = load i8, i8* %120
%122 = icmp ne i8 %121, 0
br i1 %122, label %124, label %123
123: ; preds = %113
br label %127
124: ; preds = %113
%125 = load i8*, i8** %10
%126 = getelementptr inbounds i8, i8* %125, i32 1
store i8* %126, i8** %10
br label %113
127: ; preds = %123
br label %128
128: ; preds = %127, %109, %106
br label %129
129: ; preds = %128, %22, %4
%130 = load i8*, i8** %5
ret i8* %130
}

LLVM IR (-O2):
define i8* @hextostr(i8* returned %0, i8* %1, i32 %2, i32 %3) {
%5 = shl nsw i32 %2, 1
%6 = sext i32 %5 to i64
%7 = getelementptr i8, i8* %0, i64 %6
%8 = icmp ne i8* %0, null
%9 = icmp ne i8* %1, null
%10 = and i1 %8, %9
br i1 %10, label %11, label %115
11: ; preds = %4
store i8 0, i8* %7
%12 = icmp eq i32 %2, 0
br i1 %12, label %69, label %13
13: ; preds = %11
%14 = getelementptr inbounds i8, i8* %7, i64 -1
%15 = add i32 %2, -1
%16 = zext i32 %15 to i64
%17 = add nuw nsw i64 %16, 1
%18 = icmp ult i32 %15, 7
br i1 %18, label %65, label %19
19: ; preds = %13
%20 = add nsw i64 %6, -2
%21 = add i32 %2, -1
%22 = zext i32 %21 to i64
%23 = mul nsw i64 %22, -2
%24 = add nsw i64 %23, %20
%25 = getelementptr i8, i8* %0, i64 %24
%26 = add nuw nsw i64 %22, 1
%27 = getelementptr i8, i8* %1, i64 %26
%28 = icmp ult i8* %25, %27
%29 = icmp ugt i8* %7, %1
%30 = and i1 %28, %29
br i1 %30, label %65, label %31
31: ; preds = %19
%32 = and i64 %17, 8589934584
%33 = getelementptr i8, i8* %1, i64 %32
%34 = mul nsw i64 %32, -2
%35 = getelementptr i8, i8* %14, i64 %34
%36 = trunc i64 %32 to i32
%37 = sub i32 %2, %36
%38 = getelementptr i8, i8* %14, i64 -1
%39 = getelementptr inbounds i8, i8* %38, i64 -14
br label %40
40: ; preds = %40, %31
%41 = phi i64 [ 0, %31 ], [ %61, %40 ]
%42 = getelementptr i8, i8* %1, i64 %41
%43 = mul i64 %41, -2
%44 = bitcast i8* %42 to <8 x i8>*
%45 = load <8 x i8>, <8 x i8>* %44
%46 = and <8 x i8> %45, <i8 15, i8 15, i8 15, i8 15, i8 15, i8 15, i8 15, i8 15>
%47 = icmp ugt <8 x i8> %46, <i8 9, i8 9, i8 9, i8 9, i8 9, i8 9, i8 9, i8 9>
%48 = add nuw nsw <8 x i8> %46, <i8 55, i8 55, i8 55, i8 55, i8 55, i8 55, i8 55, i8 55>
%49 = or <8 x i8> %46, <i8 48, i8 48, i8 48, i8 48, i8 48, i8 48, i8 48, i8 48>
%50 = select <8 x i1> %47, <8 x i8> %48, <8 x i8> %49
%51 = lshr <8 x i8> %45, <i8 4, i8 4, i8 4, i8 4, i8 4, i8 4, i8 4, i8 4>
%52 = icmp ugt <8 x i8> %45, <i8 -97, i8 -97, i8 -97, i8 -97, i8 -97, i8 -97, i8 -97, i8 -97>
%53 = add nuw nsw <8 x i8> %51, <i8 55, i8 55, i8 55, i8 55, i8 55, i8 55, i8 55, i8 55>
%54 = or <8 x i8> %51, <i8 48, i8 48, i8 48, i8 48, i8 48, i8 48, i8 48, i8 48>
%55 = select <8 x i1> %52, <8 x i8> %53, <8 x i8> %54
%56 = getelementptr inbounds i8, i8* %39, i64 %43
%57 = bitcast i8* %56 to <16 x i8>*
%58 = shufflevector <8 x i8> %55, <8 x i8> poison, <8 x i32> <i32 7, i32 6, i32 5, i32 4, i32 3, i32 2, i32 1, i32 0>
%59 = shufflevector <8 x i8> %50, <8 x i8> poison, <8 x i32> <i32 7, i32 6, i32 5, i32 4, i32 3, i32 2, i32 1, i32 0>
%60 = shufflevector <8 x i8> %58, <8 x i8> %59, <16 x i32> <i32 0, i32 8, i32 1, i32 9, i32 2, i32 10, i32 3, i32 11, i32 4, i32 12, i32 5, i32 13, i32 6, i32 14, i32 7, i32 15>
store <16 x i8> %60, <16 x i8>* %57
%61 = add nuw i64 %41, 8
%62 = icmp eq i64 %61, %32
br i1 %62, label %63, label %40
63: ; preds = %40
%64 = icmp eq i64 %17, %32
br i1 %64, label %69, label %65
65: ; preds = %19, %13, %63
%66 = phi i8* [ %1, %19 ], [ %1, %13 ], [ %33, %63 ]
%67 = phi i8* [ %14, %19 ], [ %14, %13 ], [ %35, %63 ]
%68 = phi i32 [ %2, %19 ], [ %2, %13 ], [ %37, %63 ]
br label %72
69: ; preds = %72, %63, %11
%70 = load i8, i8* %0
%71 = icmp eq i8 %70, 48
br i1 %71, label %92, label %99
72: ; preds = %65, %72
%73 = phi i8* [ %76, %72 ], [ %66, %65 ]
%74 = phi i8* [ %89, %72 ], [ %67, %65 ]
%75 = phi i32 [ %90, %72 ], [ %68, %65 ]
%76 = getelementptr inbounds i8, i8* %73, i64 1
%77 = load i8, i8* %73
%78 = and i8 %77, 15
%79 = icmp ugt i8 %78, 9
%80 = add nuw nsw i8 %78, 55
%81 = or i8 %78, 48
%82 = select i1 %79, i8 %80, i8 %81
%83 = getelementptr inbounds i8, i8* %74, i64 -1
store i8 %82, i8* %74
%84 = lshr i8 %77, 4
%85 = icmp ugt i8 %77, -97
%86 = add nuw nsw i8 %84, 55
%87 = or i8 %84, 48
%88 = select i1 %85, i8 %86, i8 %87
%89 = getelementptr inbounds i8, i8* %74, i64 -2
store i8 %88, i8* %83
%90 = add nsw i32 %75, -1
%91 = icmp eq i32 %90, 0
br i1 %91, label %69, label %72
92: ; preds = %69, %92
%93 = phi i32 [ %95, %92 ], [ 0, %69 ]
%94 = phi i8* [ %96, %92 ], [ %0, %69 ]
%95 = add nuw nsw i32 %93, 1
%96 = getelementptr inbounds i8, i8* %94, i64 1
%97 = load i8, i8* %96
%98 = icmp eq i8 %97, 48
br i1 %98, label %92, label %99
99: ; preds = %92, %69
%100 = phi i32 [ 0, %69 ], [ %95, %92 ]
%101 = icmp eq i32 %100, %5
%102 = sext i1 %101 to i32
%103 = add nsw i32 %100, %102
%104 = icmp eq i32 %103, 0
%105 = icmp ne i32 %3, 0
%106 = or i1 %105, %104
br i1 %106, label %115, label %107
107: ; preds = %99
%108 = sext i32 %103 to i64
br label %109
109: ; preds = %109, %107
%110 = phi i8* [ %114, %109 ], [ %0, %107 ]
%111 = getelementptr inbounds i8, i8* %110, i64 %108
%112 = load i8, i8* %111
store i8 %112, i8* %110
%113 = icmp eq i8 %112, 0
%114 = getelementptr inbounds i8, i8* %110, i64 1
br i1 %113, label %115, label %109
115: ; preds = %109, %99, %4
ret i8* %0
}