int rs_set_field_size(unsigned char *data, unsigned long fieldsize) {
  switch (data[1] & 0x0f) {
  case 0x0D:
    if (fieldsize > 0xff)
      return -1;
    data[2] = fieldsize;
    return 0;
  case 0x0E:
    if (fieldsize > 0xfffful)
      return -1;
    data[2] = (fieldsize >> 8) & 0xff;
    data[3] = fieldsize & 0xff;
    return 0;
  case 0x0F:
    if (fieldsize > 0xfffffffful)
      return -1;
    data[2] = (fieldsize >> 24) & 0xff;
    data[3] = (fieldsize >> 16) & 0xff;
    data[4] = (fieldsize >> 8) & 0xff;
    data[5] = fieldsize & 0xff;
    return 0;
  default:
    if (fieldsize > 0x0C)
      return -1;
    data[1] = (data[1] & 0xf0) | fieldsize;
    return 0;
  }
}


x86 assembly (clang, -O0):
<rs_set_field_size>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x10(%rbp)
mov    %rsi,-0x18(%rbp)
mov    -0x10(%rbp),%rax
movzbl 0x1(%rax),%eax
and    $0xf,%eax
mov    %eax,-0x1c(%rbp)
sub    $0xd,%eax
je     114a <rs_set_field_size+0x4a>
jmp    1128 <rs_set_field_size+0x28>
mov    -0x1c(%rbp),%eax
sub    $0xe,%eax
je     117d <rs_set_field_size+0x7d>
jmp    1139 <rs_set_field_size+0x39>
mov    -0x1c(%rbp),%eax
sub    $0xf,%eax
je     11cd <rs_set_field_size+0xcd>
jmp    124c <rs_set_field_size+0x14c>
cmpq   $0xff,-0x18(%rbp)
jbe    1164 <rs_set_field_size+0x64>
movl   $0xffffffff,-0x4(%rbp)
jmp    1286 <rs_set_field_size+0x186>
mov    -0x18(%rbp),%rax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x2(%rax)
movl   $0x0,-0x4(%rbp)
jmp    1286 <rs_set_field_size+0x186>
cmpq   $0xffff,-0x18(%rbp)
jbe    1197 <rs_set_field_size+0x97>
movl   $0xffffffff,-0x4(%rbp)
jmp    1286 <rs_set_field_size+0x186>
mov    -0x18(%rbp),%rax
shr    $0x8,%rax
and    $0xff,%rax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x2(%rax)
mov    -0x18(%rbp),%rax
and    $0xff,%rax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x3(%rax)
movl   $0x0,-0x4(%rbp)
jmp    1286 <rs_set_field_size+0x186>
mov    $0xffffffff,%eax
cmp    %rax,-0x18(%rbp)
jbe    11e8 <rs_set_field_size+0xe8>
movl   $0xffffffff,-0x4(%rbp)
jmp    1286 <rs_set_field_size+0x186>
mov    -0x18(%rbp),%rax
shr    $0x18,%rax
and    $0xff,%rax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x2(%rax)
mov    -0x18(%rbp),%rax
shr    $0x10,%rax
and    $0xff,%rax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x3(%rax)
mov    -0x18(%rbp),%rax
shr    $0x8,%rax
and    $0xff,%rax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x4(%rax)
mov    -0x18(%rbp),%rax
and    $0xff,%rax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x5(%rax)
movl   $0x0,-0x4(%rbp)
jmp    1286 <rs_set_field_size+0x186>
cmpq   $0xc,-0x18(%rbp)
jbe    1263 <rs_set_field_size+0x163>
movl   $0xffffffff,-0x4(%rbp)
jmp    1286 <rs_set_field_size+0x186>
mov    -0x10(%rbp),%rax
movzbl 0x1(%rax),%eax
and    $0xf0,%eax
cltq
or     -0x18(%rbp),%rax
mov    %al,%cl
mov    -0x10(%rbp),%rax
mov    %cl,0x1(%rax)
movl   $0x0,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<rs_set_field_size>:
movzbl 0x1(%rdi),%ecx
mov    %ecx,%eax
and    $0xf,%eax
cmp    $0xf,%eax
je     112c <rs_set_field_size+0x2c>
cmp    $0xe,%eax
je     1141 <rs_set_field_size+0x41>
cmp    $0xd,%eax
jne    1159 <rs_set_field_size+0x59>
mov    $0xffffffff,%eax
cmp    $0xff,%rsi
ja     116f <rs_set_field_size+0x6f>
mov    %sil,0x2(%rdi)
jmp    116d <rs_set_field_size+0x6d>
mov    %rsi,%rax
shr    $0x20,%rax
mov    $0xffffffff,%eax
jne    116f <rs_set_field_size+0x6f>
bswap  %esi
mov    %esi,0x2(%rdi)
jmp    116d <rs_set_field_size+0x6d>
mov    $0xffffffff,%eax
cmp    $0xffff,%rsi
ja     116f <rs_set_field_size+0x6f>
rol    $0x8,%si
mov    %si,0x2(%rdi)
jmp    116d <rs_set_field_size+0x6d>
mov    $0xffffffff,%eax
cmp    $0xc,%rsi
ja     116f <rs_set_field_size+0x6f>
and    $0xfffffff0,%ecx
or     %ecx,%esi
mov    %sil,0x1(%rdi)
xor    %eax,%eax
ret

LLVM IR (-O0):
define i32 @rs_set_field_size(i8* %0, i64 %1) {
%3 = alloca i32
%4 = alloca i8*
%5 = alloca i64
store i8* %0, i8** %4
store i64 %1, i64* %5
%6 = load i8*, i8** %4
%7 = getelementptr inbounds i8, i8* %6, i64 1
%8 = load i8, i8* %7
%9 = zext i8 %8 to i32
%10 = and i32 %9, 15
switch i32 %10, label %64 [
i32 13, label %11
i32 14, label %20
i32 15, label %36
]
11: ; preds = %2
%12 = load i64, i64* %5
%13 = icmp ugt i64 %12, 255
br i1 %13, label %14, label %15
14: ; preds = %11
store i32 -1, i32* %3
br label %80
15: ; preds = %11
%16 = load i64, i64* %5
%17 = trunc i64 %16 to i8
%18 = load i8*, i8** %4
%19 = getelementptr inbounds i8, i8* %18, i64 2
store i8 %17, i8* %19
store i32 0, i32* %3
br label %80
20: ; preds = %2
%21 = load i64, i64* %5
%22 = icmp ugt i64 %21, 65535
br i1 %22, label %23, label %24
23: ; preds = %20
store i32 -1, i32* %3
br label %80
24: ; preds = %20
%25 = load i64, i64* %5
%26 = lshr i64 %25, 8
%27 = and i64 %26, 255
%28 = trunc i64 %27 to i8
%29 = load i8*, i8** %4
%30 = getelementptr inbounds i8, i8* %29, i64 2
store i8 %28, i8* %30
%31 = load i64, i64* %5
%32 = and i64 %31, 255
%33 = trunc i64 %32 to i8
%34 = load i8*, i8** %4
%35 = getelementptr inbounds i8, i8* %34, i64 3
store i8 %33, i8* %35
store i32 0, i32* %3
br label %80
36: ; preds = %2
%37 = load i64, i64* %5
%38 = icmp ugt i64 %37, 4294967295
br i1 %38, label %39, label %40
39: ; preds = %36
store i32 -1, i32* %3
br label %80
40: ; preds = %36
%41 = load i64, i64* %5
%42 = lshr i64 %41, 24
%43 = and i64 %42, 255
%44 = trunc i64 %43 to i8
%45 = load i8*, i8** %4
%46 = getelementptr inbounds i8, i8* %45, i64 2
store i8 %44, i8* %46
%47 = load i64, i64* %5
%48 = lshr i64 %47, 16
%49 = and i64 %48, 255
%50 = trunc i64 %49 to i8
%51 = load i8*, i8** %4
%52 = getelementptr inbounds i8, i8* %51, i64 3
store i8 %50, i8* %52
%53 = load i64, i64* %5
%54 = lshr i64 %53, 8
%55 = and i64 %54, 255
%56 = trunc i64 %55 to i8
%57 = load i8*, i8** %4
%58 = getelementptr inbounds i8, i8* %57, i64 4
store i8 %56, i8* %58
%59 = load i64, i64* %5
%60 = and i64 %59, 255
%61 = trunc i64 %60 to i8
%62 = load i8*, i8** %4
%63 = getelementptr inbounds i8, i8* %62, i64 5
store i8 %61, i8* %63
store i32 0, i32* %3
br label %80
64: ; preds = %2
%65 = load i64, i64* %5
%66 = icmp ugt i64 %65, 12
br i1 %66, label %67, label %68
67: ; preds = %64
store i32 -1, i32* %3
br label %80
68: ; preds = %64
%69 = load i8*, i8** %4
%70 = getelementptr inbounds i8, i8* %69, i64 1
%71 = load i8, i8* %70
%72 = zext i8 %71 to i32
%73 = and i32 %72, 240
%74 = sext i32 %73 to i64
%75 = load i64, i64* %5
%76 = or i64 %74, %75
%77 = trunc i64 %76 to i8
%78 = load i8*, i8** %4
%79 = getelementptr inbounds i8, i8* %78, i64 1
store i8 %77, i8* %79
store i32 0, i32* %3
br label %80
80: ; preds = %68, %67, %40, %39, %24, %23, %15, %14
%81 = load i32, i32* %3
ret i32 %81
}

LLVM IR (-O2):
define i32 @rs_set_field_size(i8* nocapture %0, i64 %1) {
%3 = getelementptr inbounds i8, i8* %0, i64 1
%4 = load i8, i8* %3
%5 = zext i8 %4 to i32
%6 = and i32 %5, 15
switch i32 %6, label %34 [
i32 13, label %7
i32 14, label %12
i32 15, label %20
]
7: ; preds = %2
%8 = icmp ugt i64 %1, 255
br i1 %8, label %41, label %9
9: ; preds = %7
%10 = trunc i64 %1 to i8
%11 = getelementptr inbounds i8, i8* %0, i64 2
store i8 %10, i8* %11
br label %41
12: ; preds = %2
%13 = icmp ugt i64 %1, 65535
br i1 %13, label %41, label %14
14: ; preds = %12
%15 = lshr i64 %1, 8
%16 = trunc i64 %15 to i8
%17 = getelementptr inbounds i8, i8* %0, i64 2
store i8 %16, i8* %17
%18 = trunc i64 %1 to i8
%19 = getelementptr inbounds i8, i8* %0, i64 3
store i8 %18, i8* %19
br label %41
20: ; preds = %2
%21 = icmp ugt i64 %1, 4294967295
br i1 %21, label %41, label %22
22: ; preds = %20
%23 = lshr i64 %1, 24
%24 = trunc i64 %23 to i8
%25 = getelementptr inbounds i8, i8* %0, i64 2
store i8 %24, i8* %25
%26 = lshr i64 %1, 16
%27 = trunc i64 %26 to i8
%28 = getelementptr inbounds i8, i8* %0, i64 3
store i8 %27, i8* %28
%29 = lshr i64 %1, 8
%30 = trunc i64 %29 to i8
%31 = getelementptr inbounds i8, i8* %0, i64 4
store i8 %30, i8* %31
%32 = trunc i64 %1 to i8
%33 = getelementptr inbounds i8, i8* %0, i64 5
store i8 %32, i8* %33
br label %41
34: ; preds = %2
%35 = icmp ugt i64 %1, 12
br i1 %35, label %41, label %36
36: ; preds = %34
%37 = and i32 %5, 240
%38 = zext i32 %37 to i64
%39 = or i64 %38, %1
%40 = trunc i64 %39 to i8
store i8 %40, i8* %3
br label %41
41: ; preds = %34, %20, %12, %7, %36, %22, %14, %9
%42 = phi i32 [ 0, %36 ], [ 0, %22 ], [ 0, %14 ], [ 0, %9 ], [ -1, %7 ], [ -1, %12 ], [ -1, %20 ], [ -1, %34 ]
ret i32 %42
}