Masking sign extension - hexadecimal byte