Detect invalid imgformats for DefineBitsLossless tags