add test for layer level encoding

mapserver/mapserver#4758