Fix layer checking in the Lua API.