isBST() validation