А зачем держать неплатежеспособного квартиранта?  Что мешает, как перестал платить, сразу выгнать? Выгнать можно и в его отсутствии. Когда он ушел, поменять замок один, вынести вещи. Пусть обращается куда хочет. У вас доказательство есть, в договоре прописано, если арендатор не платит, то покидает квартиру.