Les difficultés financières croissantes de Mitch Borden le conduisent à fermer le Smalls le . La période est difficile pour les petits clubs de jazz, qui souffrent de la baisse de fréquentation de l'après 11-septembre, et selon Mitch Borden de l'augmentation des loyers dans ce quartier de New York ainsi que du "smoking ban" qui interdit de fumer dans les lieux publics. A l'emplacement du Smalls s'ouvre un bar brésilien.