Faits: A. Le 21 février 2013, B._, a fait notifier à A._ un commandement de payer les sommes de 379 fr. 50, plus intérêts à 6% (recte: 5%) l'an dès le 1er décembre 2012, et 50 fr., sans intérêt, au titre de " (1) Primes LAMal: A._ xxxx (22-07-1951) 01-12-2012/31-12-2012 Fr. 379.50 (2) Frais administratifs " (poursuite n° xxxx de l'Office des poursuites du district de Morges). Le poursuivi n'a pas formé opposition. Dès lors que A._ était inscrit au registre du commerce en qualité de chef d'une raison individuelle, une commination de faillite lui a été notifiée le 11 avril 2013. B. Par acte du 28 juin 2013, la poursuivante a requis la faillite. Par jugement du 19 août 2013, statuant par défaut des deux parties, la Présidente du Tribunal d'arrondissement de La Côte a prononcé la faillite de A._, avec effet dès ce jour à 11h45. Le failli a recouru le 21 août 2013, produisant notamment la copie d'un ordre de paiement de 496 fr. 05 donné le 17 juillet 2013 en faveur de la poursuivante. Statuant le 4 décembre 2013, la Cour des poursuites et faillites du Tribunal cantonal du canton de Vaud (ci-après: la Cour des poursuites et faillites) a confirmé l'ouverture de la faillite, avec effet dès ce jour à 16h15. C. Par mémoire du 19 décembre 2013, A._ exerce un recours en matière civile au Tribunal fédéral contre cet arrêt. Il conclut à l'annulation de l'arrêt entrepris, principalement à sa réforme en ce sens que la faillite n'est pas prononcée et, subsidiairement, au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il n'a pas été requis de réponse sur le fond. D. Par ordonnance du 15 janvier 2014, le Président de la IIe Cour de droit civil a attribué l'effet suspensif au recours, en ce sens qu'aucun acte d'exécution de la décision attaquée ne doit être entrepris pendant la procédure fédérale.