Faits : A. Par décision du 15 septembre 2017, le Juge de paix du district du Jura-Nord vaudois a prononcé la mainlevée provisoire de l'opposition formée par A._ dans la poursuite ordinaire intentée par B._. Le 11 octobre 2017, A._ a déposé devant le Tribunal d'arrondissement de la Broye et du Nord vaudois une demande contre B._. Le 12 octobre 2017, le président du tribunal a indiqué à A._ que sa demande ne satisfaisait pas aux exigences de l'art. 221 CPC, notamment en raison de l'absence d'allégués et d'offres de preuves correspondantes; il lui a imparti un délai au 3 novembre 2017 pour corriger son acte, à défaut de quoi celui-ci ne serait pas pris en considération. Le 31 octobre 2017, A._ a déposé une nouvelle demande contre B._. Par jugement du 8 décembre 2017, le président du tribunal a déclaré irrecevable la demande dont il était saisi. Il a jugé que celle-ci ne satisfaisait toujours pas aux exigences de forme de l'art. 221 CPC relatives aux allégations de fait et aux offres de preuve correspondantes, dans la mesure où les allégués contenaient plusieurs faits à la fois, prenant souvent la forme d'une longue argumentation et que certains allégués n'étaient pas des faits, mais des appréciations. B. Le 23 janvier 2018, A._ a déposé une demande en libération de dette contre B._ et a conclu à la recevabilité de son action (I), à la constatation qu'il ne devait pas à B._ la somme restante de 34'500 fr. avec intérêts faisant l'objet du prononcé de mainlevée provisoire du 15 septembre 2017 (II) et à la condamnation de B._ à lui payer la somme de 39'500 fr. avec intérêts (III). Par jugement du 21 mars 2018, le Président du Tribunal d'arrondissement de la Broye et du Nord vaudois a déclaré la demande irrecevable. Il a considéré que le délai de vingt jours pour ouvrir action n'avait pas été respecté, dès lors que la mainlevée avait été prononcée le 15 septembre 2017, que le demandeur disait avoir reçu cette décision le 25 suivant, que le délai pour en solliciter la motivation était échu dix jours plus tard, soit le 5 octobre 2017, et celui pour ouvrir action au fond le 25 octobre 2017. Par arrêt du 10 août 2018, la Cour d'appel civile du Tribunal cantonal du canton de Vaud a rejeté l'appel du demandeur. Elle s'est prononcée exclusivement sur les conclusions tendant à ce que la demande soit déclarée recevable, celles tenant à l'admission de la demande étant dépourvues d'objet. C. A._ a déposé au Tribunal fédéral un mémoire intitulé "recours en matière de droit civil et recours constitutionnel subsidiaire". Ni B._, ni l'autorité précédente n'ont été invités à se déterminer. La demande d'effet suspensif du recourant a été rejetée, le recours apparaissant dénué de toute chance de succès.