Faits :
A.
Par décision du 27 août 2013, le Tribunal civil du Littoral et du Val-de-Travers a prononcé la mainlevée définitive de l'opposition formée par A._ contre le commandement de payer, poursuite n° xxxx, que lui avait fait notifier le canton de Zurich, à concurrence de xxx fr. plus intérêts à 5% l'an dès le 27 août 2012. Statuant le 10 février 2014, l'Autorité de recours en matière civile du Tribunal cantonal du canton de Neuchâtel a déclaré irrecevable le recours interjeté par le poursuivi contre cette décision.
B.
Par acte du 21 février 2014, le poursuivi exerce un " recours " au Tribunal fédéral. Il conclut à l'annulation de l'arrêt entrepris et, en substance, à ce que la mainlevée de l'opposition ne soit pas prononcée. Il conclut également à ce que le présent arrêt ne soit pas publié, même sous forme anonyme, et à ce que l'arrêt 2C_1113/2012 soit retiré du site internet du Tribunal fédéral. Il requiert enfin l'assistance judiciaire pour la procédure fédérale.
Il n'a pas été requis de réponse sur le fond.
C.
Par ordonnance présidentielle du 10 avril 2014, la requête d'effet suspensif a été admise.

Considérant en droit :
1.
1.1. La décision qui prononce la mainlevée définitive de l'opposition est en principe sujette au recours en matière civile (<ref-law>; <ref-ruling> consid. 1.1 p. 521). En l'espèce, la valeur litigieuse n'atteint cependant pas le seuil de 30'000 fr. (<ref-law>), et le recourant n'allègue pas (<ref-law>) que la présente cause soulèverait une question juridique de principe (<ref-law>; cf. sur cette notion: <ref-ruling> consid. 1.2 p. 210 et la jurisprudence citée). Partant, seul le recours constitutionnel subsidiaire au sens des <ref-law> est ouvert. Les conditions de recevabilité sont remplies: le recours a été formé en temps utile (art. 100 al. 1 et 117 LTF) contre une décision finale (art. 90 et 117 LTF; <ref-ruling> consid. 1.4 p. 400) prise par un tribunal supérieur statuant sur recours (art. 75 et 114 LTF); le poursuivi, qui a succombé devant la cour cantonale, a qualité pour recourir (<ref-law>).
1.2. Le recourant soulève le grief de violation de l'<ref-law> en relation avec l'affaire 2C_1113/2012, et requiert le retrait de l'arrêt rendu dans cette affaire du site internet du Tribunal fédéral. Ce faisant, il perd de vue que ces questions ne concernent pas la décision entreprise, de sorte qu'elles ne sauraient être examinées dans le cadre du présent recours.
2.
2.1. S'agissant d'un recours formé pour violation des droits constitutionnels (<ref-law>), la partie recourante doit indiquer précisément quel droit constitutionnel aurait été violé et démontrer, par une argumentation circonstanciée, en quoi consiste la violation alléguée (art. 106 al. 2 et 117 LTF; <ref-ruling> consid. 3.2 p. 88; <ref-ruling> consid. 2.2 p. 246).
2.2. Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été retenus en violation d'un droit constitutionnel (art. 118 al. 2 et 116 LTF), ce que le recourant doit invoquer avec précision (<ref-law> applicable par le renvoi de l'<ref-law>).
Les faits et moyens de preuve nouveaux sont prohibés; il n'y a exception à cette règle que lorsque c'est la décision de l'autorité précédente qui, pour la première fois, a rendu pertinents ces faits ou moyens de preuve, ce qu'il appartient au recourant de démontrer (<ref-law>; <ref-ruling> consid. 3 p. 395). Le recourant ne peut pas alléguer des faits ou produire des moyens de preuve nouveaux pour contester l'état de fait retenu par l'autorité précédente alors qu'il était en mesure de les lui présenter, mais qu'il ne l'a pas fait, faute d'en avoir discerné la pertinence éventuelle (arrêt 5A_291/2013 du 27 janvier 2014 consid. 2.2 et les références). La possibilité de présenter des faits ou des moyens de preuve nouveaux en instance de recours fédérale est exceptionnelle et ne sert pas à corriger des omissions antérieures (arrêt 4A_18/2010 du 15 mars 2010 consid. 2.1 non publié in <ref-ruling>). Les pièces postérieures à l'arrêt entrepris sont en outre d'emblée irrecevables (<ref-ruling> consid. 3.1.2 p. 123; <ref-ruling> consid. 2.1 p. 343 s.).
3.
En vertu de l'<ref-law>, les décisions sont notifiées par envoi recommandé ou d'une autre manière contre accusé de réception (al. 1). La notification est accomplie lorsque l'acte est remis à son destinataire, à l'un de ses employés ou à une personne de son ménage âgée de seize ans au moins (al. 2). Le fardeau de la preuve de la notification d'un acte et de la date de celle-ci incombe en principe à l'autorité qui entend en tirer une conséquence juridique (<ref-ruling> consid. 5.9 p. 309; <ref-ruling> consid. 2.2 p. 10 et les références). Lorsque le destinataire de l'acte réside dans une institution, la notification en mains d'une personne majeure qui collabore à son exploitation doit être considérée comme valable (<ref-ruling> consid. 1 p. 7 à propos de la notification d'un commandement de payer selon l'<ref-law>; JULIA GSCHWEND/REMO BORNATICO, in Basler Kommentar Schweizerische Zivilprozessordnung, 2e éd., 2013, n° 12 ad <ref-law>, qui citent notamment le cas des personnes résidant dans un foyer, un hôpital ou une prison; ROGER WEBER, in Kurzkommentar Schweizerische Zivilprozessordnung, 2e éd. 2014, n° 8 ad <ref-law>).
4.
Il ressort de l'arrêt entrepris que le jugement du 27 août 2013 a été notifié au poursuivi le 5 novembre 2013, comme le démontre l'attestation de suivi des envois recommandés " track and trace " de La Poste suisse. Par conséquent, le délai de 10 jours pour recourir contre cette décision est arrivé à échéance le vendredi 15 novembre 2013. L'enveloppe qui contenait le recours du poursuivi, envoyée en recommandé, portait une étiquette d'expédition datée du 16 novembre 2013. Informé de la vraisemblable tardiveté de son recours par lettre du 27 novembre 2013, le poursuivi a payé l'avance de frais sollicitée sans présenter d'observations. Au vu de ces circonstances, la cour cantonale a considéré le recours comme irrecevable, car tardif. Elle a ajouté qu'au surplus, les arguments invoqués dans le recours étaient sans pertinence, car ils n'avaient pas trait à la procédure de mainlevée, mais au fond du litige; partant, même s'il avait été recevable, le recours, mal fondé, aurait quoi qu'il en soit été rejeté.
5.
Le recourant invoque la violation de son droit d'être entendu (art. 29 al. 2 Cst.), et mentionne les <ref-law>, 251 let. a, 321 al. 2, 142 al. 1 et 3, 143 et 68 al. 3 CPC, 45 LTF, 21 al. 1 et 3 et 29 ss PA.
5.1. Il expose, en substance, que comme il l'avait demandé, l'autorité de première instance a adressé le jugement du 27 août 2013, à son nom, au Centre d'enregistrement et de procédure de Bâle (CEP), où le pli est parvenu le 5 novembre 2013; toutefois, le jugement lui aurait été remis personnellement le 6 novembre 2013 seulement. Partant, son recours daté du 15 novembre 2013, mais expédié le 16 novembre 2013, ne serait pas tardif.
5.2. En tant qu'il prétend que le jugement lui aurait été remis personnellement le 6 novembre 2013, il apparaît que le recourant fonde sa critique sur des faits qui ne ressortent pas de l'arrêt entrepris, celui-ci retenant en effet que le jugement de première instance a été notifié au poursuivi le 5 novembre 2013. Il présente donc des faits nouveaux, qu'il aurait pourtant eu la possibilité d'invoquer devant l'autorité cantonale, celle-ci l'ayant informé de la vraisemblable tardiveté de son recours par lettre du 27 novembre 2013, sans qu'il ne présente toutefois d'observations sur ce point. Les explications et les pièces qu'il fournit pour la première fois en instance fédérale sont par conséquent irrecevables; le recourant ne prétend d'ailleurs pas, ni a fortiori ne démontre, que ces éléments seraient admissibles au regard de l'<ref-law> (cf. supra consid. 2.2). Quant aux griefs de violation du droit fédéral qu'il présente, ils sont en soi irrecevables, puisqu'ils ne sont pas d'ordre constitutionnel (cf. supra consid. 2.1). La critique relative à l'art. 29 al. 2 Cst. l'est également, dès lors que, fondée sur des faits qui ne sont pas établis, elle ne satisfait pas à l'exigence de motivation requise (cf. supra consid. 2.1).
5.3. Au demeurant, il faut souligner que même s'il avait retenu que le jugement avait été notifié, le 5 novembre 2013, non pas en mains du poursuivi, mais d'une personne majeure collaborant à l'exploitation du centre où il réside, la notification serait tout de même valable (cf. supra consid. 3).
6.
Enfin, la conclusion du recourant tendant à ce que le présent arrêt ne soit pas publié sur le site internet du Tribunal fédéral, même sous forme anonyme, est irrecevable faute de motivation (<ref-law>).
7.
En conclusion, le recours est irrecevable. Il en va de même de la requête d'assistance judiciaire, le recours étant d'emblée dépourvu de chances de succès (<ref-law>). Les frais sont mis à la charge du recourant, qui succombe (<ref-law>). Il n'y a pas lieu d'allouer des dépens à l'autorité intimée (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
La requête d'assistance judiciaire du recourant est rejetée.
3.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à l'Autorité de recours en matière civile du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 20 juin 2014
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : La Greffière :
von Werdt Bonvin