Sachverhalt:
A.
A.a. Der 1960 geborene A._ war seit 1986 selbstständiger Plattenleger. Am 4. Februar 2002 meldete er sich bei der IV-Stelle Luzern wegen Rückenbeschwerden zum Leistungsbezug an. Mit Verfügung vom 24. Februar 2004 sprach ihm diese ab 1. Juni 2002 eine ganze Invalidenrente zu. Ab August 2007 arbeitete er während etwa zwei Stunden wöchentlich als Kursleiter für Country Line Dance. Die IV-Stelle holte ein Gutachten der Medizinischen Abklärungsstelle (MEDAS) vom 19. Januar 2009 und einen Bericht des Zentrums B._ vom 1. Oktober 2009 ein. Mit Verfügung vom 21. April 2010 hob sie die Rente nach Zustellung der Verfügung auf Ende des folgenden Monats auf, was das Verwaltungsgericht des Kantons Luzern (heute Kantonsgericht Luzern) mit Entscheid vom 24. Oktober 2011 bestätigte. Auf die dagegen erhobene Beschwerde trat das Bundesgericht mit Urteil 8C_876/2011 vom 6. Januar 2012 nicht ein.
A.b. Am 11. Mai 2011 reichte der Versicherte bei der IV-Stelle eine Neuanmeldung sowie ein Gutachten des Psychiaters Dr. med. C._ vom 7. April 2011 ein. Am 31. Mai 2011 ersuchte er sie um Unterstützung bei der Stellensuche. Sie teilte ihm am 14. Juni 2011 mit, sie gewähre ihm Beratung und Unterstützung bei der Stellensuche; da er in D._ wohne, werde die Arbeitsvermittlung an die IV-Stelle Nidwalden delegiert. Der Versicherte brach die Eingliederung vorzeitig ab. Am 21. Februar 2012 überwies die IV-Stelle Luzern sämtliche Akten der IV-Stelle Nidwalden zur weiteren Bearbeitung. Diese holte diverse Arztberichte und ein Gutachten des Instituts E._ vom 28. Mai 2013 ein. Mit Verfügung vom 22. Juli 2013 verneinte sie den Rentenanspruch (Invaliditätsgrad 28 %).
B.
Die gegen die letztgenannte Verfügung der IV-Stelle erhobene Beschwerde wies das Obergericht des Kantons Nidwalden mit Entscheid vom 17. März 2014 ab.
C.
Mit Beschwerde beantragt der Versicherte, in Aufhebung des kantonalen Entscheides sei die Verfügung der IV-Stelle vom 27. Fe-bruar 2012 (recte: 22. Juli 2013) dahin gehend aufzuheben und abzuändern, dass ihm ab 1. Juni 2002 und weiterhin eine Rente bei einem Invaliditätsgrad von mindestens 70 % zuzusprechen sei; eventuell sei die Sache zur ergänzenden Abklärung und Neubeurteilung an die Vorinstanz zurückzuweisen; es sei ihm die unentgeltliche Rechtspflege zu gewähren.
Ein Schriftenwechsel wurde nicht angeordnet.

Erwägungen:
1.
Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren beanstandeten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1 S. 389). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law> in Verbindung mit <ref-law>). Rechtsfragen sind die vollständige Feststellung erheblicher Tatsachen sowie die Beachtung des Untersuchungsgrundsatzes bzw. der Beweiswürdigungsregeln nach <ref-law> und der Anforderungen an den Beweiswert von Arztberichten (<ref-ruling> E. 5.1 S. 232). Die aufgrund dieser Berichte gerichtlich festgestellte Gesundheitslage bzw. Arbeitsfähigkeit und die konkrete Beweiswürdigung sind Sachverhaltsfragen (<ref-ruling> E. 3.2 S. 397; nicht publ. E. 4.1 des Urteils <ref-ruling>, veröffentlicht in SVR 2009 IV Nr. 53 S. 164 [9C_204/2009]). Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (<ref-ruling> E. 3.1 S. 44). Es liegt noch keine offensichtliche Unrichtigkeit vor, nur weil eine andere Lösung ebenfalls in Betracht fällt, selbst wenn diese als die plausiblere erschiene (<ref-ruling> E. 2.1 S. 9). Diese Grundsätze gelten auch bei der konkreten Beweiswürdigung, bei der dem vorinstanzlichen Gericht ein erheblicher Ermessensspielraum zusteht (<ref-ruling> E. 2.1 S. 211, <ref-ruling> E. 1.3 S. 261; SVR 2013 BVG Nr. 40 S. 174 E. 1.2 [9C_592/2012]; nicht publ. E. 1.2. f. des Urteils <ref-ruling>).
2.
Die Vorinstanz hat die Grundlagen über die Erwerbsunfähigkeit (<ref-law>), die Invalidität (<ref-law>; <ref-law>), die Invaliditätsbemessung nach dem Einkommensvergleich (<ref-law>; <ref-law>) und den Rentenanspruch (<ref-law>) richtig dargelegt. Gleiches gilt zu den bei einer Neuanmeldung analog zur Revision anwendbaren Regeln (<ref-law>; Art. 87 Abs. 2 f. IVV; <ref-ruling> E. 3 S. 132, 117 V 198 E. 3a), zur Aufgabe des Arztes bei der Invaliditätsbemessung (<ref-ruling> E. 3.2 S. 195) und zum Beweiswert von Arztberichten (E. 1 hievor; <ref-ruling> E. 3a S. 352). Darauf wird verwiesen.
3.
3.1. Der Versicherte legt neu ein Gutachten des Psychiaters Dr. med. F._, des Psychologen lic. phil. G._ und des Dr. phil. H._ vom 10. Juni 2014 auf. Er bringt vor, am 17. Juni 2014 habe er dieses Gutachten der Vorinstanz eingereicht. Mit Schreiben vom 8. Juli 2014 habe diese ihm mitgeteilt, dieses Gutachten könne nicht mehr berücksichtigt werden, weil die Beschwerde schon beurteilt worden sei. Der vorinstanzliche Entscheid vom 17. März 2014 sei ihm erst am 24. November 2014 zugestellt worden. Gemäss § 58 Abs. 3 nidwaldnerische Verordnung über das Verwaltungsverfahren und die Verwaltungsrechtspflege (Verwaltungsrechtspflegeverordnung, VRPV) vom 8. Februar 1985 (NG 265.1) sei der Entscheid den Parteien in der Regel binnen 30 Tagen nach Fällung zuzustellen. Weiche ein Gericht von diesem zeitlichen Rahmen in grober Art und Weise ab, indem der Entscheid während mehr als acht Monaten nicht eröffnet werde, verletzte es, wenn es zwischenzeitliche Eingaben der Parteien nicht beachte, den Gehörsanspruch nach <ref-law>. Gleichzeitig liege damit eine prozessuale Formenstrenge vor, die als exzessiv erscheine, durch kein schutzwürdiges Interesse gerechtfertigt sei und die Verwirklichung des materiellen Rechts in unhaltbarer Weise verhindere. Dieser überspitzte Formalismus verletze <ref-law>. Das Gutachten des Psychiaters Dr. med. F._, des Psychologen lic. phil. G._ und des Dr. phil. H._ vom 10. Juni 2014 sei demnach nicht als echtes Novum, sondern als im vorinstanzlichen Verfahren ordentlich eingereichte Eingabe zu behandeln.
3.2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Als Beschwerdegrund kommt im Wesentlichen die Verletzung von Bundesrecht, insbesondere von verfassungsmässigen Rechten in Frage (<ref-law>). Die Anwendung des kantonalen Rechts als solches bildet nicht Beschwerdegrund. Überprüft werden kann insoweit nur, ob der angefochtene Entscheid auf willkürlicher Gesetzesanwendung beruht oder ob das Gesetz oder seine Anwendung sonst wie gegen übergeordnetes Recht verstossen (vgl. <ref-ruling> E. 1.2.1 S. 251 f.). Hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht gilt eine qualifizierte Rügepflicht (vgl. <ref-law>). Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>; <ref-ruling> E. 1.4.1 S. 53, auch zum Folgenden). Wird eine Verletzung des Willkürverbots geltend gemacht, muss im Einzelnen dargelegt werden, inwiefern der angefochtene Entscheid an einem qualifizierten und offensichtlichen Mangel leidet. Auf ungenügend begründete Rügen und bloss allgemein gehaltene, appellatorische Kritik am angefochtenen Entscheid geht es nicht ein (<ref-ruling> E. 3.2 S. 400; <ref-ruling> E. 1.3 S. 262; Urteil 8C_272/2014 vom 5. Februar 2015 E. 2).
§ 58 Abs. 3 VRPV statuiert die Zustellung des Entscheids binnen 30 Tagen nach Fällung bloss als Regel. Es sind keine Umstände ersichtlich, welche ihre Nichteinhaltung durch die Vorinstanz als willkürlich erscheinen lassen. Da sie den angefochtenen Entscheid bereits am 17. März 2014 gefällt hatte - was unbestritten ist - konnte sie das Gutachten des Psychiaters Dr. med. F._, des Psychologen lic. phil. G._ und des Dr. phil. H._ vom 10. Juni 2014 nicht berücksichtigen. Überspitzter Formalismus und eine Gehörsverletzung bzw. ein Verstoss gegen Art. 29 Abs. 1 und 2 BV liegen entgegen dem Versicherten nicht vor. Somit handelt es sich bei diesem Gutachten um ein unzulässiges echtes Novum (<ref-ruling> E. 3.2.2.2 S. 548).
4.
4.1. Im interdisziplinären (allgemeininternistischen, psychiatrischen, orthopädischen, neurologischen und pneumologischen) Gutachten des Instituts E._ vom 28. Mai 2013 wurden folgende Diagnosen mit Einfluss auf die Arbeitsfähigkeit gestellt: 1. Chronisches lumbal betontes panvertebrales Schmerzsyndrom, anamnestisch mit Ausstrahlungen ins linke Bein (ICD-10 M54.80); 2. Leichtgradiges subakromiales Impingement rechts > links (ICD-10 M75.4); 3. Rezidivierende depressive Störung, gegenwärtig leichte Episode (ICD-10 F33.0); 4. Verdacht auf Sarkoidose II (ICD-10 D86.0); 5. Polyneuropathie, am ehesten toxisch bedingt. Weiter wurde ausgeführt, in der angestammten Tätigkeit als Plattenleger wie auch in jeder anderen körperlich schweren und dauerhaft mittelschweren Tätigkeit sei der Versicherte voll arbeitsunfähig. Für körperlich leichte bis punktuell mittelschwere adaptierte Tätigkeiten bestehe eine Arbeits- und Leistungsfähigkeit von 80 %, vollschichtig realisierbar mit der Möglichkeit zu vermehrten Pausen.
Die Vorinstanz hat in Würdigung der medizinischen Akten mit einlässlicher Begründung - auf die verwiesen wird - erwogen, dass dieses Gutachten die Anforderungen an eine rechtsgenügliche medizinische Beurteilungsgrundlage erfülle, weshalb darauf abzustellen sei. Diesem Ergebnis ist beizupflichten. Festzuhalten ist insbesondere Folgendes:
4.2. Der Versicherte macht geltend, die Vorinstanz habe seine Eingabe vom 22. November 2013 mit dem Bericht des Dr. med. I._, Facharzt Radiologie FMH, Klinik P._, vom 6. November 2013 betreffend das gleichentags durchgeführte MRT des Schädels zwar im Sachverhalt erwähnt, dazu aber in den Erwägungen nicht Stellung bezogen.
Das Bundesgericht kann mit Blick auf eine Rechtsverletzung, die aus der Nichtbehandlung von potenziell entscheidungserheblichen Beweismitteln resultiert, die entsprechenden Aktenstücke selber würdigen und beurteilen, ob die vorinstanzliche Sachverhaltsfeststellung zu korrigieren ist (<ref-law>; Urteil 8C_672/2014 vom 21. November 2014 E. 4).
Der neurologische Teilgutachter des Instituts E._ Dr. med. K._ überprüfte die kognitiven Funktionen des Versicherten; er stellte kein fokal neurologisches Defizit fest. Weiter führte er aus, im Jahre 2002 sei bei ihm ein IQ von 76 erwähnt worden, wobei diese Annahme auch trotz eines möglicherweise schweren Schleudertraumas als Jugendlicher aufgrund seines weiteren beruflichen Weges und seiner diversen Aktivitäten, unter anderem des Ablegens der Meisterprüfung und des einjährigen Aufenthalts in den USA, völlig haltlos sei. In der aktuellen Untersuchung sei von einer durchschnittlichen Intelligenz auszugehen, wobei das klinische Bild jetzt überlagert werde durch einen Alkohol- und Cannabis-Abusus. Zerebelläre Störungen seien nicht feststellbar. Wenn die Vorinstanz auf diese Einschätzung des Dr. med. K._, die auf eingehender klinischer Untersuchung des Versicherten beruhte und interdisziplinär bestätigt wurde, abstellte, ist es im Lichte der eingeschränkten Kognition (E. 1 hievor) nicht zu beanstanden. Aus dem MRT-Befund des Dr. med. I._ vom 6. November 2011 kann der Versicherte unter diesen Umständen nichts zu seinen Gunsten ableiten. Denn für die Bestimmung des Rentenanspruchs ist es - grundsätzlich unabhängig von der Diagnose und unbesehen der Ätiologie - massgebend, ob und in welchem Ausmass eine Beeinträchtigung der Arbeits- bzw. Erwerbsfähigkeit vorliegt (<ref-ruling> E. 3.2.1 S. 281).
Der Versicherte wendet weiter ein, der psychiatrische Teilgutachter des Instituts E._ Dr. med. L._ habe eine Panikstörung verneint, weil während der Begutachtung keine anfallsartige Angst mit vegetativen Symptomen aufgetreten sei. Dies sei offensichtlich unhaltbar und falsch.
Zur pauschalen Rüge des Versicherten, die psychiatrische Abklärung des Instituts E._ sei zeitlich zu kurz gewesen, ist festzuhalten, dass es für den Aussagegehalt eines medizinischen Gutachtens nicht auf die Dauer der Untersuchung ankommt. Zwar muss der zu betreibende zeitliche Aufwand der Fragestellung und der zu beurteilenden Pathologie angemessen sein; zuvorderst hängt der Aussagegehalt einer Expertise aber davon ab, ob sie inhaltlich vollständig und im Ergebnis schlüssig ist (Urteil 8C_662/2014 vom 12. November 2014 E. 8). Dies trifft hier zu.
Soweit sich der Versicherte auf den Bericht des Psychiaters Dr. med. M._ vom 15. November 2011 - worin unter anderem eine Panikstörung (episodisch paroxysmale Angst; ICD-10: F41.0) diagnostiziert wurde - beruft, ist festzuhalten, dass dieser gleichzeitig ausführte, es seien ungeklärte Fragen vorhanden hinsichtlich Gesundheitszustand und Arbeitsfähigkeit des Versicherten, die durch ein psychiatrisches Gutachten geklärt werden müssten. Dieser Bericht ist mithin keine hinreichende Beurteilungsgrundlage. Gleiches gilt für den Bericht der Klinik N._ vom 2. August 2012, da keiner der daran beteiligten Arztpersonen Psychiater war; hieran ändert nichts, dass Frau Dr. med. O._ einen Fähigkeitsausweis in psychosomatischer und psychosozialer Medizin (SAPPM) hatte. Die Vorinstanz hielt zudem richtig fest, dass die Klinik N._ - wo der Versicherte vom 16. Juli bis 5. August 2012 hospitalisiert war - im Bericht vom 2. August 2012 zwar eine Panikstörung mit episodischer paroxysmaler Angst (ICD-10: F41.0) diagnostizierte, aber ein entsprechendes Vorkommnis während des Klinikaufenthalts nicht dokumentierte.
Der psychiatrische Teilgutachter des Instituts E._ Dr. med. L._ setzte sich im Gutachten vom 28. Mai 2013 mit den Berichten des Dr. med. M._ vom 15. November 2011 und 24. September 2012 sowie der Klinik N._ vom 2. August 2012 auseinander. Er hat die Panikstörung nicht nur aufgrund eines fehlenden Vorfalls im Rahmen der Exploration verneint, sondern kam aufgrund seiner Untersuchung zum Schluss, der Versicherte leide nicht unter häufiger anfallsartiger Angst mit vegetativen Symptomen. Weiter stellte Dr. med. L._ fest, der Versicherte nehme die beiden verordneten Antidepressiva gar nicht ein, wie aufgrund der Medikamentenspiegelbestimmungen geschlossen werden müsse. Gestützt hierauf ist der Vorinstanz beizupflichten, dass bei ihm nicht von einem wesentlichen psychischen Leidensdruck auszugehen ist (vgl. auch <ref-ruling> E. 3 S. 266; SVR 2008 IV Nr. 6 S. 14 E. 5.3 [I 629/06]; Urteil 9C_707/2013 vom 12. Februar 2014 E. 4). Unter diesen Umständen ist es nicht zu beanstanden, wenn die Vorinstanz auch in psychischer Hinsicht auf das Gutachten des Instituts E._ vom 28. Mai 2013 abstellte (vgl. E 1 hievor). Von einer vorinstanzlichen Verletzung der Begründungspflicht (hierzu vgl. <ref-ruling> E. 5.1 S. 237) kann keine Rede sein.
4.3. Insgesamt zeigt der Versicherte nicht auf und ist auch nicht ersichtlich, inwiefern die vorinstanzliche Sachverhaltsfeststellung und Beweiswürdigung im Lichte der in E. 1 hievor dargelegten Grundsätze mangelhaft seien oder eine Bundesrechtsverletzung vorliege. Da von weiteren medizinischen Abklärungen keine entscheidrelevanten Ergebnisse mehr zu erwarten sind, ist darauf zu verzichten (antizipierte Beweiswürdigung; <ref-ruling> E. 5.3 S. 236).
5.
5.1. Auf der beruflich-erwerblichen Seite der Invaliditätsbemessung (zur diesbezüglichen Kognition siehe <ref-ruling> E. 3.3 S. 399) ist das von der Vorinstanz ermittelte, vom Versicherten ohne Gesundheitsschaden hypothetisch erzielbare Valideneinkommen (vgl. <ref-ruling> E. 5.1 S. 300) von Fr. 69'993.- für das Jahr 2013 unbestritten.
5.2.
5.2.1. Beim vom Versicherten hypothetisch erzielbaren Invalideneinkommen (vgl. <ref-ruling> E. 5.2 S. 301) stellte die Vorinstanz zu Recht auf den Männer-Bruttolohn von Fr. 4'901.- gemäss der LSE-Tabelle TA1 für das Jahr 2010 im Anforderungsniveau 4 (einfache und repetitive Tätigkeiten) ab. Weiter führte sie aus, angepasst an die betriebsübliche wöchentliche Arbeitszeit, aufgerechnet auf ein Jahr und indexiert auf das Jahr 2013 ergebe sich ein Einkommen von Fr. 62'856.-. Unter Berücksichtigung der Restarbeitsfähigkeit von 80 % resultiere ein Invalideneinkommen von Fr. 50'285.- bzw. verglichen mit dem Valideneinkommen von Fr. 69'993.- ein rentenausschliessender Invaliditätsgrad von 28 % (zur Rundung vgl. <ref-ruling>).
5.2.2. Der Versicherte macht geltend, eine Arbeit wäre, wenn überhaupt, lediglich auf tiefem Lohnniveau und in Teilzeit möglich. Dabei werde er das statistische Durchschnittseinkommen nicht erlangen. Es sei ihm deshalb auch ein Leidensabzug von mindestens 20 % zu gewähren.
Dem ist entgegenzuhalten, dass die Rechtsprechung insbesondere dann einen Abzug auf dem Invalideneinkommen gewährt, wenn eine versicherte Person selbst im Rahmen körperlich leichter Hilfsarbeitertätigkeit in ihrer Leistungsfähigkeit eingeschränkt ist (<ref-ruling> E. 5a/bb S. 78). Sind ihr hingegen - wie hier - leichte bis punktuell mittelschwere Arbeiten zumutbar (vgl. E. 4.1 hievor), ist allein deswegen auch bei eingeschränkter Leistungsfähigkeit noch kein Abzug gerechtfertigt, weil der Tabellenlohn im Anforderungsniveau 4 bereits eine Vielzahl von leichten und mittelschweren Tätigkeiten umfasst. Unter dem Titel "Beschäftigungsgrad" ist hier ebenfalls kein Abzug gerechtfertigt, weil die 80%ige Arbeitsfähigkeit des Versicherten vollschichtig umsetzbar ist (vgl. E. 4.1 hievor; SVR 2014 IV Nr. 37 S. 130 E. 9.2; Urteil 8C_740/2014 vom 11. Februar 2015 E. 4.5).
6.
Der unterliegende Versicherte trägt die Verfahrenkosten (Art. 66 Abs. 1 BGG). Die unentgeltliche Rechtspflege kann ihm gewährt werden (<ref-law>). Er hat der Gerichtskasse Ersatz zu leisten, wenn er später dazu in der Lage ist (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Dr. Stephan Zimmerli wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Obergericht des Kantons Nidwalden und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 2. April 2015
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Der Gerichtsschreiber: Jancar