Sachverhalt:
A. A.a Der 1966 geborene P._ war seit September 1991 bei der Firma Y._ als Lokomotivmechaniker/Handwerksmeister/ Teamleiter tätig. Am 12. Februar 2002 meldete er sich wegen eines Bandscheibenvorfalls mit Lähmungen im rechten Bein bei der Invalidenversicherung an. Mit Verfügung vom 20. Juni 2003 gewährte ihm die IV-Stelle Nidwalden berufliche Massnahmen (Deutschstützkurs und berufsbegleitende Umschulung zum kaufmännischen Angestellten). Diese Umschulung brach P._ im Frühsommer 2004 vorzeitig ab, ohne einen Abschluss erlangt zu haben. Mit Verfügung vom 14. September 2005 verneinte die IV-Stelle einen Rentenanspruch mangels invaliditätsbedingter Erwerbseinbusse. Daran hielt sie mit Einspracheentscheid vom 5. Dezember 2005 fest. Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Nidwalden mit Entscheid vom 6. November 2006 ab. Die dagegen geführte Beschwerde hiess das Bundesgericht mit Urteil I 142/07 vom 20. November 2007 teilweise gut; es hob den kantonalen Entscheid und den Einspracheentscheid der IV-Stelle auf und wies die Sache an diese zurück, damit sie im Sinne der Erwägungen verfahre und über den Rentenanspruch neu verfüge; im Übrigen wies es die Beschwerde ab.
A.b In der Folge holte die IV-Stelle diverse Arztberichte und ein Gutachten des medizinischen Instituts X._ vom 8. Februar 2010 ein. Mit Verfügung vom 20. April 2010 sprach sie dem Versicherten ab 1. Juli 2004 eine halbe Invalidenrente (Invaliditätsgrad 53 %) zu. In der Abrechnung zu dieser Verfügung wurde u.a. ein Verrechnungsanspruch der SBB von Fr. 79'098.35 berücksichtigt.
B. Hiegegen erhob der Versicherte beim kantonalen Gericht Beschwerde. Dieses führte am 26. März 2011 eine mündliche Verhandlung durch. In teilweiser Gutheissung der Beschwerde hob es die Abrechnung zur Verfügung vom 20. April 2010 auf. Es wies die IV-Stelle an, im Sinne der Erwägungen neu zu verfügen. Im Übrigen wies es die Beschwerde ab (Entscheid vom 29. März 2011).
C. Mit Beschwerde beantragt der Versicherte, in Aufhebung des kantonalen Entscheides sei ihm ab 1. Juli 2004 eine ganze Rente zuzusprechen. Ein Schriftenwechsel wurde nicht durchgeführt.
Erwägungen:
1. Die Beschwerde kann wegen Rechtsverletzung nach Art. 95 f. BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Immerhin prüft es grundsätzlich nur die geltend gemachten Rügen, sofern die Rechtsmängel nicht geradezu offensichtlich sind (Art. 42 Abs. 1 und 2 BGG; BGE 133 II 249 E. 1.4.1 S. 254). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG) und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1 BGG).
Die gestützt auf medizinische Akten gerichtlich festgestellte Arbeitsfähigkeit ist Tatfrage (BGE 132 V 393 E. 3.2 S. 397). Rechtsfragen sind die unvollständige Feststellung rechtserheblicher Tatsachen sowie die Missachtung des Untersuchungsgrundsatzes (Art. 43 Abs. 1, Art. 61 lit. c ATSG) und der Anforderungen an den Beweiswert von Arztberichten (BGE 134 V 231 E. 5.1 S. 232). Die konkrete Beweiswürdigung ist Tatfrage (nicht publ. E. 4.1 des Urteils BGE 135 V 254, in SVR 2009 IV Nr. 53 S. 164 [9C_204/2009]; Urteil 8C_180/2011 vom 7. Dezember 2011 E. 1).
2. Der Sachverhalt hat sich teilweise vor dem Inkrafttreten der 5. IV-Revision am 1. Januar 2008 verwirklicht. Somit ist bis 31. Dezember 2007 auf die damals geltenden Bestimmungen und ab 1. Januar 2008 auf die neuen Normen der 5. IV-Revision abzustellen (BGE 130 V 445). Dies ist jedoch ohne Belang, weil diese Revision bei der Invaliditätsbemessung keine substanziellen Änderungen gebracht hat (Urteil 8C_546/2011 vom 14. November 2011 E. 2). Die Vorinstanz hat die Grundlagen über die Erwerbsunfähigkeit (Art. 7 ATSG), die Invalidität (Art. 8 Abs. 1 ATSG), die Invaliditätsbemessung bei Erwerbstätigen nach dem Einkommensvergleich (Art. 16 ATSG; BGE 135 V 297 E. 5.2 S. 301, 134 V 322 E. 4.1 S. 325) und den Beweiswert von Arztberichten (E. 1 hievor) richtig dargelegt. Darauf wird verwiesen.
3. Im angefochtenen Entscheid wurde die Beschwerde hinsichtlich des Verrechnungsanspruchs der SBB gutgeheissen, was nicht beanstandet wird. In diesem Punkt hat es mithin sein Bewenden.
4. Streitig und zu prüfen ist, ob der Versicherte ab 1. Juli 2004 Anspruch auf eine ganze statt auf eine halbe Invalidenrente hat.
4.1 Im interdisziplinären (internistischen/allgemeinmedizinischen, psychiatrischen und rheumatologischen) Gutachten des medizinischen Instituts X._ vom 8. Februar 2010 wurde folgende Diagnose mit Einfluss auf die Arbeitsfähigkeit gestellt: Status nach mikrotechnischer Diskektomie L4/5 rechts mit Sequesterentfernung am 22. November 2001 bei schwerem motorischem Defizit L5 rechts bei nach kaudal luxierter Diskushernie L4/5 rechts. Ohne Einfluss auf die Arbeitsfähigkeit seien: 1. Anhaltende somatoforme Schmerzstörung (ICD-10 F45.4); 2. Somatoforme autonome Funktionsstörung des oberen und unteren Gastrointestinaltraktes (ICD-10 F45.31, 45.32); 3. Atopische Diathese mit Kontaktsensibilisierung auf Thiomersal, Sorbitansesquioleat, Nickel, Kobalt und Chrom. Die Vorinstanz hat mit einlässlicher Begründung, auf die verwiesen wird, zutreffend erkannt, dass dieses Gutachten die praxisgemässen Anforderungen an den Beweiswert medizinischer Beurteilungsgrundlagen (vgl. E. 1 hievor) erfülle, weshalb darauf abzustellen sei. Gestützt darauf hat sie richtig erwogen, dass der Versicherte in der zuletzt ausgeübten Tätigkeit als Lokomotivmechaniker andauernd voll arbeitsunfähig sei. In einer dem Rückenleiden angepassten Tätigkeit (körperlich leicht bis selten mittelschwer, wechselbelastend) sei er zu 80 % arbeitsfähig, in einem ganztägigen Pensum verwertbar.
4.2 Die Vorbringen des Versicherten vermögen an diesem Ergebnis nichts zu ändern. Er erhebt keine Rügen, welche die vorinstanzlichen Feststellungen zu seiner Arbeitsfähigkeit als offensichtlich unrichtig oder als Ergebnis willkürlicher Beweiswürdigung oder als rechtsfehlerhaft nach Art. 95 BGG erscheinen lassen. Eine ungenügende Sachverhaltsabklärung liegt nicht vor, weil die dafür u.a. notwendigen Voraussetzungen - unauflösbare Widersprüche tatsächlicher Art oder Beantwortung einer entscheidwesentlichen Tatfrage, wie namentlich bezüglich Gesundheitszustand und Arbeitsfähigkeit, auf unvollständiger Beweisgrundlage - nicht vorliegen. Im Rahmen der freien, pflichtgemässen Würdigung der Beweise durch die Vorinstanz ergab sich ein nachvollziehbares und schlüssiges Bild des Gesundheitszustandes, das nach dem Beweisgrad der überwiegenden Wahrscheinlichkeit hinreichende Klarheit über den rechtserheblichen Sachverhalt vermittelt, weshalb ihre Sachverhaltsfeststellung bundesrechtskonform ist. Von weiteren medizinischen Abklärungen ist abzusehen, da hievon keine neuen Erkenntnisse zu erwarten sind (antizipierte Beweiswürdigung; BGE 137 V 64 E. 5.2 S. 69, 136 I 229 E. 5.3 S. 236; Urteil 8C_180/2011 E. 6.1 mit Hinweis).
4.3 Festzuhalten ist insbesondere Folgendes:
4.3.1 Die Vorinstanz erwog, im Gutachten des medizinischen Instituts X._ fänden sich keine Feststellungen zur zeitlichen psychiatrischen Explorationsdauer. Aufgrund der doch detaillierten Angaben im Gutachten erscheine die behauptete Dauer von 30 Minuten zumindest fraglich. Letztlich ergäben sich keine Anhaltspunkte dafür, dass der Psychiater bei der Exploration nicht fachgerecht oder ausreichend gründlich vorgegangen wäre. Der Versicherte macht geltend, im Rahmen der Begutachtung des medizinischen Instituts X._ habe die psychiatrische Exploration 20-25 Minuten gedauert, was angesichts des komplexen Krankheitsgeschehens ungenügend sei. Praxisgemäss kommt es für den Aussagegehalt eines medizinischen Gutachtens grundsätzlich nicht auf die Dauer der Untersuchung an; massgebend ist in erster Linie, ob die Expertise inhaltlich vollständig und im Ergebnis schlüssig ist. Immerhin muss der für eine psychiatrische Untersuchung zu betreibende zeitliche Aufwand der Fragestellung und der zu beurteilenden Psychopathologie angemessen sein. Dabei kann bei der Beurteilung einer somatoformen Schmerzstörung und deren Überwindbarkeit eine zwanzigminütige Untersuchung ausreichen, wenn keine konkreten Hinweise vorliegen, dass sich die kurze Untersuchungsdauer negativ auf die Qualität des Gutachtens ausgewirkt hat (Urteil 8C_942/2009 vom 29. März 2010 E. 5.2). Solche Umstände sind hier nicht ersichtlich.
Unbehelflich ist der Einwand des Versicherten, der psychiatrische Gutachter habe auf psychologische Tests verzichtet. Zwar können solche Tests eine Ergänzung sein. Entscheidend ist indessen die klinische Untersuchung in Kenntnis der Anamnese (vgl. Leitlinien der Schweizerischen Gesellschaft für Versicherungspsychiatrie für die Begutachtung psychischer Störungen, in: SAeZ 2004 S. 1051). Es sind keine Gründe ersichtlich, die eine psychologische Testung des Versicherten als zwingend notwendig erscheinen lassen.
4.3.2 Das Vorbringen des Versicherten, der psychiatrische Gutachter habe auf jegliche Fremdanamnese verzichtet, ist ebenfalls nicht stichhaltig. Denn eine Fremdanamnese mag häufig wünschenswert sein, ist aber nicht zwingend erforderlich (Urteil I 305/06 vom 22. Mai 2007 E. 3.2). Anfragen beim behandelnden Arzt sind u.a. wertvoll, wenn sie erweiterte Auskünfte über Persönlichkeit und Compliance des Exploranden erwarten lassen (Urteil 8C_668/2010 vom 15. März 2011 E. 6.2). Solche Umstände liegen hier nicht vor. Insbesondere zeigten die Blutuntersuchungen des medizinischen Instituts X._, dass der Versicherte das verordnete Antidepressivum gar nicht einnahm; weitere diesbezügliche Abklärungen erübrigten sich mithin.
Aus dem Bericht des behandelnden Psychiaters Dr. med. S._ vom 9. April 2008, der dem psychiatrischen Gutachter bekannt war, kann der Versicherte nichts zu seinen Gunsten ableiten, da dieser weder eine Diagnose nach einem anerkannten Klassifikationssystem abgab noch zur Arbeitsfähigkeit Stellung nahm. Unbehelflich ist auch die Berufung des Versicherten auf den Bericht des Dr. med. F._ vom 20. September 2005, da dieser nicht Psychiater ist und ihm diesbezüglich mithin die Fachkompetenz fehlt.
4.3.3 Der Versicherte bringt vor, die Foerster'schen Kriterien (BGE 131 V 49 E. 1.2 S. 50) seien im psychiatrischen Gutachten völlig ungenügend abgeklärt worden. Hierin wurde festgestellt, neben der anhaltenden somatoformen Schmerzstörung und der somatoformen autonomen Funktionsstörung des oberen und unteren Gastrointestinaltraktes könne keine weitere psychiatrische Diagnose gestellt werden. Ein ausgeprägter sozialer Rückzug lasse sich nicht feststellen. Schwere lebensgeschichtliche Belastungen fänden sich nicht. Hinweise auf unbewusste Konflikte fehlten; ein primärer Krankheitsgewinn sei nicht vorhanden. Eine schwerwiegende psychische Komorbidität fehlt mithin aufgrund des Gutachtens des medizinischen Instituts X._. Dass weitere Kriterien erfüllt wären, welche die Überwindbarkeit der anhaltenden somatoformen Schmerzstörung ausschliessen, macht der Versicherte nicht substanziiert geltend und geht nicht offensichtlich aus den Akten hervor (vgl. auch Urteile 8C_663/2010 vom 15. November 2010 E. 5.2.5 und 8C_1005/2009 vom 29. Januar 2010 E. 6.2.3).
4.3.4 Der Versicherte beanstandet, es sei zu Unrecht keine neurologische und gastroenterologische Begutachtung erfolgt. Hierzu ist festzuhalten, dass es grundsätzlich dem medizinischen Institut X._ überlassen blieb, über Art und Umfang der aufgrund der konkreten Fragestellung erforderlichen Untersuchungen zu befinden. Aufgabe des Versicherers und des Sozialversicherungsgerichts ist es alsdann, das Gutachten bei der Beweiswürdigung u.a. darauf zu prüfen, ob es für die streitigen Belange umfassend ist und auf allseitigen Untersuchungen beruht (BGE 134 V 231 E. 5.1 S. 232; Urteil 8C_594/2011 vom 20. Oktober 2011 E. 4.3.1). Dies trifft vorliegend zu.
4.3.5 Der Versicherte wendet ein, vorinstanzlich habe er vorgebracht, die Arbeitsunfähigkeitsschätzung des Neurologen (recte: Rheumatologen) des medizinischen Instituts X._ auf 20 % sei nicht aktuell, da er stabilisierende Massnahmen vorgeschlagen habe, damit die von ihm postulierte Arbeitsunfähigkeit auch langfristig umgesetzt werden könne. Der Gutachter habe damit die Verbesserung der Arbeitsfähigkeit durch diese Massnahmen vorweggenommen. Der Versicherte habe vorgetragen, es sei nicht gesichert, ob sich mit diesen Massnahmen eine Verbesserung ergäbe. Auf diese Argumentation sei die Vorinstanz nicht eingegangen, weshalb sie seinen Gehörsanspruch (Art. 29 Abs. 2 BV) verletzt habe.
Im Rahmen der Gesamtbeurteilung des medizinischen Instituts X._ wurden die medizinischen Massnahmen nicht zur Erlangung, sondern zur Erhaltung der bestehenden 80%igen Arbeitsfähigkeit vorgeschlagen. Auch in diesem Lichte ist es mithin nicht zu beanstanden, dass die Vorinstanz auf das Gutachten des medizinischen Instituts X._ abgestellt hat. In begründungsmässiger Hinsicht war es nicht erforderlich, dass sie sich mit allen Standpunkten des Versicherten einlässlich auseinandersetzte und jedes einzelne Vorbringen ausdrücklich widerlegte. Vielmehr konnte sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung musste so abgefasst sein, dass sich die Parteien über die Tragweite des Entscheides Rechenschaft geben und ihn in voller Kenntnis der Sache weiterziehen konnte. In diesem Sinne mussten wenigstens kurz die Überlegungen genannt werden, von denen sich die Vorinstanz leiten liess und auf die sich ihr Entscheid stützte (BGE 134 I 83 E. 4.1 S. 88). Diese Anforderungen erfüllt der angefochtene Entscheid.
5. 5.1 In erwerblicher Hinsicht (zur diesbezüglichen Kognition des Bundesgerichts vgl. BGE 132 V 393 E. 3.3. S. 399) ging die Vorinstanz bei der Bestimmung des ohne Gesundheitsschaden erzielbaren Valideneinkommens vom Lohn gemäss dem individuellen Konto (IK) des Versicherten für das Jahr 2002 von Fr. 92'956.- aus und ermittelte angepasst an die Nominallohnentwicklung für das Jahr 2010 (Zeitpunkt des Verfügungserlasses; BGE 132 V 215 E. 3.1.1 S. 220) ein Einkommen von Fr. 103'593.- (Nominallohnindex Stand 2002: 111.5; Stand 2010: 124.2). Das trotz Gesundheitsschadens zumutbarerweise erzielbare Invalideneinkommen berechneten IV-Stelle und Vorinstanz gestützt auf die Schweizerische Lohnstrukturerhebung (LSE) des Bundesamtes für Statistik (Tabelle TA1, Anforderungsniveau 4 [einfache und repetitive Tätigkeiten] für Männer). Vom entsprechenden LSE-Tabellenlohn nahmen sie wegen der Notwendigkeit des Wechsels von einer schweren zu einer leichten Tätigkeit einen leidensbedingten Abzug von 10 % vor, was Fr. 44'065.- ergab. Dies führte zu einem Invaliditätsgrad von gerundet 57 % bzw. zum Anspruch auf eine halbe Invalidenrente.
5.2 Der Versicherte macht geltend, zum Validenlohn 2002 gemäss IK-Auszug von Fr. 92'956.- sei derjenige aus seiner Instruktorentätigkeit hinzuzuzählen, was rund Fr. 96'500.- ergebe. Dazu komme der Geldwert von rund Fr. 3'500.- für das ihm zustehende Generalabonnement, was für das Jahr 2002 zu einem Lohn von Fr. 100'000.- führe. Aufgerechnet mit dem Nominallohnindex (Stand 2002: 111.5; Stand 2010: 124.2) resultiere für das Jahr 2010 ein Valideneinkommen von Fr. 111'390.- bzw. verglichen mit dem vorinstanzlich ermittelten Invalideneinkommen von Fr. 44'065.- ein Invaliditätsgrad von 60,44 % bzw. der Anspruch auf eine Dreiviertelsrente. Zudem sei ihm beim Invalideneinkommen ein zusätzlicher 10%iger Leidensabzug zu gewähren, weil er nur noch als Teilerwerbstätiger aktiv sein könne und deshalb statistisch überproportional weniger verdienen würde.
5.2 Der Versicherte macht geltend, zum Validenlohn 2002 gemäss IK-Auszug von Fr. 92'956.- sei derjenige aus seiner Instruktorentätigkeit hinzuzuzählen, was rund Fr. 96'500.- ergebe. Dazu komme der Geldwert von rund Fr. 3'500.- für das ihm zustehende Generalabonnement, was für das Jahr 2002 zu einem Lohn von Fr. 100'000.- führe. Aufgerechnet mit dem Nominallohnindex (Stand 2002: 111.5; Stand 2010: 124.2) resultiere für das Jahr 2010 ein Valideneinkommen von Fr. 111'390.- bzw. verglichen mit dem vorinstanzlich ermittelten Invalideneinkommen von Fr. 44'065.- ein Invaliditätsgrad von 60,44 % bzw. der Anspruch auf eine Dreiviertelsrente. Zudem sei ihm beim Invalideneinkommen ein zusätzlicher 10%iger Leidensabzug zu gewähren, weil er nur noch als Teilerwerbstätiger aktiv sein könne und deshalb statistisch überproportional weniger verdienen würde.
5.3 5.3.1 Zur Höhe des Tabellenlohnabzugs (hierzu vgl. BGE 135 V 297 E. 5.2 S. 301) ist festzuhalten, dass der Versicherte gemäss dem Gutachten des medizinischen Instituts X._ die 80%ige Arbeitsfähigkeit in einem ganztägigen Pensum verwerten kann (E. 4.1 hievor). Der Umstand, dass eine grundsätzlich vollzeitlich arbeitsfähige versicherte Person gesundheitlich bedingt lediglich reduziert leistungsfähig ist, rechtfertigt an sich keinen Abzug vom Tabellenlohn (Urteil 8C_328/2011 vom 7. Dezember 2011 E. 10.2). Substanziierte Gründe, die zu einer anderen Beurteilung Anlass zu geben vermöchten, sind nicht ersichtlich und werden auch nicht genannt. Mit dem Invalideneinkommen von Fr. 44'065.- hat es demnach sein Bewenden.
5.3.2 Hinsichtlich des Valideneinkommens erwog die Vorinstanz, es ergäben sich keine Hinweise, dass das Generalabonnement im AHV-pflichtigen Jahreseinkommen nicht bereits berücksichtigt worden wäre. Diese Feststellung vermag der Versicherte nicht zu entkräften. Unbehelflich ist sein pauschaler Einwand, wie ausgeführt, könne der Gegenbeweis angetreten werden. Soweit er damit auf seine vorinstanzlichen Ausführungen verweisen will, ist dies unzulässig (SVR 2010 UV Nr. 9 S. 35 E. 6 [8C_286/2009]).
5.3.3 Es kann offenbleiben, ob beim Validenlohn ein Einkommen aus der Instruktorentätigkeit anzurechnen ist, da damit kein höherer Rentenanspruch resultieren würde. Gemäss dem Versicherten ergäbe sich bei Berücksichtigung dieser Tätigkeit für das Jahr 2002 ein Valideneinkommen von Fr. 96'500.-. Entgegen der Vorinstanz und dem Versicherten ist bei der Anpassung an die Nominallohnentwicklung nicht auf den Nominallohnindex für Männer und Frauen zusammen (Bundesamt für Statistik, Nominallohnindex, 2002-2010, T1.93_I), sondern auf denjenigen für Männer abzustellen (BGE 129 V 408). Hieraus folgt für das Jahr 2010 ein Validenlohn von Fr. 107'377.- (Stand 2002 "Total": 110.9, Stand 2010 123.4; Bundesamt für Statistik, Nominallohnindex, Männer, 2002-2010, T1.1.93_I). Verglichen mit dem Invalideneinkommen von Fr. 44'065.- (E. 5.3.1 hievor) resultiert ein Invaliditätsgrad von gerundet 59 % (zur Rundung vgl. BGE 130 V 121) bzw. der Anspruch auf eine halbe Invalidenrente (Art. 28 IVG).
6. Der unterliegende Versicherte trägt die Verfahrenskosten (Art. 66 Abs. 1, Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Nidwalden, dem Bundesamt für Sozialversicherungen und der Eidgenössischen Ausgleichskasse schriftlich mitgeteilt.
Luzern, 5. Januar 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Der Gerichtsschreiber: Jancar