Sachverhalt:
A.
Der 1960 geborene, als selbstständiger Autorestaurator tätige A._ erlitt am 12. August 2012 einen Herzinfarkt. Am 3. Januar 2013 meldete er sich deswegen zum Leistungsbezug bei der Invalidenversicherung an. Die gewährte Arbeitsvermittlung wurde nach einem Erstgespräch bereits wieder beendet, da sich A._ einen Tätigkeitswechsel nicht vorstellen konnte. Nach medizinischen und erwerblichen Abklärungen verneinte die IV-Stelle Luzern einen weitergehenden Leistungsanspruch (Verfügung vom 14. November 2013). Die dagegen erhobene Beschwerde hiess das Kantonsgericht Luzern mit rechtskräftigem Entscheid vom 20. Januar 2015 in dem Sinn gut, als es die Sache zwecks zusätzlicher medizinischer Abklärung und neuer Verfügung an die IV-Stelle zurückwies. Nach weiteren Abklärungen, unter anderem einer kardiologischen Untersuchung am Herzzentrum B._ vom 24. Juli 2015), verneinte die Verwaltung erneut einen Rentenanspruch (Verfügung vom 11. Oktober 2016).
B.
Die hiergegen eingereichte Beschwerde wies das Kantonsgericht Luzern mit Entscheid vom 10. März 2017 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, es sei ihm unter Aufhebung des vorinstanzlichen Entscheids eine Rente der Invalidenversicherung zuzusprechen. Eventualiter sei die Sache zu weiteren Abklärungen an die Vorinstanz oder die Verwaltung zwecks Einholung eines kardiologischen Gutachtens zurückzuweisen. Subeventualiter sei die Sache an die IV-Stelle zurückzuweisen, damit diese Massnahmen beruflicher Art prüfe.
Unter Verweis auf den vorinstanzlichen Entscheid schliesst die IV-Stelle sinngemäss auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren beanstandeten Rechtsmängel (Art. 42 Abs. 1 f. BGG; <ref-ruling> E. 2.2.1 S. 389). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann ihre Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG).
2.
Streitig und zu prüfen ist, ob die Vorinstanz die rentenablehnende Verfügung vom 11. Oktober 2016 zu Recht schützte.
2.1. Bei der Beurteilung der Arbeits (un) fähigkeit stützt sich die Verwaltung und im Beschwerdefall das Gericht auf Unterlagen, die von ärztlichen und gegebenenfalls auch anderen Fachleuten zur Verfügung zu stellen sind. Ärztliche Aufgabe ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Hinsichtlich des Beweiswertes eines Arztberichtes ist entscheidend, ob dieser für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge sowie der medizinischen Situation einleuchtet und ob die Schlussfolgerungen der Experten begründet sind (<ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352 mit Hinweis).
2.2. Im Rahmen der freien Beweiswürdigung darf sich die Verwaltung - und im Streitfall das Gericht (Art. 61 lit. c ATSG; vgl. <ref-ruling> E. 3.2 und 4 S. 397 ff.; Urteil I 865/06 vom 12. Oktober 2007 E. 4 mit Hinweisen) - weder über die (den beweisrechtlichen Anforderungen genügenden; vgl. <ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352 mit Hinweis) medizinischen Tatsachenfeststellungen hinwegsetzen noch sich die ärztlichen Einschätzungen und Schlussfolgerungen zur (Rest-) Arbeitsfähigkeit unbesehen ihrer konkreten sozialversicherungsrechtlichen Relevanz und Tragweite zu eigen machen. Die rechtsanwendenden Behörden haben diesfalls mit besonderer Sorgfalt zu prüfen, ob die ärztliche Einschätzung der Arbeitsunfähigkeit auch invaliditätsfremde Gesichtspunkte (insbesondere psychosoziale und soziokulturelle Belastungsfaktoren) mitberücksichtigt, die vom invaliditätsrechtlichen Standpunkt aus unbeachtlich sind (vgl. <ref-ruling>; <ref-ruling> E. 2.2.5 S. 355 f.; Urteil 9C_146/2015 vom 19. Januar 2016 E. 3.1). Frei überprüfbare Rechtsfrage ist auch, ob die im psychiatrischen Gutachten gestellten Diagnosen einen invalidisierenden Gesundheitsschaden nach Art. 4 Abs. 1 IVG darstellen (<ref-ruling> E. 3.1 f. S. 195 f.). Aus rechtlicher Sicht kann von einer medizinischen Einschätzung der Arbeitsunfähigkeit abgewichen werden, ohne dass diese per se ihren Beweiswert verliert (SVR 2015 IV Nr. 16 S. 45 E. 2.3, 9C_662/2013; Urteile 9C_3/2015 vom 20. Mai 2015 E. 3.3.2, 8C_283/2015 vom 24. Juni 2016 E. 3).
2.3. Bei den vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit der versicherten Person handelt es sich grundsätzlich um Entscheidungen über eine Tatfrage (<ref-ruling> E. 3.2 S. 397 ff.), die das Bundesgericht seiner Urteilsfindung zugrunde zu legen hat (E. 1.3). Die konkrete Beweiswürdigung stellt ebenfalls eine Tatfrage dar. Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln (<ref-ruling> E. 3.2 und 4 S. 397 ff.; Urteil I 865/06 vom 12. Oktober 2007 E. 4 mit Hinweisen) wie auch die Frage nach der rechtlichen Relevanz einer attestierten Arbeitsunfähigkeit (<ref-ruling>) frei überprüfbare Rechtsfrage.
3.
3.1. Die Vorinstanz mass den Berichten des Herzzentrums B._ vom 24. und 31. Juli 2015 (einschliesslich der Schreiben vom 1. September 2015 und 15. März 2016) in Bezug auf die medizinische Situation Beweiskraft zu). Danach sei der Versicherte aus kardiologischer Sicht des Dr. med. C._ wegen der koronaren 1-Gefäss-Erkrankung als Autorestaurator zu 40 % arbeitsunfähig. Das zumutbare Pensum liege für leichte wie auch mittelschwere Tätigkeiten als Mechaniker bei 60 %. Für sehr leichte Aufgaben wie Büroarbeit ohne körperliche Aktivität bestehe grundsätzlich keine Funktionseinschränkung. Da aber insbesondere der behandelnde Kardiologe Dr. med. D._ im Schreiben vom 12. November 2015 ausgeführt habe, auch bei leichten Büroarbeiten bestehe eine um 50 % eingeschränkte Arbeitsfähigkeit, sei nicht restlos klar, welches Pensum dem Versicherten bei leichten Tätigkeiten ohne körperliche Aktivität zumutbar sei. Es stehe jedoch fest, dass er selbst seinen angestammten Beruf als Mechaniker (mit Hilfe bei schweren Tätigkeiten) weiterhin zu 60 % ausführen könne, weshalb dies auch für leichte, angepasste Bürotätigkeiten gelten müsse. Zusätzliche Abklärungen erübrigten sich daher. Weiter sei es dem Versicherten aus invalidenversicherungsrechtlicher Sicht zumutbar, seinen Betrieb als Autorestaurator/Mechaniker aufzugeben, um ein rentenausschliessendes Einkommen zu erzielen. Die Tätigkeit als Mechaniker sei dem Leiden nicht angepasst. Sodann legte das kantonale Gericht das Valideneinkommen auf Fr. 48'703.- anhand der Betriebsgewinne der Jahre 2008 bis 2010 und mit einer Eventualbegründung mittels Auszug aus dem individuellen Konto (IK) auf Fr. 50'782.- fest. Das Invalideneinkommen bezifferte es gestützt auf einen statistischen Wert der Lohnstrukturerhebung des Bundes (LSE 2012, Tabelle TA1, Männer, Total, Kompetenzniveau 1 und nach einem leidensbedingten Abzug von 10 %) auf jährlich Fr. 35'472.-. Bei einem aus dem Einkommensvergleich resultierenden Invaliditätsgrad von (höchstens) 30 % verneinte es den Anspruch auf eine Invalidenrente.
3.2. Der Beschwerdeführer bringt dagegen vor, das kantonale Gericht habe willkürlich angenommen, seine bisherige Tätigkeit als Automechaniker sei dem Herzleiden nicht angepasst, da er die schweren Tätigkeiten nicht mehr ausführen könne. Seine Haupttätigkeit bestehe in der Planung, Konstruktion, Herstellung und dem Einbau von kleineren Einzelteilen in die bei ihm zum Umbau oder zur Reparatur stehenden Oldtimer-Fahrzeuge. Diese leichteren Tätigkeiten könne er weitgehend ausführen. Die körperlich schweren Tätigkeiten delegiere er nach Möglichkeit an Aushilfsmitarbeiter. Auch in einer anderen Tätigkeit bestünde keine höhere Leistungsfähigkeit. Durch die Flexibilität bei der Arbeitsgestaltung könne er Kräfte und Zeit selbst einteilen, weshalb die angestammte Tätigkeit auch leidensangepasst sei. Er habe seit dem Jahre 2012 zwei mit Stundenlohn entschädigte Personen angestellt, die im Bedarfsfall die nicht täglich anfallenden, schweren Arbeiten übernehmen würden. Dass er mit seiner Arbeit als Automechaniker kein rentenausschliessendes Erwerbseinkommen erzielen könne, sei seiner Krankheit geschuldet. Es sei daher offensichtlich unrichtig, wenn ihm die Vorinstanz ein hypothetisches Einkommen angerechnet habe und nicht vom tatsächlich erzielten Wert ausgegangen sei. Hätte sie korrekterweise die Mechanikertätigkeit als leidensadaptiert angesehen, resultierte in Gegenüberstellung von Validen- und Invalideneinkommen oder in Anwendung der ausserordentlichen Bemessungsmethode mindestens ein Invaliditätsgrad von 40 %. Ein Berufswechsel sei unzumutbar. Unter anderem habe die Vorinstanz in keiner Weise berücksichtigt, dass er einem potenziellen Arbeitgeber sozialpraktisch nicht mehr zumutbar sei und sich die Werkstatt in dessen Wohnhaus in einem Gewerbegebäude in der Landwirtschaftszone befinde.
4.
4.1. Bevor die versicherte Person Leistungen verlangt, hat sie aufgrund der Schadenminderungspflicht alles ihr Zumutbare selber vorzukehren, um die Folgen der Invalidität bestmöglichst zu mindern. Ein Rentenanspruch ist zu verneinen, wenn sie selbst ohne Eingliederungsmassnahmen, nötigenfalls mit einem Berufswechsel, zumutbarerweise in der Lage ist, ein rentenausschliessendes Erwerbseinkommen zu erzielen. Für die Auslegung des unbestimmten Rechtsbegriffs der zumutbaren Tätigkeit im Allgemeinen, wie bei der Aufgabe der selbstständigen Erwerbstätigkeit im Besonderen, sind die gesamten subjektiven und objektiven Gegebenheiten des Einzelfalls zu berücksichtigen. Im Vordergrund stehen bei den subjektiven Umständen die verbliebene Leistungsfähigkeit sowie die weiteren persönlichen Verhältnisse wie Alter, berufliche Stellung, Verwurzelung am Wohnort etc.. Bei den objektiven Umständen sind insbesondere der ausgeglichene Arbeitsmarkt und die noch zu erwartende Aktivitätsdauer massgeblich (SVR 2010 IV Nr. 11 S. 35, 9C_236/2009 E. 4.1 und 4.3; 2007 IV Nr. 1 S. 1; I 750/04 E. 5.3; Urteile 9C_624/2013 vom 11. Dezember 2013 E. 3.1.1; 9C_834/2011 vom 2. April 2012 E. 2). Eine Betriebsaufgabe ist nur unter strengen Voraussetzungen unzumutbar, und es kann ein Betrieb selbst dann nicht auf Kosten der Invalidenversicherung aufrechterhalten werden, wenn die versicherte Person darin Arbeit von einer gewissen erwerblichen Bedeutung leistet (Urteile 9C_644/2015 vom 3. Mai 2016 E. 4.3.1, 9C_624/2013 vom 11. Dezember 2013 E. 3.1.1 und 9C_834/2011 vom 2. April 2012 E. 4 mit Hinweis).
4.2.
4.2.1. Die Folgerung der Vorinstanz, dass bei Annahme einer 60%igen Arbeitsfähigkeit in der angestammten Mechanikertätigkeit eine solche logischerweise auch in einer körperlich leichten, angepassten Tätigkeit bestehe, ist nicht zu beanstanden. Sie begründete hinreichend, weshalb auf die Angaben des Herzzentrums B._ abgestellt werden kann. Die Feststellungen betreffend Arbeitsfähigkeit sind nicht willkürlich und bleiben daher für das Bundesgericht verbindlich (E. 2.3). Weiterer medizinischer Abklärungen bedarf es somit nicht, weshalb der in der Beschwerde eventualiter vorgebrachte Vorwurf des Verstosses gegen den Untersuchungsgrundsatz unbegründet ist.
4.2.2. Wenn die Vorinstanz weiter mit Blick auf die erwerblichen Verhältnisse feststellte, das effektiv erzielte, tiefe Einkommen aus dem Autowerkstattbetrieb sei das massgebliche Valideneinkommen, ist dies ebenso wenig bundesrechtswidrig (vgl. <ref-ruling> E. 3.4.6 S. 64). Eine geltend gemachte Parallelisierung der Einkommen gemäss <ref-ruling> E. 4.1 S. 325, die sich allerdings lediglich auf Einkommenswerte von Angestellten bezieht, würde im Übrigen auch nur erfolgen, wenn sich die versicherte Person nicht aus freien Stücken mit einem bescheidenen Einkommen begnügt. Da der Versicherte seit seinem Lehrabschluss den eigenen Betrieb führt und angab, diesen auch nicht aufgeben zu wollen, kann dies nicht angenommen werden. Es sind keine Anhaltspunkte ersichtlich, dass er jemals versucht hätte, in besser entlöhnten Anstellungsverhältnissen als Mechaniker tätig zu sein. Damit liegt hier kein Verstoss gegen das Diskriminierungsverbot vor, ohne dass es weiterer Überlegungen zur bisherigen grundsätzlichen Ablehnung des Bundesgerichts zur Parallelisierung der Einkommen bei selbstständig Erwerbenden bedarf (vgl. <ref-ruling> E. 3.4.7 S. 65; Urteile 8C_626/2011 vom 29. März 2012 E. 4.4, 8C_508/2011 vom 6. Oktober 2011 E. 4.2.2; 8C_486/2008 vom 22. Dezember 2008 E. 3.2).
4.2.3. Das kantonale Gericht legte sodann zutreffend dar, dass der Versicherte in Berücksichtigung eines Tabellenwertes der LSE ein bedeutend höheres Einkommen erzielen könnte als jenes, das er auf der Basis seiner bisherigen selbstständigen Erwerbstätigkeit als Invalideneinkommen berücksichtigt haben will (LSE 2012 S. 35; Durchschnittslohn für einfache und repetitive Tätigkeiten in sämtlichen Wirtschaftszweigen des privaten Sektors, TA1, Total, Männer, Kompetenzniveau 1: Fr. 62'520.- pro Jahr bei einem Vollpensum) und eines Abzugs hiervon im Umfang von 10 % (vgl. <ref-ruling> E. 5.2 S. 301; <ref-ruling> E. 5b S. 80). Hieraus resultiert, bei einem Valideneinkommen von maximal Fr. 50'782.- eine invaliditätsbedingte Einschränkung von 30 %, was einen Rentenanspruch ausschliesst (vgl. Art. 28 Abs. 2 IVG).
4.3.
4.3.1. Selbst wenn die Tätigkeit als Automechaniker dem Herzleiden angepasst wäre, ist demnach unter dem Gesichtspunkt der Schadenminderungspflicht (E. 4.2) zu prüfen, ob dem Beschwerdeführer ein Berufswechsel zumutbar ist, um ein rentenausschliessendes Erwerbseinkommen zu erzielen.
4.3.2. Der Begriff der zumutbaren Tätigkeit im Rahmen der Invaliditätsbemessung nach Art. 16 ATSG bezweckt, die Schadenminderungspflicht zu begrenzen oder - positiv formuliert - deren Mass zu bestimmen. Eine versicherte Person ist daher unter Umständen invalidenversicherungsrechtlich so zu behandeln, wie wenn sie ihre Tätigkeit als selbstständig Erwerbende aufgibt, d.h. sich im Rahmen der Invaliditätsbemessung jene Einkünfte anrechnen lassen muss, welche sie bei Aufnahme einer leidensangepassten unselbstständigen Erwerbstätigkeit zumutbarerweise verdienen könnte. Unter Berücksichtigung dieser Grundsätze, der Umstände im konkreten Fall und des vom Versicherten erzielten geringen Einkommens erweist sich der vom kantonalen Gericht als zumutbar erachtete Wechsel in ein leidensangepasstes Anstellungsverhältnis mit Abstellen auf die statistischen Werte der LSE zur Ermittlung des Invalideneinkommens als bundesrechtskonform. Die Einwendungen, weshalb ein Berufswechsel resp. die Aufgabe des Betriebs unter den gegebenen Umständen nicht zumutbar sein soll, sind nicht stichhaltig. Es trifft zwar zu, dass der Beschwerdeführer seit seiner Ausbildung als Mechaniker im Jahr 1998 als Alleininhaber seine eigene Werkstatt führt. Hieraus kann aber nicht geschlossen werden, dass er sozialpraktisch keinem Arbeitgeber mehr zumutbar ist, wie er behauptet. Die von ihm verlangten Fähigkeiten in der Betriebsführung wie allgemeine Büroarbeiten, akquirieren und koordinieren von Aufträgen kann er weiterhin voll einsetzen sowie leichte körperliche Arbeiten im mechanischen Bereich ohne Limitierung verrichten. Die Aufnahme einer unselbstständigen Erwerbstätigkeit ist ihm sowohl aus beruflicher Sicht als auch mit Blick auf das fortgeschrittene Alter zumutbar. Dies gilt auch hinsichtlich der Wohnverhältnisse. Bei objektiver Betrachtung ist nicht ersichtlich, weshalb eine neue Wohnsituation unzumutbar sein sollte, auch wenn davon nebst dem Versicherten selbst seine Ehefrau und die Kinder betroffen wären. Andere Aspekte, die gegen die Aufgabe der selbstständigen Erwerbstätigkeit sprechen, werden nicht vorgebracht. Bleibt der hypothetische ausgeglichene und nicht der effektive Arbeitsmarkt Referenzpunkt, der von der Struktur her einen Fächer verschiedenartiger Stellen offen hält (<ref-ruling> E. 4.2.1 S. 70 f.; <ref-ruling> E. 4b S. 276), verletzt es nicht Bundesrecht, wenn die Vorinstanz die Aufgabe der selbstständigen Erwerbstätigkeit als zumutbar qualifizierte. Dabei kann ihr mit Blick auf die von ihr angeführten Gründe auch keine Verletzung des Gehörsanspruchs vorgeworfen werden.
4.4. Der Beschwerdeführer rügt im Subeventualstandpunkt, die Vorinstanz habe den Antrag auf berufliche Massnahmen in Verletzung der Untersuchungspflicht und des rechtlichen Gehörs nicht geprüft. Massnahmen beruflicher Art (Berufsberatung, erstmalige berufliche Ausbildung, Umschulung, Arbeitsvermittlung, Kapitalhilfe) bildeten jedoch nicht Gegenstand des Verwaltungsverfahrens, weshalb die Vorinstanz hierauf nicht näher einzugehen brauchte (<ref-ruling> E. 2.1). Die IV-Stelle befand in der Verfügung vom 11. Oktober 2016 einzig über den Rentenanspruch, wobei sie anmerkte, in Bezug auf berufliche Massnahmen habe der Versicherte anlässlich einer ersten Kontaktnahme keinerlei Interessen gezeigt. Bei Meinungsänderung sei ein entsprechender Antrag zu stellen. Sie verwies auf das Protokoll der IV-Stelle vom 6. Januar 2017, worin mit Eintrag vom 17. September 2013 anlässlich einer Abklärung vor Ort mit Eingliederungsberatung festgehalten wurde, der Versicherte wünsche keine Unterstützung in beruflicher Hinsicht. Soweit der Versicherte eine solche letztinstanzlich verlangt, ist demnach auf die Beschwerde mangels Anfechtungsgegenstands nicht einzutreten (<ref-ruling> f. E. 2.1).
5.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Kosten zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Kantonsgericht Luzern, 3. Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 27. September 2017
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Polla