Sachverhalt:
A. Der 1965 geborene E._ ist Inhaber der im Anlagenbau tätigen Firma E._ AG. Am 19. Juli/6. August 2004 meldete er sich bei der IV-Stelle des Kantons Schaffhausen zum Leistungsbezug an. Mit Einspracheentscheid vom 19. Juli 2006 gab sie dem Rentenbegehren nicht statt. Auf Beschwerde hin hob das Obergericht des Kantons Schaffhausen den Einspracheentscheid auf und wies die Sache an die IV-Stelle zurück, damit sie gemäss den Erwägungen weitere Abklärungen veranlasse und danach über das Leistungsbegehren neu verfüge (Entscheid vom 27. April 2007). Diese holte weitere Arztberichte, ein Gutachten der Medizinischen Begutachtungsstelle, Zentrum X._ vom 9. Oktober 2008 und einen Bericht der beruflichen Abklärungsstelle (BEFAS), Stiftung Y._ vom 3. Mai 2010 ein. Mit Verfügung vom 20. Oktober 2010 verneinte die IV-Stelle den Rentenanspruch.
B. Die hiegegen erhobene Beschwerde wies das kantonale Gericht mit Entscheid vom 6. Mai 2011 ab.
C. Mit Beschwerde beantragt der Versicherte, in Aufhebung des kantonalen Entscheides sei ihm ab August 2004 eine halbe Invalidenrente zuzusprechen; eventuell sei die Sache zwecks nochmaliger Abklärung der Betriebs- und Einkommenssituation mittels eines betriebswirtschaftlichen Gutachtens an die IV-Stelle zurückzuweisen.
Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. Das kantonale Gericht hielt mit Stellungnahme 14. Juli 2011 an seinem Entscheid fest, wozu sich der Versicherte am 6. September 2011 vernehmen liess.
Erwägungen:
1. Die Beschwerde kann wegen Rechtsverletzung nach Art. 95 f. BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Immerhin prüft es grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (Art. 42 Abs. 1 und 2 BGG; BGE 133 II 249 E. 1.4.1 S. 254). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG) und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1 BGG). Dies ist aufgrund der Vorbringen in der Beschwerde zu prüfen (nicht publ. E. 1 des Urteils BGE 135 V 306, in SVR 2009 IV Nr. 52 S. 161 [8C_763/2008]).
Die auf Grund medizinischer Untersuchungen gerichtlich festgestellte Arbeitsfähigkeit betrifft eine Tatfrage, ebenso wie die Frage der Zumutbarkeit eines Berufswechsels, solange diese nicht ausschliesslich gestützt auf die allgemeine Lebenserfahrung beurteilt wurde (BGE 132 V 393 E. 3.2 S. 397 ff.). Rechtsfragen sind die unvollständige Feststellung rechtserheblicher Tatsachen sowie die Missachtung des Untersuchungsgrundsatzes (Art. 43 Abs. 1, Art. 61 lit. c ATSG) und der Anforderungen an den Beweiswert von Arztberichten (BGE 134 V 231 E. 5.1 S. 232). Die konkrete Beweiswürdigung ist Tatfrage (nicht publ. E. 4.1 des Urteils BGE 135 V 254, in SVR 2009 IV Nr. 53 S. 164 [9C_204/2009]; Urteil 9C_773/2010 vom 20. Oktober 2010 E. 1.2).
2. Die Vorinstanz hat die für die Beurteilung des Rentenanspruchs massgeblichen Rechtsgrundlagen zutreffend dargelegt. Darauf wird verwiesen. Richtig ist insbesondere, dass die versicherte Person, bevor sie Leistungen verlangt, aufgrund der Schadenminderungspflicht alles ihr Zumutbare selber vorzukehren hat, um die Folgen der Invalidität bestmöglich zu mindern. Ein Rentenanspruch ist zu verneinen, wenn sie selbst ohne Eingliederungsmassnahmen, nötigenfalls mit einem Berufswechsel, zumutbarerweise in der Lage ist, ein rentenausschliessendes Erwerbseinkommen zu erzielen. Für die Auslegung des unbestimmten Rechtsbegriffs der zumutbaren Tätigkeit im Allgemeinen, wie bei der Aufgabe der selbstständigen Erwerbstätigkeit im Besonderen, sind die gesamten subjektiven und objektiven Gegebenheiten des Einzelfalles zu berücksichtigen. Im Vordergrund stehen bei den subjektiven Umständen die verbliebene Leistungsfähigkeit sowie die weiteren persönlichen Verhältnisse, wie Alter, berufliche Stellung, Verwurzelung am Wohnort etc. Bei den objektiven Umständen sind insbesondere der ausgeglichene Arbeitsmarkt und die noch zu erwartende Aktivitätsdauer massgeblich (SVR 2010 IV Nr. 11 S. 35 E. 4.1 und 4.3 [9C_236/2009] und 2007 IV Nr. 1 S. 1 E. 5.3 [I 750/04]; Urteil 8C_482/2010 vom 27. September 2010 E. 4.2).
3. Im Gutachten des Zentrums X._ vom 9. Oktober 2008 wurde beim Versicherten ein chronisches neuropathisches Schmerzsyndrom an beiden Vorfüssen mit Einfluss auf die Arbeitsfähigkeit diagnostiziert. Er sei in der angestammten Arbeit als selbstständigerwerbender Ersteller von Anlagen zu 50 % arbeitsunfähig. In wechselbelastenden, etwa zur Hälfte im Sitzen durchgeführten Arbeiten mit nur gelegentlich anfallendem Tragen und Heben von Lasten bis zu 10 kg, mit Benutzung von Hebehilfsvorrichtungen und Vermeidung von Arbeiten auf unebenem Boden, Leitern und Gerüsten sowie häufigem Treppensteigen, bestehe 100%ige Arbeitsfähigkeit. Diese von der Vorinstanz übernommene Einschätzung ist unbestritten, weshalb darauf abzustellen ist.
4. 4.1 Die Vorinstanz hat mit einlässlicher Begründung, auf die verwiesen wird, zutreffend erwogen, dass der Versicherte unter Berücksichtigung seiner im BEFAS-Bericht vom 3. Mai 2010 festgestellten Fähigkeiten seine Restarbeitsfähigkeit durch einen zumutbaren Berufswechsel in die unselbstständige Erwerbstätigkeit bei ausgeglichener Arbeitsmarktlage wirtschaftlich verwerten und ein rentenausschliessendes Einkommen erzielen kann. Der Versicherte erhebt keine Rügen, welche die vorinstanzliche Sachverhaltsfeststellung als offensichtlich unrichtig oder als Ergebnis willkürlicher Beweiswürdigung oder als rechtsfehlerhaft nach Art. 95 BGG erscheinen lassen. Festzuhalten ist insbesondere Folgendes:
4.2 Die IV-Stelle führte in der streitigen Verfügung aus, bei Eintritt des Gesundheitsschadens des Versicherten habe seine Ehefrau nicht im Betrieb mitgearbeitet. In der vorinstanzlichen Beschwerde bestritt er diese Feststellung nicht. Die Vorinstanz erwog, gemäss dem Abklärungsbericht für Selbstständigerwerbende vom 7. März 2005 sei er vor Eintritt seines Gesundheitsschadens allein im Betrieb beschäftigt gewesen, weshalb die mit der Betriebsaufgabe verbundene Auswirkung auf seine Ehefrau nicht zu berücksichtigen sei. Wenn der Versicherte nunmehr letztinstanzlich bestreitet, dass sie erst nach dem Jahr 2005 bei den Büroarbeiten, beim Telefondienst, bei der Offertausarbeitung etc. mitgewirkt habe, ist dies ein unzulässiges neues Tatsachenvorbringen (Art. 99 Abs. 1 BGG; BGE 135 V 194; nicht publ. E. 2.3 des Urteils BGE 135 V 163, in SVR 2009 BVG Nr. 30 S. 109 [9C_920/2008]). Hievon abgesehen kann die diesbezügliche vorinstanzliche Feststellung nicht als offensichtlich unrichtig angesehen werden, da der Versicherte am 7. März 2005 klar angab, vor seiner gesundheitlichen Einschränkung habe die Ehefrau im Betrieb nicht mitgearbeitet. Zudem legt er letztinstanzlich nicht substanziiert dar, inwiefern die Betriebsaufgabe im Lichte ihrer jetzigen Mitarbeit unzumutbar sein soll.
4.3 Der Versicherte bringt vor, eine Betriebsaufgabe mit entsprechender Liquidation würde eine erhebliche Vernichtung von Vermögenswerten bzw. finanzielle Nachteile mit sich bringen, wie seine aus den Buchhaltungsunterlagen der Jahre 1998-2009 ersichtlichen Investitionen zeigten. Dies sei bei der Zumutbarkeitsbeurteilung nicht berücksichtigt worden. Diesem Einwand kann nicht gefolgt werden. Denn die Vorinstanz erwog zu Recht, der Versicherte habe nicht dargelegt, inwiefern die Aufgabe und Liquidation des Betriebes finanzielle Nachteile mit sich bringen könnte und mit dem Verkauf der Maschinen und der Räumung seiner Materiallagers ein erhebliches Verlustrisiko verbunden sein solle. Es ist nicht ersichtlich und wird vom Versicherten auch nicht geltend gemacht, weshalb er sich nicht wenigstens schätzungsweise zu allfälligen finanziellen Nachteilen äusserte. Hievon abgesehen substanziiert er sein Vorbringen auch letztinstanzlich nicht. Sein bloss pauschaler Hinweis auf die Buchhaltungsunterlagen ist nicht hinreichend. Das diesbezügliche Fehlen tatsächlicher Behauptungen kann auch nicht durch seinen Antrag auf Einholung eines betriebswirtschaftlichen Gutachtens ersetzt werden (BGE 129 III 18 E. 2.6 S. 24 f.; Urteil 4A_267/2007 vom 24. Oktober 2007 E. 5.4). Zudem ist es ein unzulässiges neues Beweismittel, da es vom Versicherten vorinstanzlich bei der Frage nach der Zumutbarkeit der Betriebsaufgabe nicht beantragt wurde (Bernard Corboz, in: Corboz/Wurzburger/Ferrari/ Frésard/Girardin, Commentaire de la LTF, Bern 2009, N. 17 zu Art. 99 BGG).
4.4 Der Versicherte wendet ein, die Handels- und Gewerbefreiheit (Art. 31 Abs. 1 BV; recte: Wirtschaftsfreiheit [Art. 27 BV]) beinhalte den Schutz der Berufswahlfreiheit und gewähre Anspruch auf freie Wahl des Arbeitsortes. In diesem Zusammenhang sei einem Selbstständigerwerbenden, der in seinem aufgebauten Betrieb allenfalls aus gesundheitlichen Gründen einen Gewinnrückgang erleide, mit diesem jedoch den Betrieb voraussichtlich aufrecht erhalten könne, eine Betriebsaufgabe grundsätzlich unzumutbar. Hierbei beruft er sich auf die Literatur (Hardy Landolt, Das Zumutbarkeitsprinzip im schweizerischen Sozialversicherungsrecht, Diss. Zürich 1995, S. 139 f.; MEYER-BLASER, Zum Verhältnismässigkeitsgrundsatz im staatlichen Leistungsrecht, Diss. Bern 1985, S. 139) und auf das Urteil I 283/83 vom 19. Oktober 1983. Weiter bringt er vor, die Ehefrau habe etwelche Arbeiten (Telefonpräsenz, Buchhaltung, Offertenerstellung) in vermehrtem Mass übernommen, so dass er mit häufigeren Ruhepausen in der Lage sei, seine Arbeiten im Umfang von 50 % seines früheren Leistungsvermögens über den ganzen Tag zu verteilen. Selbst gemäss der Annahme der IV-Stelle resultiere auch bei erfolgreicher Umschulung ein Invaliditätsgrad von 32 % (vgl. E. 5.2 hienach); damit könne in keiner Art und Weise von angemessener Eingliederung gesprochen werden.
Dieser Argumentation des Versicherten kann nicht gefolgt werden. In dem einen Landwirt betreffenden Urteil I 283/83 wurde nicht generell gesagt, die Aufgabe eines trotz Gewinnrückgangs überlebensfähigen Betriebs sei unzumutbar; die Frage der Zumutbarkeit des Berufswechsels wurde vielmehr unter Berücksichtigung der Umstände des konkreten Falles geprüft und verneint.
Entscheidend ist, dass dem Beschwerdeführer im Lichte der gesamten subjektiven und objektiven Gegebenheiten des Falles ein Berufswechsel zumutbar ist und er damit ein rentenausschliessendes Erwerbseinkommen erzielen kann (E. 2 und 4.1 hievor). Er kann nicht verlangen, auf Kosten der Invalidenversicherung einen Betrieb aufrecht zu erhalten, auch wenn er darin Arbeit von einer gewissen erwerblichen Bedeutung leistet. Soweit in der Literatur eine abweichende Meinung vertreten wird, kann dem nicht gefolgt werden. Eine Verletzung des Art. 27 BV ist nicht ersichtlich (AHI 2001 S. 277 E. 5a/bb [I 11/00]; Urteil I 15/05 vom 18. Juli 2005 E. 6.4).
5. Weil die Invalidität auf der Basis eines Berufswechsels zu ermitteln ist, kommt der Einkommensvergleich zur Anwendung (Art. 16 ATSG; Art. 28a Abs. 1 IVG; BGE 132 V 393 E. 3.3 S. 399; Urteil I 38/06 vom 7. Juni 2006 E. 3.3 und 4). Das von IV-Stelle und Vorinstanz ermittelte Invalideneinkommen von jährlich Fr. 75'000.- ist unbestritten. Das Valideneinkommen veranschlagten sie auf Fr. 110'418.-, was einen Invaliditätsgrad von gerundet 32 % (zur Rundung: BGE 130 V 121) ergibt. Soweit der Versicherte einwendet, teuerungsbereinigt betrage sein Valideneinkommen Fr. 123'000.-, ist darauf nicht weiter einzugehen, da auch diesfalls ein rentenausschliessender Invaliditätsgrad von gerundet 39 % resultiert (Art. 28 Abs. 2 IVG). Ein betriebswirtschaftliches Gutachten zur Einkommensentwicklung in seiner Firma ist somit nicht einzuholen; ein solches entspräche ohnehin nicht gängiger Praxis zur Bestimmung des Valideneinkommens (BGE 135 V 58 E. 3.1 S. 59; SVR 2010 IV Nr. 26 S. 79 E. 3.3 [8C_9/2009]).
6. Der unterliegende Beschwerdeführer trägt die Verfahrenskosten (Art. 66 Abs. 1, Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Schaffhausen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. September 2011
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Der Gerichtsschreiber: Jancar