Sachverhalt: A. Der 1965 geborene E._ ist Inhaber der im Anlagenbau tätigen Firma E._ AG. Am 19. Juli/6. August 2004 meldete er sich bei der IV-Stelle des Kantons Schaffhausen zum Leistungsbezug an. Mit Einspracheentscheid vom 19. Juli 2006 gab sie dem Rentenbegehren nicht statt. Auf Beschwerde hin hob das Obergericht des Kantons Schaffhausen den Einspracheentscheid auf und wies die Sache an die IV-Stelle zurück, damit sie gemäss den Erwägungen weitere Abklärungen veranlasse und danach über das Leistungsbegehren neu verfüge (Entscheid vom 27. April 2007). Diese holte weitere Arztberichte, ein Gutachten der Medizinischen Begutachtungsstelle, Zentrum X._ vom 9. Oktober 2008 und einen Bericht der beruflichen Abklärungsstelle (BEFAS), Stiftung Y._ vom 3. Mai 2010 ein. Mit Verfügung vom 20. Oktober 2010 verneinte die IV-Stelle den Rentenanspruch. B. Die hiegegen erhobene Beschwerde wies das kantonale Gericht mit Entscheid vom 6. Mai 2011 ab. C. Mit Beschwerde beantragt der Versicherte, in Aufhebung des kantonalen Entscheides sei ihm ab August 2004 eine halbe Invalidenrente zuzusprechen; eventuell sei die Sache zwecks nochmaliger Abklärung der Betriebs- und Einkommenssituation mittels eines betriebswirtschaftlichen Gutachtens an die IV-Stelle zurückzuweisen. Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. Das kantonale Gericht hielt mit Stellungnahme 14. Juli 2011 an seinem Entscheid fest, wozu sich der Versicherte am 6. September 2011 vernehmen liess.