Sachverhalt: A. Der 1958 geborene U._ wurde am 21. November 2004 in Bosnien-Herzegowina in einen Unfall verwickelt. Im Austrittsbericht des Spitals X._ vom 15. Dezember 2004, wo U._ vom 22. November bis 7. Dezember 2004 stationär behandelt worden war, wurden eine zweiseitige Milzruptur, Rippenserienfrakturen beidseits sowie eine postoperative Thrombozytose diagnostiziert. Am 24. November 2008 meldete sich U._ bei der Invalidenversicherung zum Leistungsbezug an. Im Auftrag der IV-Stelle des Kantons St. Gallen wurde U._ vom medizinischen Abklärungsinstitut Y._ am 8. Juli 2009 untersucht (Expertise vom 24. August 2009). Mit Verfügung vom 15. Februar 2010 lehnte die IV-Stelle den Anspruch auf eine Invalidenrente ab. B. U._ liess Beschwerde führen mit dem Antrag, unter Aufhebung der Verfügung vom 15. Februar 2010 sei die IV-Stelle des Kantons St. Gallen zu verpflichten, ihm mindestens eine Viertelsrente der Invalidenversicherung zuzusprechen und weitere medizinische Abklärungen zur Feststellung des Arbeitsfähigkeitsgrades durchzuführen. Mit Entscheid vom 10. August 2011 hiess das Versicherungsgericht des Kantons St. Gallen die Beschwerde in dem Sinne gut, dass es die Verfügung vom 15. Februar 2010 aufhob und die Sache zur Weiterführung des Verwaltungsverfahrens im Sinne der Erwägungen an die IV-Stelle zurückwies. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die Sozialversicherungsanstalt St. Gallen, der Entscheid des Versicherungsgerichts vom 10. August 2011 sei aufzuheben. U._ lässt auf Abweisung der Beschwerde schliessen; ferner ersucht er um die unentgeltliche Rechtspflege. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung. D. Mit Eingabe vom 15. März 2012 lässt U._ das Gesuch um unentgeltliche Rechtspflege zurückziehen.