Sachverhalt: A. Mit Verfügung vom 27. Oktober 2009 verneinte die IV-Stelle des Kantons St. Gallen in Berücksichtigung u.a. des Gutachtens des Instituts I._ vom 10. Juni 2009 den Anspruch des 1953 geborenen K._ auf eine Rente der Invalidenversicherung. B. In teilweiser Gutheissung der Beschwerde des K._ hob das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 9. November 2011 die angefochtene Verfügung auf und sprach dem Versicherten eine halbe Rente ab 1. Dezember 2007 zu, unter Rückweisung der Sache an die IV-Stelle zur Festsetzung des Rentenbetrages. C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid vom 9. November 2011 sei aufzuheben. K._ lässt beantragen, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei, eventualiter die Sache an die Vorinstanz zur Vervollständigung der Beweisgrundlage zurückzuweisen. Das kantonale Versicherungsgericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.