A.- Mit Verfügung vom 28. Januar 2000 verpflichtete die Ausgleichskasse des Kantons St. Gallen den im Handelsregister mit Einzelzeichnungsberechtigung für die in Konkurs gefallene Firma X._ AG eingetragenen R._, für nicht mehr erhältliche Sozialversicherungsbeiträge zuzüglich Betreibungskosten, Verzugszinsen und Mahngebühren Schadenersatz im Ausmass von Fr. 20'731. 45 zu leisten. B.- Nach Einspruch von R._ klagte die Kasse auf Bezahlung von Fr. 18'023. 95. Mit Entscheid vom 9. Februar 2001 hiess das Versicherungsgericht des Kantons St. Gallen die Klage teilweise gut und verurteilte R._, der Ausgleichskasse Fr. 2934. 25 zu entrichten. C.- Die Ausgleichskasse führt Verwaltungsgerichtsbeschwerde mit dem Antrag, R._ sei zu einer Zahlung von Fr. 9099. 80, eventuell Fr. 7974. 25 zu verpflichten. Subeventuell sei der kantonale Entscheid insoweit aufzuheben, als R._ darin eine Parteientschädigung von Fr. 1200.- zugesprochen werde. R._ lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen, das Bundesamt für Sozialversicherung (BSV) hingegen auf deren Gutheissung. Das kantonale Versicherungsgericht äussert sich zur Sache, ohne einen Antrag zu stellen.