Sachverhalt: A. Am 6. Februar 2008 wurde über die S._ AG der Konkurs eröffnet. Das Konkursverfahren wurde mit Verfügung vom 4. Juni 2008 mangels Aktiven eingestellt, und am 4. Dezember 2009 wurde die Gesellschaft von Amtes wegen gelöscht. Mit Verfügung vom 4. Februar 2010 verpflichtete die Ausgleichskasse des Kantons Zürich W._, M._ und F._, ehemalige Mitglieder des Verwaltungsrates der Konkursitin, ihr in solidarischer Haftung Schadenersatz im Betrag von Fr. 72'964.25 für unbezahlt gebliebene Beiträge zu entrichten. Auf Einsprache der Belangten W._ und F._ reduzierte die Ausgleichskasse ihre Schadenersatzforderung mit Entscheid vom 7. Februar 2011 auf Fr. 68'166.80, während sie die Einsprache von M._ mit Entscheid vom 8. Februar 2011 guthiess und die diesen betreffende Schadenersatzforderung aufhob. B. W._ und F._ fochten den Einspracheentscheid vom 7. Februar 2011 beschwerdeweise an, je mit dem Antrag auf dessen Aufhebung. Das Sozialversicherungsgericht des Kantons Zürich vereinigte die beiden Verfahren. Mit Entscheid vom 29. August 2012 wies es die Beschwerden ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lassen F._ und W._ beantragen, der vorinstanzliche Entscheid und die Einspracheentscheide seien aufzuheben. Ferner ersuchen sie um die Erteilung der aufschiebenden Wirkung. Während die Ausgleichskasse auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.