Sachverhalt:
A. Am 6. Februar 2008 wurde über die S._ AG der Konkurs eröffnet. Das Konkursverfahren wurde mit Verfügung vom 4. Juni 2008 mangels Aktiven eingestellt, und am 4. Dezember 2009 wurde die Gesellschaft von Amtes wegen gelöscht. Mit Verfügung vom 4. Februar 2010 verpflichtete die Ausgleichskasse des Kantons Zürich W._, M._ und F._, ehemalige Mitglieder des Verwaltungsrates der Konkursitin, ihr in solidarischer Haftung Schadenersatz im Betrag von Fr. 72'964.25 für unbezahlt gebliebene Beiträge zu entrichten. Auf Einsprache der Belangten W._ und F._ reduzierte die Ausgleichskasse ihre Schadenersatzforderung mit Entscheid vom 7. Februar 2011 auf Fr. 68'166.80, während sie die Einsprache von M._ mit Entscheid vom 8. Februar 2011 guthiess und die diesen betreffende Schadenersatzforderung aufhob.
B. W._ und F._ fochten den Einspracheentscheid vom 7. Februar 2011 beschwerdeweise an, je mit dem Antrag auf dessen Aufhebung. Das Sozialversicherungsgericht des Kantons Zürich vereinigte die beiden Verfahren. Mit Entscheid vom 29. August 2012 wies es die Beschwerden ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lassen F._ und W._ beantragen, der vorinstanzliche Entscheid und die Einspracheentscheide seien aufzuheben. Ferner ersuchen sie um die Erteilung der aufschiebenden Wirkung.
Während die Ausgleichskasse auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2. 2.1 Dass die Beschwerdeführer als verantwortliche Organe der früheren S._ AG von der Ausgleichskasse grundsätzlich subsidiär als Schadenersatzpflichtige belangt werden können, ist zu Recht unbestritten.
2.2 Die Beschwerdeführer bestreiten ihre Verpflichtung, für den von der Ausgleichskasse gemäss Einspracheentscheid festgesetzten Schaden von Fr. 68'166.80 Ersatz zu leisten. Sie machen geltend, nur für die Beiträge für Juni 2007 haftbar zu sein. Sie seien gemäss Schreiben vom 6. August 2007 mit sofortiger Wirkung aus dem Verwaltungsrat zurückgetreten. Somit hafteten sie nur für diejenigen Beiträge, die bis zu diesem Zeitpunkt entstanden und zur Zahlung fällig gewesen seien. Anhand der Lohnmeldungen der nachmaligen Konkursitin ergäben sich Beiträge, welche die Ausstände bis Juni 2007 mehr als gedeckt hätten.
3. Was die Haftungsvoraussetzung der Widerrechtlichkeit betrifft, hat die Vorinstanz zutreffend dargelegt, dass die Beitragszahlungs- und Abrechnungspflicht des Arbeitgebers eine gesetzlich vorgeschriebene (<ref-law>; <ref-law>) öffentlichrechtliche Aufgabe ist, deren Nichterfüllung eine Missachtung von Vorschriften im Sinne von <ref-law> bedeutet und die volle Schadendeckung nach sich zieht (<ref-ruling> E. 2a S. 195; SVR 2005 AHV Nr. 7 S. 23, H 34/04). Gemäss den verbindlichen Feststellungen der Vorinstanz hat die Konkursitin ihre Beitragspflicht als Arbeitgeberin regelmässig erst nach mehrfacher Mahnung erfüllt und die Beiträge teilweise erst nach vorgängiger Betreibung bezahlt. Die Gesellschaft habe immer wieder Verzugszinsen entrichten müssen, und die Beiträge seien zu einem erheblichen Teil unbezahlt geblieben. Die Missachtung der gesetzlichen Abrechnungs- und Beitragszahlungspflichten erfüllt die Haftungsvoraussetzung der Widerrechtlichkeit der Nichtbezahlung der geschuldeten Beiträge.
4. 4.1 Das Sozialversicherungsgericht hat die Frage offen gelassen, ob die Beschwerdeführer, wie geltend gemacht, am 6. oder allenfalls am 31. August 2007 aus dem Verwaltungsrat der Gesellschaft ausgeschieden seien und wie ihre entsprechenden schriftlichen Mitteilungen verstanden werden müssten. Denn die Beschwerdeführer hätten in der Folge als faktische Organe weiterhin für die Gesellschaft gehandelt. Beide hätten noch bis zum 18. Oktober 2007 Zahlungen an die Ausgleichskasse veranlasst. Damit hätten beide Beschwerdeführer weiterhin finanzielle Handlungsbefugnis und massgeblichen Einfluss auf den Geschäftsgang der Gesellschaft gehabt. In Würdigung dieser Umstände sei deshalb das Rücktrittsschreiben der Beschwerdeführer vom 1. November 2007 zu Handen der Gesellschaft als massgeblich zu betrachten.
4.2 Die Beschwerdeführer haben mit Schreiben vom 6. August 2007 gegenüber dem Hauptaktionär der S._ AG, C._, Italien, mit sofortiger Wirkung den Rücktritt aus dem Verwaltungsrat der Gesellschaft erklärt. Mit diesem Demissionsschreiben endete ihre formelle Organstellung. Die Vorinstanz, welche offen gelassen hat, bis zu welchem Datum die formelle Organstellung angenommen werden muss und auf faktische Organstellung geschlossen hat, verletzt demgegenüber Bundesrecht. Denn die Veranlassung einzelner Beitragszahlungen begründet keine faktische Organstellung (REICHMUTH, Die Haftung des Arbeitgebers und seiner Organe nach <ref-law>, S. 56 N 227 Fn 361). Andere Umstände oder zumindest Indizien, welche darauf schliessen liessen, dass die Beschwerdeführer in der Gesellschaft nach der Demission die Position faktischer Organe inne hatten, stellt die Vorinstanz nicht fest. Daher verbietet sich die Annahme faktischer Organstellung.
4.3 Mit der Beendigung der Organstellung aufgrund der Demission als Verwaltungsratsmitglieder am 6. August 2007 entgehen die Beschwerdeführer der Haftung für die ab diesem Datum fälligen (und dann ausgefallenen) Beiträge. Wie in der Beschwerde zu Recht geltend gemacht wird, sind gemäss Abrechnung der Ausgleichskasse nur die Beiträge für Juli und August 2007 offen, während diejenigen für September bis November 2007 bezahlt wurden. Da Zahlungen und Gutschriften grundsätzlich in analoger Anwendung von Art. 86f. OR an die ältesten Schulden anzurechnen sind (REICHMUTH, a.a.O., S. 66 Rz 274), sind die Beitragsforderungen für die Monate Juli und August 2007 getilgt, nachdem die Ausgleichskasse davon abgesehen hat, die Schulden zu bezeichnen, die sie zuerst getilgt haben wollte (REICHMUTH, a.a.O., S. 110, Rz 466), was zur Folge hatte, dass die später von der nachmaligen Konkursitin bezahlten Beiträge an die ältesten Beitragsschulden - Ausstände für die Monate Juli und August 2007 - anzurechnen sind.
4.4 Da die Forderungen, zu deren Ersatz die Ausgleichskasse die Beschwerdeführer verpflichtet hat, durch die späteren Zahlungen getilgt wurden, entfällt eine Haftung, und es erübrigt sich eine Prüfung des Verschuldens als weitere Voraussetzung einer Schadenersatzpflicht.
5. Mit dem Urteil in der Sache wird das Gesuch der Beschwerdeführer um Erteilung der aufschiebenden Wirkung gemäss <ref-law> gegenstandslos.
6. Dem Verfahrensausgang entsprechend sind die Gerichtskosten der unterliegenden Ausgleichskasse aufzuerlegen (<ref-law>). Diese hat den Beschwerdeführern zudem eine Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt der Einzelrichter:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 28. August 2012 sowie der Einspracheentscheid der Ausgleichskasse des Kantons Zürich vom 7. Februar 2011 werden aufgehoben.
2. Die Gerichtskosten von Fr. 6000.- werden der Beschwerdegegnerin auferlegt.
3. Die Ausgleichskasse des Kantons Zürich hat die Beschwerdeführer für das bundesgerichtliche Verfahren mit insgesamt Fr. 2800.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Parteientschädigung des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
5. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. April 2013
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Einzelrichter: Meyer
Der Gerichtsschreiber: Widmer