Sachverhalt:
Sachverhalt:
A. W._ war seit Gründung bis zum 11. Januar 1999 Vize-, danach Verwaltungsratspräsident der Firma A._ AG; Z._ amtete zuerst als Präsident, ab 11. Januar 1999 bis zu seinem Ausscheiden am 16. März 2000 als Vizepräsident des Verwaltungsrates. Die A._ AG war seit ihrer Gründung im Dezember 1998 der Ausgleichskasse Zug als Arbeitgeberin angeschlossen. Gemäss dem Abklärungsbogen der Ausgleichskasse waren Rechnungen und Korrespondenz an die Filiale in L._ zu schicken. 2000 wurde über die Firma der Konkurs eröffnet. Der Kollokationsplan wurde am ...... aufgelegt. Mit Verfügung vom 11. November 2002 verpflichtete die Ausgleichskasse Z._ zur Bezahlung von Schadenersatz für entgangene Beiträge in der Höhe von Fr. 36'304.40.
A. W._ war seit Gründung bis zum 11. Januar 1999 Vize-, danach Verwaltungsratspräsident der Firma A._ AG; Z._ amtete zuerst als Präsident, ab 11. Januar 1999 bis zu seinem Ausscheiden am 16. März 2000 als Vizepräsident des Verwaltungsrates. Die A._ AG war seit ihrer Gründung im Dezember 1998 der Ausgleichskasse Zug als Arbeitgeberin angeschlossen. Gemäss dem Abklärungsbogen der Ausgleichskasse waren Rechnungen und Korrespondenz an die Filiale in L._ zu schicken. 2000 wurde über die Firma der Konkurs eröffnet. Der Kollokationsplan wurde am ...... aufgelegt. Mit Verfügung vom 11. November 2002 verpflichtete die Ausgleichskasse Z._ zur Bezahlung von Schadenersatz für entgangene Beiträge in der Höhe von Fr. 36'304.40.
B. Nachdem Z._ Einspruch erhoben hatte, reichte die Ausgleichskasse am 5. Dezember 2002 Klage ein, mit welcher sie beantragte, Z._ sei zu verpflichten, ihr Schadenersatz in der Höhe von Fr. 36'304.40 zu bezahlen. Das Verwaltungsgericht des Kantons Zug hiess mit Entscheid vom 21. August 2003 die Klage im Betrag von Fr. 35'311.50 gut.
B. Nachdem Z._ Einspruch erhoben hatte, reichte die Ausgleichskasse am 5. Dezember 2002 Klage ein, mit welcher sie beantragte, Z._ sei zu verpflichten, ihr Schadenersatz in der Höhe von Fr. 36'304.40 zu bezahlen. Das Verwaltungsgericht des Kantons Zug hiess mit Entscheid vom 21. August 2003 die Klage im Betrag von Fr. 35'311.50 gut.
C. Z._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, es seien der vorinstanzliche Entscheid aufzuheben und die Klage der Ausgleichskasse abzuweisen; eventualiter sei die Sache an das kantonale Gericht zurückzuweisen. Das Verwaltungsgericht des Kantons Zug und die Ausgleichskasse schliessen auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung.

Das Eidg. Versicherungsgericht zieht in Erwägung:
Das Eidg. Versicherungsgericht zieht in Erwägung:
1. 1.1 Nachdem der Beschwerdeführer mit dem vorinstanzlichen Entscheid nur zur Bezahlung von Schadenersatz für entgangene Beiträge gestützt auf Bundesrecht verpflichtet wurde, kann auf die Verwaltungsgerichtsbeschwerde vollumfänglich eingetreten werden (<ref-ruling> Erw. 1 mit Hinweis).
1.2 Da es sich bei der angefochtenen Verfügung nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen handelt, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob das vorinstanzliche Gericht Bundesrecht verletzt hat, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
1.2 Da es sich bei der angefochtenen Verfügung nicht um die Bewilligung oder Verweigerung von Versicherungsleistungen handelt, hat das Eidgenössische Versicherungsgericht nur zu prüfen, ob das vorinstanzliche Gericht Bundesrecht verletzt hat, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt worden ist (Art. 132 in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
2. Vorweg ist der Einwand des Beschwerdeführers zu prüfen, wonach das kantonale Gericht sein rechtliches Gehör verletzt habe, indem es angebotene Beweise nicht abgenommen habe; dadurch habe es auch seine Begründungspflicht verletzt sowie eine unzulässige antizipierte Beweiswürdigung vorgenommen.
2.1 Gemäss <ref-law> haben die Parteien Anspruch auf rechtliches Gehör. Das rechtliche Gehör dient einerseits der Sachaufklärung, andererseits stellt es ein persönlichkeitsbezogenes Mitwirkungsrecht beim Erlass eines Entscheids dar, welcher in die Rechtsstellung einer Person eingreift. Dazu gehört insbesondere deren Recht, sich vor Erlass des in ihre Rechtsstellung eingreifenden Entscheids zur Sache zu äussern, erhebliche Beweise beizubringen, Einsicht in die Akten zu nehmen, mit erheblichen Beweisanträgen gehört zu werden und an der Erhebung wesentlicher Beweise entweder mitzuwirken oder sich zumindest zum Beweisergebnis zu äussern, wenn dieses geeignet ist, den Entscheid zu beeinflussen (<ref-ruling> Erw. 2.2, 127 I 56 Erw. 2b, 127 III 578 Erw. 2c, 126 V 130 Erw. 2a; zu Art. 4 Abs. 1 aBV ergangene, weiterhin geltende Rechtsprechung: <ref-ruling> Erw. 2a/aa, 124 V 181 Erw. 1a, 375 Erw. 3b, je mit Hinweisen).
Führen die von Amtes wegen vorzunehmenden Abklärungen die Verwaltung oder das Gericht bei pflichtgemässer Beweiswürdigung zur Überzeugung, ein bestimmter Sachverhalt sei als überwiegend wahrscheinlich zu betrachten und es könnten weitere Beweismassnahmen an diesem feststehenden Ergebnis nichts mehr ändern, so ist auf die Abnahme weiterer Beweise zu verzichten (antizipierte Beweiswürdigung; Kieser, Das Verwaltungsverfahren in der Sozialversicherung, S. 212, Rz 450; Kölz/Häner, Verwaltungsverfahren und Verwaltungsrechtspflege des Bundes, 2. Aufl., S. 39, Rz 111 und S. 117, Rz 320; Gygi, Bundesverwaltungsrechtspflege, 2. Aufl., S. 274; vgl. auch <ref-ruling> Erw. 4a, 122 III 223 Erw. 3c, 120 Ib 229 Erw. 2b, 119 V 344 Erw. 3c mit Hinweis). In einem solchen Vorgehen liegt kein Verstoss gegen das rechtliche Gehör gemäss <ref-law> (SVR 2001 IV Nr. 10 S. 28 Erw. 4b; zu Art. 4 Abs. 1 aBV ergangene, weiterhin geltende Rechtsprechung: <ref-ruling> Erw. 4b, 122 V 162 Erw. 1d mit Hinweis).
2.2 Entgegen der Ansicht des Beschwerdeführers hat die Vorinstanz eingehend und in nachvollziehbarer Weise dargelegt, weshalb sie dem Antrag auf Sistierung des Verfahrens bis zum Abschluss des Strafverfahrens gegen W._ sowie der Ansicht des Beschwerdeführers, ihn treffe auf Grund betrügerischer Machenschaften von W._ kein Verschulden, nicht gefolgt ist. Sie ist somit ihrer Begründungspflicht nachgekommen und hat auch keine unzulässige antizipierte Beweiswürdigung vorgenommen (vgl. Erw. 4.4). Wie die Vorinstanz in ihrer Stellungnahme zutreffend festhält, kann es nicht Sache des Sozialversicherungsgerichts sein, sämtliche Konkurs- und Strafverfahrensakten nach entlastenden Momenten zu durchforsten, ohne dass der Beschwerdeführer darlegt, in welchem konkreten Verhalten oder einzelnen Umstand ein Entlastungsgrund liegt. Das rechtliche Gehör ist nach dem Gesagten nicht verletzt worden.
2.2 Entgegen der Ansicht des Beschwerdeführers hat die Vorinstanz eingehend und in nachvollziehbarer Weise dargelegt, weshalb sie dem Antrag auf Sistierung des Verfahrens bis zum Abschluss des Strafverfahrens gegen W._ sowie der Ansicht des Beschwerdeführers, ihn treffe auf Grund betrügerischer Machenschaften von W._ kein Verschulden, nicht gefolgt ist. Sie ist somit ihrer Begründungspflicht nachgekommen und hat auch keine unzulässige antizipierte Beweiswürdigung vorgenommen (vgl. Erw. 4.4). Wie die Vorinstanz in ihrer Stellungnahme zutreffend festhält, kann es nicht Sache des Sozialversicherungsgerichts sein, sämtliche Konkurs- und Strafverfahrensakten nach entlastenden Momenten zu durchforsten, ohne dass der Beschwerdeführer darlegt, in welchem konkreten Verhalten oder einzelnen Umstand ein Entlastungsgrund liegt. Das rechtliche Gehör ist nach dem Gesagten nicht verletzt worden.
3. Die Vorinstanz hat die zeitliche Anwendung des seit 1. Januar 2003 in Kraft stehenden Bundesgesetzes über den Allgemeinen Teil des Sozialversicherungsrechts (ATSG; <ref-ruling> Erw. 1.2; AHI 2004 S. 111, je mit Hinweisen) zutreffend dargelegt. Dasselbe gilt für die Bestimmungen über die Arbeitgeberhaftung (<ref-law>; <ref-law> in Verbindung mit <ref-law>) sowie die hiezu ergangene Rechtsprechung, insbesondere über die subsidiäre Haftung der Organe eines Arbeitgebers (<ref-ruling> Erw. 5b; SVR 2003 AHV Nr. 1 S. 2 Erw. 3, je mit Hinweisen), den zu ersetzenden Schaden (<ref-ruling> Erw. 3a, 123 V 15 Erw. 5b, 121 III 384 Erw. 3bb, je mit Hinweisen), die erforderliche Widerrechtlichkeit (<ref-ruling> Erw. 2a; SVR 2001 AHV Nr. 15 S. 52 Erw. 6, je mit Hinweisen), die Voraussetzung des Verschuldens (<ref-ruling> Erw. 1b, 202 Erw. 3a; ZAK 1992 S. 248 Erw. 4b, 1985 S. 620 Erw. 3b, je mit Hinweisen) sowie den verlangten adäquaten Kausalzusammenhang (BGE 125 V 461 Erw. 5a, 119 V 406 Erw. 4a; AHI 1996 S. 292 Erw. 4, je mit Hinweisen). Darauf wird verwiesen.
3. Die Vorinstanz hat die zeitliche Anwendung des seit 1. Januar 2003 in Kraft stehenden Bundesgesetzes über den Allgemeinen Teil des Sozialversicherungsrechts (ATSG; <ref-ruling> Erw. 1.2; AHI 2004 S. 111, je mit Hinweisen) zutreffend dargelegt. Dasselbe gilt für die Bestimmungen über die Arbeitgeberhaftung (<ref-law>; <ref-law> in Verbindung mit <ref-law>) sowie die hiezu ergangene Rechtsprechung, insbesondere über die subsidiäre Haftung der Organe eines Arbeitgebers (<ref-ruling> Erw. 5b; SVR 2003 AHV Nr. 1 S. 2 Erw. 3, je mit Hinweisen), den zu ersetzenden Schaden (<ref-ruling> Erw. 3a, 123 V 15 Erw. 5b, 121 III 384 Erw. 3bb, je mit Hinweisen), die erforderliche Widerrechtlichkeit (<ref-ruling> Erw. 2a; SVR 2001 AHV Nr. 15 S. 52 Erw. 6, je mit Hinweisen), die Voraussetzung des Verschuldens (<ref-ruling> Erw. 1b, 202 Erw. 3a; ZAK 1992 S. 248 Erw. 4b, 1985 S. 620 Erw. 3b, je mit Hinweisen) sowie den verlangten adäquaten Kausalzusammenhang (BGE 125 V 461 Erw. 5a, 119 V 406 Erw. 4a; AHI 1996 S. 292 Erw. 4, je mit Hinweisen). Darauf wird verwiesen.
4. 4.1 Die Vorinstanz hat den Schaden in Übereinstimmung mit Gesetz und Rechtsprechung (vgl. Erw. 3) auf Fr. 35'311.50 reduziert und festgestellt, dass die Ausgleichskasse diesen in hinreichender Weise substanziiert und belegt hat (vgl. statt vieler Urteil A. und B. vom 20. August 2002, H 295/01 und 296/01), was vom Beschwerdeführer zu Recht auch nicht bestritten wird.
4.2 Im Weiteren ergibt sich aus den Akten und ist unbestritten, dass die konkursite Firma ihrer Beitragszahlungspflicht in erheblichem Umfang nicht nachgekommen ist. Ebenfalls aus den Akten ist ersichtlich, dass der Beschwerdeführer seine aktienrechtlichen Sorgfaltspflichten verletzt hat, indem er die Einhaltung der öffentlich-rechtlichen Aufgabe, in casu der Beitragszahlungspflicht, durch die Arbeitgeberin nicht oder zumindest ungenügend überwacht bzw. durchgesetzt hat; diese Unterlassung ist ihm als Widerrechtlichkeit im Sinne von <ref-law> anzurechnen.
4.3 Die vom Beschwerdeführer zitierte Rechtsprechung, wonach jene Person den Organbegriff erfüllt, welche in der Lage ist, die Willensbildung der Gesellschaft massgeblich zu beeinflussen, bezieht sich nur auf faktische Organe und ist somit vorliegend nicht anwendbar. Der Beschwerdeführer als formelles Organ der Gesellschaft haftet nach <ref-law> in jedem Fall (vgl. etwa ZAK 1989 S. 104 Erw. 4).
4.4 Der nicht geschäftsführende Verwaltungsrat handelt schuldhaft, wenn er der ihm als formellem Organ zukommenden unübertragbaren und unentziehbaren Pflicht zur Oberaufsicht der Geschäftsführung, namentlich im Hinblick auf die Befolgung der Gesetze, nicht nachkommt, also gegenüber dem geschäftsführenden Verwaltungsrat nicht die nach den Umständen gebotene, auch auf das Beitragswesen sich erstreckende Aufsicht ausübt, wobei bei einem aus wenigen Personen bestehenden Verwaltungsrat ein strenger Massstab gilt (vgl. Urteil V. vom 15. September 2000, H 45/00, mit Hinweisen). So stellt denn auch der Umstand, dass einem Verwaltungsrat nicht die Kompetenz zur Auslösung von Zahlungen zukommt, kein entlastendes Moment dar (Urteil S. vom 5. Oktober 2000, H 210/99).
Infolge der Unentziehbarkeit und Unübertragbarkeit der Oberaufsicht über die Geschäftsführung war der Beschwerdeführer ungeachtet der internen Abmachungen auch für die Belange der Filiale in L._ zuständig. Dem Beschwerdeführer wird nicht vorgeworfen, sich nicht um die Buchführung gekümmert und den Konkurs der Firma verursacht, sondern sich nicht über die bestehenden Verbindlichkeiten und deren korrekte Erfüllung informiert sowie nötigenfalls Massnahmen für deren ordnungsgemässe Bezahlung veranlasst zu haben; in Kenntnis der kritischen Lage wäre er gehalten gewesen, ungeachtet des vereinbarten Aufgabengebiets, die Befolgung der Beitragszahlungspflicht in kurzen Abständen, d.h. monatlich nach Ablauf der Zahlungsperiode, zu kontrollieren (Urteil B. vom 26. September 2001, H 19/01). Denn der nicht geschäftsführende (Einzel-)Verwaltungsrat genügt seinen Überwachungspflichten nicht, wenn er sich nur um die jährliche Rechnungslegung kümmert; vielmehr hat er bei verweigertem Einblick in die Geschäftsbücher auf seinem Auskunftsrecht zu beharren, konkrete Massnahmen zu dessen Durchsetzung zu treffen und bei andauernder hartnäckiger Weigerung seitens der Geschäftsführung den unverzüglichen Rücktritt zu erklären (Urteil L. vom 8. Oktober 2002, H 149/02). Der Beschwerdeführer hat es jedoch hingenommen, dass er in der Filiale in L._, wo angeblich sämtliche administrative Tätigkeiten erledigt wurden, keinen Zutritt hatte, und sich erst im Rahmen der notwendigen jährlichen Rechnungslegung um Informationen bemüht. Er vermag keine Anhaltspunkte glaubhaft zu machen, welche auf eine rechtzeitige Intervention seinerseits schliessen liessen. Er ist somit seiner Aufsichtspflicht nicht im erforderlichen Ausmass nachgekommen, was ihm als qualifiziertes Verschulden anzurechnen ist.
Dabei kann offen bleiben, ob das Verhalten von W._ strafrechtliche Folgen nach sich zieht; denn bei korrekter Erfüllung seiner Überwachungspflichten hätte der Beschwerdeführer bereits viel früher auf die angeblich unredlichen Machenschaften, die geltend gemachten Ungereimtheiten in der Buchhaltung sowie die vernachlässigte Beitragszahlungspflicht aufmerksam werden müssen. Daran vermöchte auch die Aussage der angerufenen Zeugin T._, wonach der Beschwerdeführer im Jahr 2000 die Einberufung einer Generalversammlung verlangt hatte, nichts zu ändern; denn dies geschah zu einem Zeitpunkt, in welchem die Firma ihre Beitragszahlungspflicht schon länger verletzt hatte und der Konkurs absehbar war. Mit der Vorinstanz ist somit im Rahmen einer antizipierten Beweiswürdigung auf die Einvernahme der angerufenen Zeugin zu verzichten. Ebenfalls unbeachtlich sind die geltend gemachten persönlichen finanziellen Verluste im Rahmen des Firmenkonkurses, da im Einschiessen privater Mittel kein Bestreben zur Bezahlung der ausstehenden Beiträge erblickt werden kann (Urteil F., S. und B. vom 4. Dezember 2003, H 173/03, mit Hinweisen).
4.5 Durch seine Passivität hat der Beschwerdeführer das Eintreten des entstandenen Schadens zumindest begünstigt, indem er keinerlei konkreten Schritte zur Begleichung der ausstehenden Beiträge unternommen hat. Wäre er seinen Überwachungspflichten nachgekommen und hätte für die Bezahlung oder Sicherstellung der geschuldeten Beiträge gesorgt, wäre der Ausgleichskasse kein Schaden entstanden. Damit ist auch der adäquate Kausalzusammenhang zu bejahen. Entgegen der Ansicht des Beschwerdeführers ändert daran auch <ref-law> nichts; denn diese Norm findet im Rahmen der Schadenersatzpflicht von <ref-law> keine Anwendung (AHI 1996 S. 293 Erw. 6; Urteil A. vom 21. Januar 2004, H 267/02).
4.6 Nachdem sämtliche Voraussetzungen zur Haftung nach <ref-law> gegeben sind, hat die Vorinstanz die Klage zu Recht (teilweise) gutgeheissen.
4.6 Nachdem sämtliche Voraussetzungen zur Haftung nach <ref-law> gegeben sind, hat die Vorinstanz die Klage zu Recht (teilweise) gutgeheissen.
5. Da es weder um die Bewilligung noch Verweigerung von Leistungen geht, ist das Verfahren kostenpflichtig (Art. 134 OG e contrario). Der unterliegende Beschwerdeführer hat demnach die Gerichtskosten zu tragen (Art. 156 Abs. 1 in Verbindung mit Art. 135 OG).

Demnach erkennt das Eidg. Versicherungsgericht:
Demnach erkennt das Eidg. Versicherungsgericht:
1. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
1. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3000.- werden dem Beschwerdeführer auferlegt und mit dem geleisteten Kostenvorschuss verrechnet.
2. Die Gerichtskosten von Fr. 3000.- werden dem Beschwerdeführer auferlegt und mit dem geleisteten Kostenvorschuss verrechnet.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 11. Mai 2004
Im Namen des Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer: Die Gerichtsschreiberin:
i.V.