Sachverhalt:
A. Die verwitwete Z._, geb. 9. Juli 1918, verstarb am 29. November 2003 in Zumikon/ZH. Bis Ende März 1996 hatte sie zusammen mit ihrer Schwester in einer dieser gehörenden Liegenschaft in Erlenbach/ZH gewohnt. Nach dem Verkauf dieser Liegenschaft logierten die beiden Schwestern im Hotel A._ in Zürich. Auf den 1. Januar 2000 meldete sich Z._ in Churwalden/GR an, wo ihr seit Jahren die Liegenschaft "M._" gehörte. lm Juli 2002 erlitt sie einen Schlaganfall und hielt sich danach bis Mitte September 2002 in der Klinik R._ in Oetwil am See/ZH auf. Anschliessend lebte sie bis zu ihrem Tod in der Alters- und Pflegeresidenz S._ in Zumikon. Am 8. November 2002 hatte die Vormundschaftsbehörde Churwalden über Z._ eine Beiratschaft errichtet. Anfangs 2003 erschien sie in Begleitung von X._ auf der Gemeindekanzlei Churwalden, angeblich um sich nach Zumikon abzumelden. Weil sie nach Ansicht des Gemeindeschreibers nicht in der Lage war, ihren persönlichen Willen zu äussern, wurde die Abmeldung sistiert und um Abklärung ihrer Handlungsfähigkeit bei der Vormundschaftsbehörde des Kreises Churwalden ersucht. Diese erachtete eine solche Abklärung als nicht erforderlich, weil Z._ unter Beiratschaft stand. Der Beirat teilte der Gemeinde in der Folge mit, der Wohnsitz werde in Churwalden belassen. Mit Schreiben vom 27. August 2003 ersuchte Z._ die Gemeinde Churwalden, ihren Heimatschein der Gemeinde Zumikon zuzustellen. Weil bekannt wurde, dass die Gesuchstellerin in eine psychiatrische Anstalt eingeliefert worden und ihre Handlungsfähigkeit zweifelhaft war, sollte der als Beirat eingesetzte Amtsvormund die erforderlichen Abklärungen treffen. Hierzu kam es aber infolge Ablebens von Z._ am 29. November 2003 nicht mehr.
B. Mit Veranlagungsverfügung vom 30. September 2004, adressiert an die Willensvollstreckerin der Verstorbenen (Bank G._ AG), erhob die Steuerverwaltung des Kantons Graubünden auf dem Reinvermögen von Z._ von Fr. 3'039'494.-- (abzüglich Todesfall- und Grabunterhaltskosten/Unterhaltskosten der Hausgenossen von Fr. 10'000.--) die kantonale Nachlassteuer von 4 %, ausmachend Fr. 121'176.--.
Dagegen erhob der eingesetzte Haupterbe X._, dem diese Verfügung nicht eröffnet worden war, nachträglich Einsprache, mit welcher er die Steuerhoheit des Kantons Graubünden bezüglich des Nachlasses bestritt. Mit Entscheid vom 14. Februar 2005 trat die kantonale Steuerverwaltung wegen verspäteter Einreichung (in Abweisung des gestellten Fristwiederherstellungsgesuchs) auf die Einsprache nicht ein.
Das Verwaltungsgericht des Kantons Graubünden schützte diesen Nichteintretensentscheid mit Urteil vom 24. Mai 2005. Es erwog, die Steuerverwaltung habe davon ausgehen dürfen, dass die Willensvollstreckerin alle Erben und folglich auch ihn, X._, vertrete, und sei befugt gewesen, die Veranlagungsverfügung rechtsgültig allein dieser zu eröffnen. Wenn er erst zu spät davon erfahren habe, um selber rechtzeitig Einsprache erheben zu können, liege dies an einem Kommunikationsmangel im Innenverhältnis zwischen der Willensvollstreckerin und ihm, worin kein unverschuldetes Hindernis zu erblicken sei, welches eine Fristwiederherstellung hätte rechtfertigen können. Dieses Urteil erwuchs unangefochten in Rechtskraft.
C. Mit Verfügung vom 2. Februar 2005 veranlagte die Gemeinde Churwalden die Erben von Z._ zur kommunalen Erbschaftssteuer von insgesamt Fr. 378'255.40. Dagegen erhoben elf der insgesamt neunzehn Erben, worunter auch X._, auf welchen ein Erbschaftssteueranteil von Fr. 192'540.-- entfiel, Einsprache und bestritten den letzten Wohnsitz der Erblasserin in Churwalden und damit die Steuerhoheit des Kantons Graubünden. Diese Einsprache wies der Gemeindevorstand Churwalden mit Entscheid vom 1. März 2007 ab.
Mit Urteil vom 4. April 2008 wies das Verwaltungsgericht des Kantons Graubünden, 3. Kammer, die von X._ hiegegen eingereichte Beschwerde ab.
D. Mit Eingabe vom 1. September 2008 erhebt X._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, das Urteil des Verwaltungsgerichts des Kantons Graubünden vom 4. April 2008 sei aufzuheben, und es sei festzustellen, dass sich der letzte Wohnsitz von Z._ im Kanton Zürich befand; das Verwaltungsgericht des Kantons Graubünden sei anzuweisen, die Erbschaftssteuer lediglich auf dem unbeweglichen Teil des Nachlasses zu veranlagen und zuviel bezahlte Steuern seien zurückzuzahlen. Er rügt eine offensichtlich unrichtige Sachverhaltsfeststellung sowie eine Verletzung von Bundesrecht, nämlich des Doppelbesteuerungsverbots (Art. 127 Abs. 3 BV), des Willkürverbots (Art. 9 BV), des rechtlichen Gehörs (Art. 29 BV) sowie von Treu und Glauben (Art. 5 BV).
E. Die Gemeinde Churwalden sowie das Verwaltungsgericht des Kantons Graubünden beantragen die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die als mitbeteiligte Behörden ins Verfahren einbezogene Steuerverwaltung des Kantons Graubünden sowie das Kantonale Steueramt Zürich verzichten auf eine Vernehmlassung.
F. Mit Eingabe vom 23 Dezember 2008 reichte X._ unaufgefordert eine Stellungnahme zur Vernehmlassung der Gemeinde Churwalden ein.
Erwägungen:
1. 1.1 Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob und inwiefern auf eine Beschwerde einzutreten ist (BGE 134 Il 272 E. 1.1 S. 275, 120 E. 1 S. 121).
1.2 Angefochten ist ein letztinstanzlicher kantonaler Endentscheid in einer Angelegenheit des öffentlichen Rechts, die unter keinen Ausschlussgrund gemäss Art. 83 BGG fällt und daher mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht weitergezogen werden kann (Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Art. 90 BGG).
1.3 Gemäss Art. 89 Abs. 1 BGG ist zur Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert, wer am vorinstanzlichen Verfahren teilgenommen hat, durch den angefochtenen Entscheid besonders berührt ist und ein schutzwürdiges Interesse an dessen Aufhebung oder Abänderung hat.
Der Kanton Graubünden kennt eine kantonale, als sog. Erbmassesteuer ausgestaltete Nachlasssteuer (Art. 106 ff. des Steuergesetzes des Kantons Graubünden vom 8. Juni 1986) und ermächtigt die Gemeinden, ihrerseits (nach Massgabe eines kommunalen Gesetzes im formellen Sinne) eine Erbschaftssteuer zu erheben, welche (nach heutiger Rechtslage) in Form einer Erbanfallsteuer zu konzipieren ist (Art. 2 Abs. 3 lit. a, Art. 21 sowie Art. 26 ff. des bündnerischen Gesetzes über die Gemeinde- und Kirchensteuern vom 31. August 2006; vgl. zum Ganzen auch JÜRG ANDREA VON RECHENBERG, Bündner Erbschaftssteuern, Diss. Basel 1981, S. 33 ff. und S. 83 ff. MAGNUS HINDERSMANN/MICHAEL MYSSEN, Die Erbschafts- und Schenkungssteuern der Schweizer Kantone, Köln 2003, S. 481 ff.; ferner: ERNST BLUMENSTEIN/PETER LOCHER, System des schweizerischen Steuerrechts, 6. Aufl., Zürich 2002, S. 206). Bis anhin waren die Gemeinden frei, ihre kommunale Erbschaftssteuer alternativ auch als Nachlasssteuer auszugestalten (vgl. VON RECHENBERG, a.a.O., S. 91 ff., insbesondere S. 103). Vorliegend streitig ist einzig die Erhebung der kommunalen Erbschaftssteuer nach dem Steuergesetz der Gemeinde Churwalden vom 10. Dezember 1992 (vom Regierungsrat genehmigt am 18. Januar 1993; im Folgenden: Gemeindesteuergesetz, GStG). Gemäss Art. 13 GStG wird der Vermögensanfall besteuert; es liegt damit eine Erbanfallsteuer vor. Als Steuersubjekt und Steuerpflichtiger erscheint der Empfänger der Zuwendung und damit der einzelne Erbe (oder Vermächtnisnehmer) selber (vgl. Art. 14 GStG). Daran ändert nichts, dass die Steuer für alle steuerpflichtigen Erben gesamthaft bezogen wird und aus dem Nachlass vor dessen Verteilung zu bezahlen ist (Art. 18 GStG). Die Erbschaftssteuer wurde in der streitigen Veranlagungsverfügung denn auch individuell berechnet und für die einzelnen Begünstigten je gesondert ausgewiesen. Dass die genannte Verfügung (ausschliesslich) der Willensvollstreckerin zugestellt wurde, hängt - nebst allfälligen dieser obliegenden Verfahrenspflichten im erbschaftssteuerrechtlichen Veranlagungsverfahren - hauptsächlich damit zusammen, dass sie aufgrund ihrer Funktion als Verwalterin der Erbschaftswerte (Art. 518 in Verbindung mit Art. 596 Abs. 1 ZGB) als primär Verfügungsberechtigte am für die Steuererhebung herangezogenen Substrat - dem unverteilten Nachlass - erscheint. Dass damit ausschliesslich sie selber (in Prozessstandschaft) befugt wäre, Rechtsmittel gegen eine erbschaftssteuerrechtliche Veranlagung einzulegen, trifft angesichts der den einzelnen Miterben obliegenden Steuerpflicht aber nicht zu. Insofern erscheint der Beschwerdeführer als allein beschwerdeführender steuerpflichtiger Miterbe als im Sinne von Art. 89 Abs. 1 BGG zur Ergreifung des vorliegenden Rechtsmittels legitimiert. Ein Fall von notwendiger Streitgenossenschaft (Erbengemeinschaft) oder Prozessstandschaft (Willensvollstrecker) liegt nicht vor.
1.4 Zu beachten ist indessen, dass vorliegend - wie erwähnt - allein die Erhebung der kommunalen Erbschaftssteuer, wie sie in der Verfügung der Gemeindeverwaltung Churwalden vom 2. Februar 2005 gestützt auf das Gemeindesteuergesetz veranlagt wurde, Streitgegenstand bildet. Über die kantonale Nachlasssteuer wurde demgegenüber bereits zu einem früheren Zeitpunkt befunden (oben Sachverhalt lit. B). Die kantonale Steuerhoheit kann im vorliegenden, gegen den kommunalen Veranlagungsentscheid gerichteten Beschwerdeverfahren nicht (nochmals) wegen virtueller (interkantonaler) Doppelbesteuerung in Frage gestellt werden. Anders lägen die Dinge, wenn zwischenzeitlich oder inskünftig der Kanton Zürich einen Besteuerungsanspruch geltend machen würde, in welchem Fall sich der Beschwerdeführer gegen die aktuelle Doppelbesteuerung wehren und hiebei die Zulässigkeit der kantonalen Steuerhoheit des Kantons Graubünden, d.h. die kantonale Nachlasssteuer mitsamt der kommunalen Erbschaftssteuer, erneut zur Diskussion stellen könnte. Eine aktuelle Doppelbesteuerung wird jedoch nicht geltend gemacht und liegt soweit ersichtlich auch nicht vor. Im Übrigen bringt der Beschwerdeführer nichts vor, was die Berechtigung der Gemeinde Churwalden zur Erhebung der vorliegend streitigen kommunalen Erbschaftssteuer in Frage stellen oder die erhobene Steuer anderweitig als verfassungswidrig erscheinen lassen könnte. Seine Rügen beschränken sich auf solche in Zusammenhang mit der - bereits rechtskräftig beurteilten - kantonalen Steuerhoheit. Darauf ist im vorliegenden Beschwerdeverfahren jedoch nicht einzugehen.
1.5 Auf die Beschwerde ist demzufolge nicht einzutreten.
2. Bei diesem Ausgang sind die Kosten des bundesgerichtlichen Verfahrens dem Beschwerdeführer aufzuerlegen (Art. 66 BGG). Auf die Zusprechung von Parteientschädigungen besteht kein Anspruch, was namentlich auch für die in ihrem amtlichen Wirkungskreis obsiegende Gemeinde Churwalden gilt (vgl. Art. 68 Abs. 3 BGG; BGE 134 II 117 E. 7 S. 118 f.).
Für eine Aufhebung des vorinstanzlichen Entscheids im Kostenpunkt (Art. 67 BGG) oder die Zusprechung einer Parteientschädigung an den Beschwerdeführer für jenes Verfahren (Art. 68 Abs. 5 BGG) besteht kein Anlass.
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 8'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der Gemeinde Churwalden, den Steuerverwaltungen der Kantone Graubünden und Zürich sowie dem Verwaltungsgericht des Kantons Graubünden, 3. Kammer, schriftlich mitgeteilt.
Lausanne, 30. März 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Moser