Sachverhalt:
A. Am 8. März 2005 unterzeichnete der italienische Staatsangehörige X._ einen Kaufvertrag für eine 41/2-Zimmer-Wohnung samt zwei Parkplätzen in St. Moritz zum Preis von Fr. 2'650'000.-- (26.46 o/oo Miteigentum an Grundstück aaa, mit Sonderrecht an der Wohnung bbb sowie an zwei Autoeinstellplätzen). Der Kauf wurde am 27. Januar 2006 ins Grundbuch eingetragen, wobei X._ zur Begründung des bewilligungsfreien Erwerbs darauf verwies, dass er in Lugano Wohnsitz genommen habe.
Am 20. September 2010 kaufte er ebenfalls in St. Moritz eine 51/2-Zimmer-Wohnung mit drei Parkplätzen, wobei der Kaufpreis für dieses Objekt Fr. 8'300'000.-- betrug (32.50 o/oo Miteigentum an Grundstück aaa, mit Sonderrecht an der Wohnung ccc sowie an drei Autoeinstellplätzen). Nach Anmeldung dieses zweiten Kaufs beim Grundbuchamt Oberengadin verwies dieses den Erwerber am 4. Oktober 2010 an das Grundbuchinspektorat und Handelsregister des Kantons Graubünden (GIHA), um die Erwerbsbewilligung einzuholen oder die Nichtbewilligungspflicht feststellen zu lassen.
Mit Verfügung vom 19. Januar 2011 stellte das GIHA fest, dass beide Erwerbsgeschäfte nicht bewilligungspflichtig seien, da der Erwerber seinen Wohnsitz in der Schweiz habe.
B. Gegen diese Verfügung beschwerte sich das Bundesamt für Justiz (BJ) mit Erfolg beim Verwaltungsgericht des Kantons Graubünden: In seinem Urteil vom 16. August 2011 hiess dieses die Beschwerde gut und stellte fest, dass X._ für beide Erwerbsgeschäfte bewilligungspflichtig ist. Wie das BJ ging auch das Verwaltungsgericht davon aus, dass X._ nicht nachzuweisen vermochte, dass er zu den Erwerbszeitpunkten in der Schweiz Wohnsitz hatte.
C. Mit Eingabe vom 21. Oktober 2011 erhebt X._ beim Bundesgericht "Verwaltungsgerichtsbeschwerde" (recte: Beschwerde in öffentlich-rechtlichen Angelegenheiten) worin er im Wesentlichen beantragt, es sei das Urteil des Verwaltungsgerichts des Kantons Graubünden vom 16. August 2011 aufzuheben und die Verfügung des GIHA vom 19. Januar 2011 zu bestätigen.
Das Verwaltungsgericht des Kantons Graubünden, die Gemeinde St. Moritz und sinngemäss auch das BJ schliessen auf Abweisung der Beschwerde.
Mit Verfügung vom 5. Dezember 2011 lehnte der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgericht das Gesuch des Beschwerdeführers um Erteilung der aufschiebenden Wirkung ab, soweit er darauf überhaupt eintrat.

Erwägungen:
1. 1.1 Angefochten ist ein letztinstanzlicher Endentscheid eines oberen kantonalen Gerichts in einer Angelegenheit des öffentlichen Rechts, die unter keinen Ausschlussgrund gemäss Art. 83 BGG fällt und daher mit dem ordentlichen Rechtsmittel der Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht weitergezogen werden kann (Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Abs. 2 sowie Art. 90 BGG). Der Beschwerdeführer ist gestützt auf Art. 89 Abs. 1 BGG zur Ergreifung dieses Rechtsmittels legitimiert; auf die frist- und formgerecht (Art. 42 Abs. 2 und Art. 100 Abs. 1 BGG) eingereichte Beschwerde ist daher grundsätzlich einzutreten (unter Vorbehalt von E. 1.2 und E. 1.3 hiernach).
1.2 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und Abs. 2 BGG; vgl. <ref-ruling> E. 2.1 S. 245 f.), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254). Eine qualifizierte Rügepflicht gilt u.a. hinsichtlich der Verletzung von Grundrechten. Das Bundesgericht prüft solche Rügen nur, wenn sie in der Beschwerde präzise vorgebracht und begründet worden sind (Art. 106 Abs. 2 BGG; vgl. <ref-ruling> E. 1.4.2 S. 254; <ref-ruling> E. 1.4 S. 287). Auf ungenügend begründete Rügen und bloss allgemein gehaltene, appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (<ref-ruling> E. 2.2 S. 246).
1.3 Das Bundesgericht stellt grundsätzlich auf den von der Vorinstanz festgestellten Sachverhalt ab (Art. 105 Abs. 1 BGG). Diese Sachverhaltsfeststellungen können vor Bundesgericht nur gerügt werden, wenn sie offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG). Die Rüge, der Sachverhalt sei offensichtlich unrichtig festgestellt worden, ist gleichbedeutend mit der Willkürrüge und muss daher gemäss den Anforderungen von Art. 106 Abs. 2 BGG in der Beschwerdeschrift begründet werden (<ref-ruling> E. 1.2.2 und E. 1.4.3 S. 252 ff.; <ref-ruling> E. 3 S. 351 f.). Vorausgesetzt ist zudem, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG).
2. Gemäss Art. 2 Abs. 1 des Bundesgesetzes vom 16. Dezember 1983 über den Erwerb von Grundstücken durch Personen im Ausland (BewG; SR 211.412.41) bedürfen Personen im Ausland für den Erwerb von Grundstücken einer Bewilligung der zuständigen kantonalen Behörde. Als Personen im Ausland gelten gemäss Art. 5 Abs. 1 lit. a BewG Staatsangehörige der Mitgliedstaaten der Europäischen Gemeinschaft (EG) oder der Europäischen Freihandelsassoziation (EFTA), die ihren rechtmässigen und tatsächlichen Wohnsitz nicht in der Schweiz haben. Der bewilligungsfreie Grundstückerwerb durch einen EG/EFTA-Ausländer setzt somit dessen Wohnsitznahme in der Schweiz voraus (vgl. auch Art. 25 Abs. 1 Anhang I des Abkommens zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit [FZA; SR 0.142.112.681]). Massgeblich für den Begriff des Wohnsitzes ist im Wesentlichen Art. 23 des Schweizerischen Zivilgesetzbuches vom 10. Dezember 1907 (ZGB; SR 210; <ref-ruling> E. 4.1 S. 408); der Wohnsitz einer Person befindet sich demzufolge am Ort, wo sie sich mit der Absicht dauernden Verbleibens aufhält (Art. 23 Abs. 1 ZGB). Um diesen Ort zu ermitteln, ist zu prüfen, wo die betreffende Person ihren persönlichen und beruflichen Lebensmittelpunkt hat (<ref-ruling> E. 4.3 S. 409 f.).
3. Unstreitig und belegt ist, dass der Beschwerdeführer in der Zeitspanne vom 1. Februar 2005 bis zum 30. November 2008 in Lugano polizeilich gemeldet war und dann seine Rückkehr nach Italien bekannt gab, bevor er sich am 21. Juni 2010 erneut in der Schweiz (Gemeinde Cadempino/TI) anmeldete. Diese bloss formelle Meldung bedeutet jedoch nicht automatisch, dass der Beschwerdeführer zum Zeitpunkt der hier interessierenden Grundstückgeschäfte (März 2005 bis Januar 2006 bzw. September/Oktober 2010) respektive im Moment der erstinstanzlichen Verfügung des GIHA am 19. Januar 2011 seinen Lebensmittelpunkt im Kanton Tessin hatte. In diesem Zusammenhang ist vielmehr von Bedeutung, dass seine Ehefrau und seine Tochter, mit welchen er offenbar noch immer in intakter familiärer Gemeinschaft lebt, in Italien wohnen blieben und auch ihre Schriften dannzumal nicht in die Schweiz verlegten, sondern die entsprechenden Schritte hierzu erst während des hängigen Beschwerdeverfahrens vor dem Verwaltungsgericht in die Wege leiteten. Auch der Beschwerdeführer selbst veranlasste erst am 23. März 2011, d.h. nach der Beschwerdeerhebung durch das BJ beim Verwaltungsgericht, seine Eintragung ins Verzeichnis der im Ausland lebenden Italiener (sog. AIRE-Register), welche die Abmeldung an seinem italienischen Herkunftsort zur Folge hatte. Auffallend ist zudem die zeitliche Übereinstimmung zwischen den getätigten Grundstückkäufen und den An- bzw. Abmeldungen bei den zuständigen schweizerischen Einwohnerkontrollen: Der Erwerb der zwei erwähnten Grundstücke erfolgte jeweils kurze Zeit nach Anmeldung, und in der Zeit zwischen diesen Geschäften meldete sich der Beschwerdeführer wieder nach Italien ab (1. Dezember 2008 bis 20. Juni 2010), sodass der Eindruck entsteht, dass die formale Anmeldung in der Schweiz vor allem mit der Absicht erfolgt ist, die Bewilligungspflicht betreffend den Erwerb der Wohnungen in St. Moritz zu umgehen.
4. 4.1 Bei dieser Sachlage durfte die Vorinstanz betreffend den zweiten Grundstückerwerb vom 20. September 2010 willkürfrei davon ausgehen, dass der Beschwerdeführer seinen Wohnsitz im massgeblichen Zeitpunkt nicht in der Schweiz hatte; was der Beschwerdeführer vorbringt, um den Nachweis für seinen tatsächlichen damaligen Wohnsitz in der Schweiz zu erbringen, lässt die für das Bundesgericht grundsätzlich verbindlichen Sachverhaltsfeststellungen des Verwaltungsgerichts (vgl. E. 1.3 hiervor) nicht als offensichtlich unrichtig erscheinen: Soweit er sich auf berufliche Aktivitäten, insbesondere Beratungsmandate von schweizerischen Zweigniederlassungen oder Partnergesellschaften seiner italienischen Unternehmung beruft, ist ihm entgegenzuhalten, dass seine Aufenthaltsbewilligung ausdrücklich und ausschliesslich zur erwerbslosen Wohnsitznahme ausgestellt wurde; die pauschale Behauptung des Beschwerdeführers, dass es sich dabei um ein blosses Versehen handle, wird durch nichts belegt. Auch die von ihm vorgebrachte Begründung für seine Abmeldung nach Italien per 30. November 2008, nämlich dass der Verkauf eines Aktienpaketes seine erneute Wohnsitznahme in Italien unabdingbar gemacht habe, erscheint als nicht schlüssig, zumal nicht ersichtlich ist und vom Beschwerdeführer auch nicht begründet wird, weshalb ein Verkauf von Aktien nur mit Wohnsitz in Italien möglich gewesen wäre. Sodann hat der Beschwerdeführer zwar eingewendet, er unterliege in der Schweiz der Pauschalbesteuerung; diesbezügliche Belege hat er aber soweit ersichtlich nie eingereicht, sodass auch der steuerrechtliche Wohnsitz in der Schweiz nicht feststeht. Ferner kann auch der vom Beschwerdeführer geltend gemachte Beitritt zu einem Autorennclub und einem Fitnesscenter sowie der Erwerb und die Immatrikulation eines Gebrauchtwagens im Kanton Tessin nicht zum Nachweis des persönlichen Lebensmittelpunktes genügen.
4.2 Sind die Sachverhaltsfeststellungen des Verwaltungsgerichts betreffend den zweiten Grundstückerwerb vom 20. September 2010 wie aufgezeigt verbindlich, so ist auch die Schlussfolgerung der Vorinstanz nicht zu beanstanden, dass dieser zweite Grundstückerwerb bewilligungspflichtig ist. Die diesbezüglichen rechtlichen Einwendungen des Beschwerdeführers überzeugen nicht:
Soweit er geltend macht, dass es einem EU-Ausländer auch bewilligungsfrei möglich sein müsse, seinen Wohnsitz "Zug um Zug" mit dem Grundstückerwerb in die Schweiz zu verlagern, sind seine Ausführungen unbehelflich. Ein solcher Erwerb bedarf zwar tatsächlich keiner Bewilligung, setzt aber voraus, dass das zu erwerbende Grundstück dem Erwerber als Hauptwohnung am Ort seines rechtmässigen und tatsächlichen Wohnsitzes dienen wird (Art. 2 Abs. 2 lit. b BewG). Die vom Beschwerdeführer in St. Moritz erworbenen Eigentumswohnungen dienen jedoch unbestrittenermassen nicht diesem Zweck.
Ins Leere geht sodann auch die Rüge des Beschwerdeführers, die Vorinstanz habe seinen Anspruch auf rechtliches Gehör verletzt, indem sie sich nicht mit den von ihm dargelegten wirtschaftlichen Verflechtungen seiner Unternehmung auseinandergesetzt habe: Der Anspruch auf rechtliches Gehör nach Art. 29 Abs. 2 BV bzw. die daraus resultierende Begründungspflicht bedeutet nicht, dass sich eine Behörde mit allen Parteistandpunkten einlässlich auseinandersetzen und jedes einzelne Vorbringen ausdrücklich widerlegen muss; sie kann sich vielmehr auf die für den Entscheid wesentlichen Punkte beschränken (<ref-ruling> E. 4.2 S. 355 mit Hinweis). Im vorliegenden Fall geht es um den persönlichen Wohnsitz des Beschwerdeführers, sodass der wirtschaftlichen Situation der Unternehmung grundsätzlich keine Relevanz zukommt, weswegen sich die Vorinstanz mit diesen vom Beschwerdeführer ins Feld geführten Gesichtspunkten nicht näher auseinandersetzen musste.
4.3 Nach dem Ausgeführten erweist sich die Beschwerde betreffend den Grundstückerwerb vom 20. September 2010 als unbegründet, weswegen sie diesbezüglich abzuweisen ist.
5. Betreffend den ersten Grundstückerwerb vom 8. März 2005 ist dagegen zu beachten, dass dieses Geschäft zum Zeitpunkt der Verfügung des GIHA bereits im Grundbuch eingetragen war. Eine nachträgliche Feststellung der Bewilligungspflicht ist zwar möglich, doch setzt dies voraus, dass der Erwerber einer zuständigen Behörde, dem Grundbuchverwalter oder dem Handelsregisterführer über Tatsachen, die für die Bewilligungspflicht von Bedeutung sind, unrichtige oder unvollständige Angaben gemacht hat (Art. 25 Abs. 1bis BewG). Ob diese Voraussetzungen im vorliegenden Fall erfüllt sind, lässt sich den Akten nicht entnehmen und das Verwaltungsgericht hat hierzu auch keine Feststellungen getroffen. Unklar ist insbesondere, welche Unterlagen das zuständige Grundbuchamt damals verlangt hatte und ob die vom Beschwerdeführer eingereichten Dokumente allenfalls täuschend oder falsch waren. Zur ergänzenden Abklärung dieser Frage ist die Angelegenheit daher an die Vorinstanz zurückzuweisen. Von einer Täuschung wird dabei wohl noch nicht bereits dann die Rede sein können, wenn der Beschwerdeführer gegenüber dem Grundbuchamt lediglich angegeben hat, er habe sich bei der Einwohnerkontrolle der Stadt Lugano angemeldet. Falls er demgegenüber umfassendere, jedoch unzutreffende Angaben zu seinen Bindungen mit der Stadt Lugano gemacht hat, welche geeignet waren, fälschlicherweise den Eindruck einer effektiv nicht stattgefundenen Wohnsitzbegründung entstehen zu lassen, dürften die Voraussetzungen von Art. 25 Abs. 1bis BewG erfüllt sein.
6. Nach dem Ausgeführten ist die Beschwerde bezüglich des Grundstückerwerbs vom 8. März 2005 teilweise gutzuheissen und die Angelegenheit zu weiteren Abklärungen an die Vorinstanz zurückzuweisen. Betreffend den Grundstückerwerb vom 20. September 2010 ist die Beschwerde demgegenüber abzuweisen.
Der Beschwerdeführer hat die bundesgerichtlichen Kosten im Umfang seines Unterliegens zu tragen (Art. 66 Abs. 1 BGG). Dem Kanton Graubünden, der Gemeinde St. Moritz sowie dem Bundesamt für Justiz sind keine Gerichtskosten zu auferlegen, da sie in ihrem amtlichen Wirkungskreis und ohne eigene Vermögensinteressen gehandelt bzw. über eine solche Angelegenheit entschieden haben (Art. 66 Abs. 4 BGG). Indessen hat der Kanton Graubünden dem Beschwerdeführer für das bundesgerichtliche Verfahren eine reduzierte Parteientschädigung zu entrichten (Art. 68 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird bezüglich des Grundstückerwerbs vom 8. März 2005 teilweise gutgeheissen und die Angelegenheit zu weiteren Abklärungen im Sinne der Erwägungen an die Vorinstanz zurückgewiesen. Betreffend den Grundstückerwerb vom 20. September 2010 wird die Beschwerde abgewiesen.
2. Die Gerichtskosten werden im Umfang von Fr. 5'000.-- dem Beschwerdeführer auferlegt.
3. Der Kanton Graubünden hat dem Beschwerdeführer für das bundesgerichtliche Verfahren eine reduzierte Parteientschädigung von Fr. 1'000.-- zu entrichten.
4. Dieses Urteil wird dem Beschwerdeführer, dem Bundesamt für Justiz, dem Grundbuchinspektorat und Handelsregister Graubünden, der Gemeinde St. Moritz sowie dem Verwaltungsgericht des Kantons Graubünden, 1. Kammer, schriftlich mitgeteilt.
Lausanne, 20. März 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Zähndler