Sachverhalt:
A. Der 1988 geborene B._ beantragte am 28. November 2007 (Eingangsdatum) bei der AHV-Ausgleichskasse des Kantons Graubünden eine Entschädigung für Dienstleistende der Schweizer Armee aufgrund eines entgangenen Monatslohnes von Fr. 6'900.-. Zur Begründung gab er an, er hätte, statt Militärdienst zu leisten, in der Firma X._ AG arbeiten können. Dem Antrag legte er ein Bestätigungsschreiben vom 19. November 2007 der Firma bei. Die Ausgleichskasse wies das Gesuch mit Verfügung vom 16. Januar 2008 ab, weil der Gesuchsteller im Zeitpunkt des Einrückens in die Rekrutenschule im Sommer 2007 als nichterwerbstätige Person gelte. Daran hielt sie auf erhobene Einsprache hin fest (Einspracheentscheid vom 31. Juli 2008).
B. Die dagegen eingereichte Beschwerde wies das Verwaltungsgericht des Kantons Graubünden mit Entscheid vom 3. Februar 2009 ab.
C. B._ erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, die Erwerbsausfallentschädigung sei für die Zeit vom 24. November 2007 bis 23. April 2008 auf der Basis eines entgangenen Verdienstes von Fr. 6'900.- zu bezahlen.
Ausgleichskasse und Vorinstanz schliessen auf Abweisung der Beschwerde.
D. Am 23. Dezember 2009 fordert das Bundesgericht das Bundesamt für Sozialversicherungen (BSV) zur Vernehmlassung auf. Diese erging am 25. Januar 2010; das BSV schliesst darin sinngemäss auf Abweisung der Beschwerde.
Der Beschwerdeführer äussert sich am 18. Februar 2010 zur Stellungnahme des BSV, wobei er an seinem Standpunkt festhält.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 1 und 2 BGG).
2. 2.1 Laut <ref-law> haben alle Dienstleistenden Anspruch auf die Grundentschädigung. Die tägliche Grundentschädigung beträgt 25 % des Höchstbetrages der Gesamtentschädigung, während der Rekrutierung, der Rekrutenschule und der Grundausbildung von Personen, die ihre Dienstpflicht ohne Unterbruch erfüllen (Durchdiener) (<ref-law>). Die Gesamtentschädigung umfasst die Grundentschädigung nach <ref-law> sowie die nach <ref-law> geschuldeten Kinderzulagen (<ref-law>). Die tägliche Grundentschädigung beträgt 80 % des durchschnittlichen vordienstlichen Erwerbseinkommens während Diensten, die nicht unter <ref-law> fallen (<ref-law>). Durchdiener sind während der Dauer der Grundausbildung den Rekruten gleichgestellt (Wegleitung zur Erwerbsersatzordnung für Dienstleistende und Mutterschaft [WEO] gültig ab 1. Juli 2005, Rz. 4009). Für Durchdiener nach der Grundausbildung, die keinen Gradänderungsdienst leisten, gelten für die restlichen Diensttage die gleichen Entschädigungsansätze wie für Personen im Fortbildungsdienst (WK) (vgl. WEO Rz. 4018).
2.2 Gemäss <ref-law> gelten Personen als Erwerbstätige, die in den letzten zwölf Monaten vor dem Einrücken während mindestens vier Wochen erwerbstätig waren. Den Erwerbstätigen gleichgestellt sind Personen, die glaubhaft machen, dass sie eine Erwerbstätigkeit von längerer Dauer aufgenommen hätten, wenn sie nicht eingerückt wären (<ref-law>).
3. Streitig und zu prüfen ist die Höhe der Erwerbsersatz-Grundentschädigung für den vom 24. November 2007 bis 23. April 2008 als Durchdiener absolvierten Militärdienst. Der Beschwerdeführer beantragt, die Entschädigung sei nach einem entgangenen Monatslohn von Fr. 6'900.- zu bemessen.
3.1 Die Vorinstanz erwog, für die Erwerbsersatz-Entschädigung (nachfolgend: EO-Entschädigujg) sei grundsätzlich auf die Erwerbsverhältnisse zum Zeitpunkt des erstmaligen Einrückens am 2. Juli 2007 in die Rekrutenschule abzustellen. Der Beschwerdeführer habe Ende Juni 2006 (recte: 2007) die Maturität erlangt und danach die Rekrutenschule absolviert. Vor dem Einrücken sei er "in keinem genügendem Ausmass" erwerbstätig gewesen, um erwerbsersatzrechtlich anders denn als unverheirateter Nichterwerbstätiger eingestuft zu werden. Den Entschluss vom August 2007, die restliche Dienstzeit als Durchdiener zu absolvieren, habe er aus freien Stücken getroffen, weswegen keine besser bezahlte Festanstellung habe angenommen werden können. Aus diesem Grund ändere der Einwand des Versicherten rechtlich nichts, er hätte ab 1. Juli 2007 bis 30. Juni 2008 bei der X._ AG zu einem Monatslohn von Fr. 6'900.- arbeiten können, wenn er nicht eingerückt wäre. Bis Ende April 2008 sei nie die Rede davon gewesen, anstelle des Militärdienstes einer bezahlten Arbeit nachzugehen. Sodann stellte die Vorinstanz nach der Durchdienerzeit in Kanada und Russland absolvierte Sprachaufenthalte fest. Ein Anspruch auf eine höhere EO-Entschädigung entfalle hiemit.
3.2 Dem entgegnet der Beschwerdeführer, nachdem er den Vorschlag zur militärischen Weiterausbildung nicht erhalten habe, vor der Wahl gestanden zu sein, bis im Sommer 2008 bei der X._ AG zu arbeiten oder durchzudienen, wobei er sich für das Letztere entschieden habe. Er sei gestützt auf <ref-law> einem Erwerbstätigen gleichzustellen. Mit dieser Bestimmung setze sich der angefochtene Entscheid jedoch nicht auseinander. Entgegen der Vorinstanz habe er unmittelbar nach Beendigung des Militärdienstes bei der X._ AG mit der Arbeit begonnen und am Tag nach der Rückkehr aus Kanada, dem 17. August 2008, sei er wieder für die Firma tätig gewesen. Ferner sei nicht erst im April 2008 von der Aufnahme einer Erwerbstätigkeit die Rede gewesen, habe er doch bereits am 25. November 2007 den Antrag auf einen höheren Erwerbsersatz gestellt.
3.3 Das BSV vertritt den Standpunkt, bei bloss behaupteter Möglichkeit der Arbeitsaufnahme gelinge die Glaubhaftmachung der Aufnahme einer länger dauernden Erwerbstätigkeit ohne Dienstleistung nicht. Vielmehr müsse diese mit dem im Sozialversicherungsrecht allgemein erforderlichen Beweisgrad der überwiegenden Wahrscheinlichkeit erstellt sein. Durchdiener, die vor dem Einrücken die Matura absolviert hätten, müssten glaubhaft darlegen, sie hätten nach der Matura eine Stelle von längerer Dauer angetreten. Dies könne allenfalls gelingen, wenn der Mittelschulabgänger neben dem Studium teilzeitlich als Werkstudent erwerbstätig sei. Falls damit keine über dem Mindestbetrag liegende Entschädigung erreicht werde, sei es auch einem Werkstudent nicht möglich, eine höhere Entschädigung zu erwirken, indem er argumentiere, er hätte sein Arbeitspensum während der Dienstleistung auf eine Vollzeitstelle aufgestockt. Der Beschwerdeführer habe insgesamt eine Erwerbstätigkeit anstelle des Militärdienstes nicht glaubhaft gemacht.
4. 4.1 Unter dem Kapitel "Erfüllung der Ausbildungsdienstpflicht ohne Unterbrechung" regelt Art. 54a Abs. 1 des Bundesgesetzes vom 3. Februar 1995 über die Armee und Militärverwaltung (Militärgesetz, MG; SR 510.10), dass der Militärdienstpflichtige seine Ausbildungsdienstpflicht freiwillig ohne Unterbrechung erfüllen kann. Die Anzahl der berücksichtigten Dienstpflichtigen richtet sich nach dem Bedarf der Armee. Gemäss Absatz 2 der Bestimmung absolviert die Rekrutenschule und leistet unmittelbar danach die restlichen Diensttage ohne Unterbruch, wer seine Ausbildungsdienstpflicht ohne Unterbrechung leistet. Angehörige der Armee, die ihre Ausbildungsdienstpflicht nach <ref-law> freiwillig ohne Unterbrechung erfüllen, leisten den Ausbildungsdienst, wenn sie Angehörige der Armee mit Mannschaftsgraden sind, an 300 aufeinander folgenden Tagen (Art. 10 lit. a der Verordnung vom 19. November 2003 über die Militärdienstpflicht [MDV; SR 512.21]).
4.2 Der Grundsatz, dass die Dienstpflicht (inklusive Grundausbildung) im Durchdiener-Modell ohne Unterbruch zu leisten ist, erhellt auch aus Art. 5 Abs. 1 der Weisung des Chefs der Armee vom 6. Juli 2005 über das Durchdienen, wonach eine Anmeldung zum Durchdienen vor oder während Grundausbildungsdiensten so lange möglich ist, als die bisherige Ausbildung ununterbrochen erfolgte und die restlichen Diensttage unmittelbar darauf ohne Unterbrechung geleistet werden können. Daran ändert nichts, dass erwerbsersatzrechtlich die Bemessung der Grundentschädigung gestützt auf Art. 9 Abs. 1 und Art. 10 EOG während der Grundausbildung einerseits und nach der Absolvierung der Grundausbildung anderseits auch für Personen, die ihre Dienstpflicht ohne Unterbruch erfüllen (Durchdiener), jeweils nach unterschiedlichen Faktoren erfolgt (vgl. E. 2.1 hievor). Die Dienstzeit unterteilt sich zwar auch für den Durchdiener in die Grundausbildung und die anderen Dienste, hingegen sind beide Phasen ohne zwischenzeitliche Unterbrechung zu leisten. Wie die Vorinstanz im Ergebnis richtig festhielt, beginnt daher der als Durchdiener absolvierte Militärdienst bei Eintritt in die Grundausbildung und endet nach 300 Diensttagen. Folgerichtig rückt der Durchdiener im Sinne von <ref-law> am Tag des Beginns der Grundausbildung ein; hier war es der 2. Juli 2007.
4.3 Hingegen ist die Aussage im angefochtenen Entscheid zu präzisieren, für die Bezugsberechtigung und Höhe der EO-Entschädigung seien die Erwerbsverhältnisse im Zeitpunkt des Einrückens massgebend. Zwar richtet sich die Frage, ob eine dienstleistende Person im Sinne von <ref-law> als erwerbstätig gilt, nach den Verhältnissen, wie sie sich bis zum Einrücken entwickelt haben. Mit Blick auf <ref-law> ist rechtlich jedoch auch die Glaubhaftmachung bedeutsam, dass zwar nicht im Zeitpunkt des Einrückens, wohl aber während der Dienstzeit eine Erwerbstätigkeit anstelle des Militärdienstes aufgenommen worden wäre. <ref-law> lässt es genügen, die Ausübung einer Erwerbstätigkeit für eine längere Dauer glaubhaft zu machen. Nicht verlangt wird der Nachweis, die Aufnahme einer Tätigkeit bereits ab dem Zeitpunkt des Einrückens geplant zu haben. Zu beachten ist allerdings der Grundsatz, dass sich die versicherungsmässigen Voraussetzungen und namentlich auch die Höhe der Versicherungsleistungen nach den Verhältnissen bestimmen, die vor Eintritt des Versicherungsfalles eingetreten sind (vgl. <ref-law>; vgl. etwa Urteil B 137/06 vom 14. Dezember 2007 E. 4, Zusammenfassung in: SZS 2008 S. 362).
4.4 Unbestritten gilt der Beschwerdeführer nicht als Erwerbstätiger im Sinne von <ref-law>. Es stellt sich allein die Frage, ob die Aufnahme einer Erwerbstätigkeit von längerer Dauer glaubhaft gemacht ist, wäre er nicht eingerückt (<ref-law>). Die Rüge, die Vorinstanz habe sich nicht zu <ref-law> geäussert, ist unbehelflich. Der vorinstanzliche Entscheid hält denn auch fest, eine "besser bezahlte zivile Anstellung" habe mit Blick auf die Wahl zum Durchdienen nicht angenommen werden können, weshalb ein Anspruch auf eine höhere Entschädigung entfalle. Zudem sei bis April 2008 nie die Rede von einer Anstellung gewesen und nach der Durchdienerzeit sei der Beschwerdeführer für Sprachaufenthalte im Ausland gewesen, so das Gericht. Diesen Feststellungen kann nur im Hinblick auf <ref-law> Bedeutung zukommen, auch wenn sich dies nicht explizit aus den vorinstanzlichen Erwägungen ergibt. Der genannten Umstände wegen erachtete das kantonale Gericht die Glaubhaftmachung einer Erwerbstätigkeit anstelle des Militärdienstes im Ergebnis als nicht gelungen. Allerdings schliesst entgegen dem angefochtenen Entscheid der freiwillige Entschluss, die Dienstzeit als Durchdiener zu leisten, nicht die Berufung auf <ref-law> aus. Anders zu entscheiden hiesse, den Durchdiener von der Bestimmung auszunehmen, zumal die Wahl, den Dienst an einem Stück zu leisten, immer freiwillig ist (<ref-law>).
5. Es fragt sich, was unter einer Erwerbstätigkeit von längerer Dauer zu verstehen ist.
5.1 Der in <ref-law> verwendete Begriff der "Erwerbstätigkeit von längerer Dauer" ist unbestimmt, weshalb der Norminhalt unter Berücksichtigung der allgemeinen Auslegungsregeln zu ermitteln ist. Ausgangspunkt jeder Auslegung bildet der Wortlaut der Bestimmung. Ist der Text nicht ganz klar und sind verschiedene Interpretationen möglich, so muss nach seiner wahren Tragweite gesucht werden unter Berücksichtigung aller Auslegungselemente. Abzustellen ist dabei namentlich auf die Entstehungsgeschichte der Norm und ihren Zweck sowie auf die Bedeutung, die der Norm im Kontext mit anderen Bestimmungen zukommt. Das Bundesgericht hat sich bei der Auslegung von Erlassen stets von einem Methodenpluralismus leiten lassen und nur dann allein auf das grammatische Element abgestellt, wenn sich daraus zweifelsfrei die sachlich richtige Lösung ergab (<ref-ruling> E. 6.6.2.1 S. 37, 135 V 153 E. 4.1 S. 157, 124 II 372 E. 5 S. 376 mit Hinweisen).
Verordnungsrecht ist gesetzeskonform auszulegen. Es sind die gesetzgeberischen Anordnungen, Wertungen und der in der Delegationsnorm eröffnete Gestaltungsspielraum mit seinen Grenzen zu berücksichtigen. Im Rahmen verfassungskonformer oder verfassungsbezogener Auslegung ist sodann der Gleichbehandlungsgrundsatz zu beachten. Der klare Sinn einer Gesetzesnorm darf indessen nicht durch eine verfassungskonforme Auslegung beiseitegeschoben werden (<ref-ruling> E. 5.1 S. 266, 128 V 20 E. 3a S. 24, 126 V 468 E. 5a S. 472, 122 V 85 E. 5a/aa S. 93, 111 V 310 E. 2b S. 314).
5.2 Sinn und Zweck von <ref-law> ist es, Dienstleistende, die vor dem Einrücken nicht gemäss <ref-law> erwerbstätig waren, den Erwerbstätigen gleichzustellen. Sie sollen nicht benachteiligt sein, weil sie wegen des Militärdienstes keine Arbeit aufnehmen konnten, obwohl sie in der Zeit des absolvierten Dienstes glaubhafterweise einer erwerblichen Beschäftigung von längerer Dauer nachgegangen wären (vgl. E. 4.3 hievor). Systematisch sind im Folgenden vorab die Art. 5 und 6 EOV über die Berechnung des Erwerbsersatzes bei unselbstständig Erwerbstätigen in die Auslegung einzubeziehen. Laut <ref-law> gelten als Arbeitnehmerinnen und Arbeitnehmer mit regelmässigem Einkommen diejenigen, welche in einem unbefristeten oder mindestens für ein Jahr eingegangenen Arbeitsverhältnis stehen und deren Einkommen keinen starken Schwankungen ausgesetzt ist. Einkommen aus anderen als regelmässigen Arbeitsverhältnissen im Sinne von <ref-law> gelten als unregelmässig (<ref-law>). Zu prüfen ist die Auslegung des in <ref-law> verwendeten Begriffs der Erwerbstätigkeit von längerer Dauer in Anlehnung an die Unterscheidung regelmässiger und unregelmässiger Erwerbstätigkeiten gemäss den Art. 5 und 6 EOV.
6. 6.1 Im Rahmen einer verfassungsmässigen Auslegung der nach dem Wortlaut unklaren Verordnungsbestimmung ist namentlich der Rechtsgleichheit Rechnung zu tragen (E. 5.1 hievor). In dieser Hinsicht gilt, dass Gleiches nach Massgabe seiner Gleichheit gleich oder Ungleiches nach Massgabe seiner Ungleichheit ungleich behandelt wird. Der Anspruch auf rechtsgleiche Behandlung wird insbesondere verletzt, wenn hinsichtlich einer entscheidwesentlichen Tatsache rechtliche Unterscheidungen getroffen werden, für die ein vernünftiger Grund in den zu regelnden Verhältnissen nicht ersichtlich ist, oder wenn Unterscheidungen unterlassen werden, die aufgrund der Verhältnisse hätten getroffen werden müssen (vgl. <ref-ruling> E. 5.4.1 S. 369, 134 I 23 E. 9.1 S. 42 mit Hinweisen, 133 V 569 E. 5.1 S. 570 f., 131 I 91 E. 3.4 S. 103).
6.2 Unter Gleichbehandlungsaspekten spricht nichts dagegen, jedenfalls regelmässige Erwerbstätigkeiten im Sinne von <ref-law> als von längerer Dauer anzuerkennen, hingegen nicht unbesehen unregelmässige Beschäftigungen gemäss <ref-law>. Denn <ref-law> beschlägt - neben anderen - auch befristete kurze Tätigkeiten, die von vornherein nicht unter <ref-law> fallen, was eine weitergehende Abgrenzung innerhalb der Gruppe der unterjährigen Erwerbstätigkeiten notwendig machte, wollte man dieselben zur Glaubhaftmachung zulassen. Ein sachgerechtes Abgrenzungskriterium liesse sich jedoch mit Blick auf das Erfordernis rechtsgleicher Behandlung nicht leicht finden. Zu beachten sind sodann die grundsätzlichen Schwierigkeiten, gestützt auf ein unterjähriges Arbeitsverhältnis die Aufnahme einer Arbeit von längerer Dauer glaubhaft zu machen, zumal der Beweis nach dem Wortlaut von <ref-law> auf der Grundlage nur eines Arbeitsverhältnisses zu erbringen ist. Darüber hinaus werden unterjährige Beschäftigungsverhältnisse oftmals von Personen gewählt, die nur vorübergehend erwerbstätig sein wollen, zur Hauptsache aber anderem nachgehen. So verhält es sich namentlich bei Studenten, welche lediglich in den Semesterferien arbeiten, derweil die Ausbildung ganz klar im Vordergrund steht. Deswegen gelten sie arbeitslosenversicherungsrechtlich mit Ausnahme von Werkstudenten als nicht vermittelbar, und einen Anspruch auf Arbeitslosengelder haben sie nicht (<ref-law>; <ref-ruling> E. 4c/cc S. 391, 108 V 100; Urteil C 87/95 vom 12. Juli 1995 E. 3b/aa und 3b/bb; für das Invalidenversicherungsrecht vgl. Urteil I 72/06 vom 24. April 2007 E. 6). Demgegenüber weist eine glaubhaft gemachte Beschäftigung von mindestens einem Jahr oder ohne Befristung das Merkmal der Beständigkeit in einem Mass auf, welches beweisrechtlich unmittelbar den Schluss auf die Absicht der versicherten Person erlaubt, eine Erwerbstätigkeit von längerer Dauer aufgenommen zu haben, wäre sie nicht eingerückt.
6.3 Hingegen sind mindestens einjährige und unbefristete Erwerbstätigkeiten zuzulassen, auch wenn der dabei erzielte Lohn starken Schwankungen unterliegt (vgl. <ref-law>). Diesfalls handelt es sich zwar nicht um eine Beschäftigung mit regelmässigem Einkommen im Sinne von <ref-law>. Jedoch nimmt <ref-law> nur Bezug auf die Dauer der Tätigkeit und anderweitige Einschränkungen - wie ein stabiler Lohn - lassen sich der Bestimmung nicht entnehmen. Allerdings dürfen die starken Lohnschwankungen nicht auf Gründe zurückzuführen sein, die im Einflussbereich des Arbeitnehmers liegen, weil sonst beweisrechtlich dessen Wille, eine mindestens einjährige Erwerbstätigkeit aufzunehmen, nicht hinlänglich klar zu Tage träte (vgl. E. 6.2 hievor) und sich mitunter die Frage stellte, ob arbeitsrechtlich tatsächlich ein unbefristeter Arbeitsvertrag vorläge. Darüber hinaus wäre eine einjährige Tätigkeit, die nach dem Willen des Werktätigen beispielsweise nur während einiger Monate in unregelmässigen Abständen ausgeübt würde, im hier zu beurteilenden Zusammenhang faktisch der unterjährigen Beschäftigung gleichzustellen. Nur mit der genannten Einschränkung lässt sich eine rechtsgleiche Behandlung zu denjenigen Versicherten herstellen, die bloss eine unterjährige Beschäftigung glaubhaft machen können und damit die Erfordernisse von <ref-law> nicht erfüllen. Die Anforderungen an den Lohnnachweis bei stark schwankendem Einkommen richten sich jedoch nach der Notwendigkeit, ein Durchschnittseinkommen zu ermitteln (<ref-law>), wobei der Versicherte die Beweislast trägt. Insgesamt ist die Glaubhaftmachung gemäss <ref-law>, ohne Einrücken eine Erwerbstätigkeit von längerer Dauer aufgenommen zu haben, auf unbefristete oder mindestens einjährige Erwerbstätigkeiten zu beschränken. Starke Lohnschwankungen dürfen nicht auf Umstände zurückzuführen sein, die im Einflussbereich der versicherten Person liegen.
7. Offensichtlich unrichtig und daher das Bundesgericht nicht bindend ist die Feststellung im angefochtenen Entscheid, bis April 2008 sei nie von der Aufnahme einer Arbeit anstelle des Militärdienstes die Rede gewesen (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG). Nach Lage der Akten beantragte der Beschwerdeführer vielmehr schon mit Schreiben vom 25. November 2007 die Ausrichtung einer höheren Grundentschädigung. Dabei stützte er sich auf die Bestätigung der X._ AG vom 19. November 2007. Letztinstanzlich verbindlich bleibt hingegen die anhand der Bestätigung vom 19. November 2007 getroffene Feststellung einer bei der X._ AG bestehenden Arbeitsmöglichkeit. Denn die von der Firma erwähnte Anstellungsdauer vom 1. Juli 2007 bis 30. Juni 2008 ist nicht geeignet, Erwerbsarbeit im nach dem Gesagten rechtlich geforderten Mindestumfang von einem Jahr glaubhaft zu machen, weil in diese Zeit die Sprachaufenthalte während 12 Wochen nach Beendigung des Militärdienstes Ende April 2008 fallen. Deshalb ist eine hypothetische Erwerbstätigkeit von längerer Dauer (vgl. E. 6.2 und 6.3 hievor) nicht erstellt. Eine Gleichstellung des Beschwerdeführers mit einem Erwerbstätigen gestützt auf <ref-law> fällt unter diesen Umständen ausser Betracht. Der vorinstanzliche Entscheid hält daher im Ergebnis stand.
8. Der Beschwerdeführer hat als unterliegende Partei die Kosten des bundesgerichtlichen Verfahrens zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Graubünden und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. Juni 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Ettlin