Sachverhalt:
A. A.a Am 25. November 2008 wurde in Pontarlier/Frankreich der Sohn von BX._, Schweizer Bürgerin von Etzgen/AG, La Brévine/NE und Le Locle/NE, und CY._, Schweizer Bürger von Delley-Portalban/FR, geboren. Gemäss Geburtsschein (Acte de naissance/ copie intégrale) des Zivilstandsamtes Pontarlier vom 26. September 2008 trägt das Kind den Namen AY._ und anerkannten die Eltern, welche nicht miteinander verheiratet sind, die Elternschaft bereits am 1. August 2008 gegenüber den Zivilstandsbehörden von Pontarlier.
A.b Nach Übermittlung des Geburtsscheines (via Schweizerisches Generalkonsulat in Lyon) erliess das Departement Volkswirtschaft und Inneres des Kantons Aargau (Justizabteilung, Sektion Bürgerrecht und Personenstand) als kantonale Aufsichtsbehörde im Zivilstandswesen am 4. Februar 2009 die Verfügung (gemäss <ref-law>) über die Eintragung in das schweizerische Zivilstandsregister (Zivilstandsamt Laufenburg). Die Aufsichtsbehörde anerkannte die Erklärung der Anerkennung der Vaterschaft durch CY._ und verfügte die Eintragung der im Ausland beurkundeten Geburt im schweizerischen Register. Als Namen von A._ ordnete sie die Eintragung von X._, den Familiennamen der Mutter an.
A.c Am 16. Mai 2009 gelangte BX._ an die kantonale Aufsichtsbehörde im Zivilstandswesen und verlangte, es sei der im Zivilstandsregister eingetragene Familienname ihres Sohnes A._ von "X._" in "Y._" zu berichtigen.
B. Mit Verfügung vom 22. Juli 2009 wies die kantonale Aufsichtsbehörde im Zivilstandswesen das Berichtigungsgesuch ab. Hiergegen erhob BX._ kantonale Beschwerde, welche das Obergericht des Kantons Aargau mit Urteil vom 3. Februar 2010 abwies.
C. AY._, gesetzlich vertreten durch seine Mutter BX._, führt mit Eingabe vom 20. März 2010 Beschwerde in Zivilsachen. Der Beschwerdeführer beantragt dem Bundesgericht die Aufhebung des obergerichtlichen Urteils und die Berichtigung des Familiennamens von "X._" in "Y._". Weiter ersucht er um Gewährung der aufschiebenden Wirkung.
Mit Präsidialverfügung vom 14. April 2010 wurde das Gesuch um aufschiebende Wirkung abgewiesen. In der Sache sind keine Vernehmlassungen eingeholt worden.

Erwägungen:
1. 1.1 Gegenstand der Beurteilung durch das Obergericht ist die Bereinigung des Zivilstandsregisters durch die Zivilstandsbehörden gemäss <ref-law>. Der angefochtene Entscheid über die Führung des Zivilstandsregisters unterliegt gemäss Art. 72 Abs. 2 lit. b Ziff. 2 BGG der Beschwerde in Zivilsachen.
1.2 Der Beschwerdeführer ist in der vorliegenden verfahrensabschliessenden (<ref-law>) und nicht vermögensrechtlichen Angelegenheit zur Beschwerde berechtigt, da ein rechtlich (durch <ref-law>) geschütztes Interesse an der Änderung des angefochtenen Entscheides besteht (<ref-law>). Die Beschwerde gegen den kantonal letztinstanzlichen Entscheid ist grundsätzlich zulässig (<ref-law>).
1.3 Mit vorliegender Beschwerde kann die Verletzung von u.a. Bundes- und Völkerrecht gerügt werden (Art. 95 lit. a und b BGG); ferner die Anwendung ausländischen Rechts nach <ref-law>. In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (<ref-law>). Die Verletzung von verfassungsmässigen Rechten ist in der Beschwerdeschrift vorzubringen und zu begründen (<ref-law>), wobei das Rügeprinzip gilt (<ref-ruling> E. 2 S. 591).
1.4 Das Bundesgericht ist an den vorinstanzlich festgestellten Sachverhalt gebunden (<ref-law>). Zulässig ist einzig die Rüge, dass eine Tatsachenfeststellung auf einer Rechtsverletzung im Sinne von <ref-law> beruhe oder eine Tatsache offensichtlich unrichtig festgestellt worden sei (<ref-law>), wobei "offensichtlich unrichtig" mit "willkürlich" gleichzusetzen ist (<ref-ruling> E. 7.1 S. 398 mit Hinweisen).
1.5 Mit Schreiben vom 10. Mai 2010 teilt die Mutter und gesetzliche Vertreterin des Beschwerdeführers dem Bundesgericht mit, dass "von nun an" nicht mehr ihr Sohn, sondern sie selber beschwerdeführende Person sei. Im kantonalen Verfahren ist die Mutter ausdrücklich im Namen ihres Sohnes an das Obergericht gelangt; daran ändert nichts, dass sie von der Vorinstanz (im Rubrum des angefochtenen Urteils) als "Beschwerdeführerin" bezeichnet wird. Soweit die Mutter (entgegen der Angabe in der Beschwerdeschrift an das Bundesgericht) in eigenem Namen Beschwerde führen will, kann darauf nicht eingetreten werden, da die gesetzliche Beschwerdefrist (<ref-law>) abgelaufen ist. Dass die Mutter mit dem erwähnten Schreiben die im Namen des Kindes erhobene Beschwerde in Zivilsachen zurückziehen und eine unzulässige Beschwerde erheben will, ist nicht anzunehmen.
2. Das Obergericht hat unter Hinweis auf <ref-law> festgehalten, dass mit der anbegehrten Bereinigung des Zivilstandsregisters durch die Zivilstandsbehörden nur Fehler behoben werden können, die auf einem offensichtlichen Versehen oder Irrtum beruhen. Es hat geprüft, ob ein derartiger Fehler vorliege, wenn der Beschwerdeführer mit dem Familiennamen der Mutter in das Zivilstandsregister eingetragen worden ist. Im Wesentlichen hat das Obergericht erwogen, dass nach den Angaben in der französischen Geburtsurkunde der in Frankreich geborene Beschwerdeführer im Zeitpunkt seiner Geburt zusammen mit seinen Eltern in der Schweiz (Avenches/VD) domiziliert gewesen sei. Deshalb sei auf den Namen des Beschwerdeführers nach Art. 37 Abs. 1 erster Satz IPRG schweizerisches Recht anwendbar und habe dieser - da seine Eltern nicht miteinander verheiratet sind - nach <ref-law> den Familiennamen der Mutter ("X._") erhalten. Dass der Beschwerdeführer seinen Namen (gemäss <ref-law>) dem französischen Recht unterstellen könne, falle ausser Betracht, da er einzig Schweizer Bürger bzw. nicht auch französischer Staatsangehöriger sei. Das Obergericht hat geschlossen, dass die kantonale Aufsichtsbehörde im Zivilstandswesen das Vorliegen eines offensichtlichen Versehens oder Irrtums zu Recht verneint habe und die Eintragung des Beschwerdeführers mit dem Familiennamen der Mutter richtig sei.
3. Anlass zur vorliegenden Beschwerde gibt die - nach Auffassung des Beschwerdeführers unrichtige - Eintragung der französischen Geburtsurkunde in das schweizerische Zivilstandsregister. Umstritten ist, ob die Eintragung der Geburt in das schweizerische Zivilstandsregister des im Ausland geborenen Beschwerdeführers betreffend Familiennamen auf einem offensichtlichen Versehen oder Irrtum beruht, welche von den kantonalen Zivilstandsbehörden zu berichtigen seien.
3.1 Grundsätzlich muss die Berichtigung einer unrichtigen Eintragung im Register durch den Richter angeordnet werden (<ref-law>, Art. 30 Abs. 1 ZStV). Wenn der Fehler hingegen auf einem offensichtlichen Versehen oder Irrtum beruht, so kann die Zivilstandsbehörde die Berichtigung anordnen (<ref-law>, Art. 29 ZStV; sog. administrative Bereinigung). Die Unrichtigkeit muss offensichtlich und unbestritten sein und aus den dem Zivilstandsbeamten zur Zeit der Eintragung zur Verfügung stehenden Urkunden und Informationen hervorgehen (vgl. <ref-ruling> E. 5 S. 91; bereits BGE 76 I 229 S. 231; A. BUCHER, Personnes physiques et protection de la personnalité, 5. Aufl. 2009, Rz 296 und 297). Die Berichtigung einer Eintragung auf dem Verwaltungsweg kann keinesfalls in Frage kommen, wenn von irgend einer Seite mit einem Widerspruch zu rechnen ist oder wenn die Eintragung den Angaben entspricht, über die der Zivilstandsbeamte verfügte (<ref-ruling> E. 2 S. 12; Tuor/Schnyder/Schmid, Das schweizerische Zivilgesetzbuch, 13. Aufl. 2009, § 13 Rz 23, S. 136).
3.2 Der Hinweis des Beschwerdeführers, wonach er im Einwohnerregister seiner Wohnsitzgemeinde und auf der Identitätskarte mit dem Familiennamen des Vaters eingetragen worden sei, vermögen nichts daran zu ändern, dass die im Ausland beurkundete Geburt des Beschwerdeführers nach den massgeblichen Regeln des IPRG bzw. ZGB im Zivilstandsregister einzutragen ist. Hierfür sind weder die Eintragungen der offenbar früher ebenfalls im Ausland geborenen Geschwister noch der Identitätsausweis oder die Angaben des Beschwerdeführers bei der Einwohnerkontrolle massgebend. Im Übrigen muss ein Identitätsausweis den amtlichen Namen - gemäss Angabe im Zivilstandsregister - enthalten (Art. 2 Abs. 1 lit. a des Bundesgesetzes und Art. 14 Abs. 1 der Verordnung über die Ausweise für Schweizer Staatsangehörige; SR 143.1 und 143.11). Insoweit geht der Einwand, dass die Zivilstandsbehörden relevante Angaben irrtümlich oder versehentlich nicht berücksichtigt hätten, fehl.
3.3 Der Beschwerdeführer bringt weiter vor, er habe im Zeitpunkt seiner Geburt Wohnsitz in Frankreich gehabt und sei im Weiteren nicht nur Schweizer Bürger, sondern auch französischer und italienischer Staatsangehöriger, weshalb er gestützt auf Art. 37 Abs. 1 und 2 IPRG bzw. das ausländische Recht den Namen des Vaters tragen dürfe. Die Ausführungen in der Beschwerdeschrift sind unbehelflich. Der Beschwerdeführer legt nicht dar, inwiefern die Vorinstanz mit Bezug auf die gegenüber den Zivilstandsbehörden gemachten Angaben zum Lebensmittelpunkt in der Schweiz eine unrichtige Sachverhaltsfeststellung im Sinne von <ref-law> getroffen haben soll. Er unterlässt auch darzulegen, inwiefern die Feststellung der Vorinstanz, der Beschwerdeführer sei nach den Angaben, über welche die Zivilstandsbehörden anlässlich der Eintragung der französischen Geburtsurkunde verfügten, im Zeitpunkt der Geburt einzig Schweizer Staatsbürger gewesen, unrichtig im Sinne von <ref-law> sein soll. Er bestätigt vielmehr selber (was bereits dem vorinstanzlichen Sachverhalt zu entnehmen ist), dass die Verfahren betreffend Feststellung der französischen und der italienischen Staatsangehörigkeit bei den zuständigen Konsularbehörden hängig seien. In der Beschwerdeschrift wird nicht dargetan, inwiefern das Obergericht das Vorliegen eines offensichtlichen Irrtums oder Fehlers übergangen habe, wenn es zum Ergebnis gelangt ist, der Beschwerdeführer sei (in Anwendung von Art. 37 Abs. 1 erster Halbsatz IPRG und <ref-law>) mit dem Familiennamen seiner mit dem Vater nicht verheirateten Mutter richtig in das Zivilstandsregister eingetragen worden. Soweit der Beschwerdeführer insoweit eine Verletzung der Regeln über die administrative Berichtigung von Eintragungen im Zivilstandsregister bzw. <ref-law> rügt, kann auf die Beschwerde mangels hinreichender Begründung nicht eingetreten werden (E. 1.3).
3.4 Der Beschwerdeführer macht weiter sinngemäss geltend, dass der durch die EMRK geschützte Wunsch seiner Eltern, ihn mit dem Familiennamen des Vaters in das Zivilstandsregister einzutragen, übergangen worden sei und dies einen offensichtlichen Irrtum der Zivilstandsbehörden darstelle. Ob die Abgabe einer gesetzlich vorgesehenen Erklärung zur Namensführung (wie nach Art. 119 Abs. 1 oder Art. 160 Abs. 2 ZGB), welche vom Zivilstandsbeamten aus offensichtlichem Versehen oder Irrtum nicht berücksichtigt worden ist, auf administrativem Weg (<ref-law>) berichtigt werden kann, braucht vorliegend nicht abschliessend erörtert zu werden. Entgegen der Auffassung des Beschwerdeführers besteht - wie sich aus dem Folgenden ergibt - kein Anspruch auf Abgabe der von ihm behaupteten Erklärung.
3.4.1 Dem Beschwerdeführer ist in seinen Ausführungen zuzustimmen, wonach - wie das Bundesgericht kürzlich festgehalten hat (<ref-ruling> E. 3.3.1 S. 171) - das eheliche Namensrecht nicht EMRK-konform ist, soweit es den Ehegatten vorschreibt, einen gemeinsamen Familiennamen zu führen. Hingegen übergeht er, dass es in <ref-law> nicht um die Durchsetzung der Einheit des Familiennamens geht. Die Regel des <ref-law>, wonach das Kind nicht verheirateter Eltern den Familiennamen der Mutter zur Zeit der Geburt erhält, beruht vielmehr auf dem Gedanken, dass ein solches Kind häufig bei der Mutter aufwächst, zu der es eine engere Beziehung hat (<ref-ruling> E. 6 S. 252; <ref-ruling> E. 4.4.1 S. 501; MEIER/STETTLER, Droit de filiation, 4. Aufl. 2009, Rz 603 und 604; HEGNAUER, Berner Kommentar, 1997, N. 115 zu <ref-law>). Den Familiennamen des Vaters kann das Kind des mit der Mutter nicht verheirateten Vaters durch Namensänderung gemäss <ref-law> bzw. bei Vorliegen wichtiger Gründe erlangen. Den Eltern steht nach geltendem Recht kein Wahlrecht zu, was weder gegen Art. 8 noch Art. 14 EMRK verstösst (TUOR/SCHNYDER/RUMO-JUNGO, Das schweizerische Zivilgesetzbuch, 13. Aufl. 2009, § 41 Rz 9, S. 451). Im Weiteren können auch miteinander verheiratete Eltern nicht verlangen, dass das Kind mit dem Familiennamen der Mutter in das Geburtsregister eingetragen wird (<ref-ruling> E. 2; bestätigt mit Entscheid Nr. 36797/97 des Europäischen Gerichtshofs für Menschenrechte i.S. G.M.B. und K.M. gegen Schweiz vom 27. September 2001, zusammengefasst in: VPB 2002 Nr. 117 S. 1324, und mit Urteil 5A.34/2004 des Bundesgerichts vom 22. April 2005 E. 4.2, in: FamPra.ch 2005 S. 883). Soweit der Beschwerdeführer das Vorliegen eines offensichtlichen Versehens bzw. Irrtums darin sieht, dass der Wunsch seiner nicht verheirateten Eltern übergangen worden sei, für ihn den Familiennamen des Vaters zu wählen, geht der Vorwurf einer EMRK-Verletzung fehl.
3.4.2 Schliesslich kann - entgegen der Auffassung des Beschwerdeführers - von einer Verletzung von Art. 7 und Art. 8 der UNO-Kinderrechtekonvention nicht gesprochen werden. Weder ist der Beschwerdeführer nicht in ein Register eingetragen worden, noch wurde ihm das Recht auf einen Namen von Geburt an verweigert (vgl. Rumo-JUNGO, Das neue Namensrecht, in: ZVW 2001 S. 178). Ebenso wenig wurde dem Beschwerdeführer der Familienname entzogen, sondern er wurde nach den für die Schweiz massgebenden Regeln eingetragen.
3.5 Nach dem Dargelegten ist nicht zu beanstanden, wenn das Obergericht in der Eintragung des Beschwerdeführers mit dem Familiennamen "X._" im Zivilstandsregister keinen Grund zur administrativen Berichtigung nach <ref-law> erblickt hat.
4. Aus diesen Gründen ist der Beschwerde in Zivilsachen kein Erfolg beschieden. Bei diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (<ref-law>). Eine Parteientschädigung ist nicht geschuldet (<ref-law>). Das Urteil ist den zuständigen Bundesbehörden mitzuteilen (vgl. Art. 90 Abs. 4 und 5 ZStV).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in Zivilsachen wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Aargau, Zivilgericht, 3. Kammer, und dem Eidgenössischen Justiz- und Polizeidepartement schriftlich mitgeteilt.
Lausanne, 9. Juli 2010
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Levante