Sachverhalt: A. X._, geboren 1978 im Kosovo, gelangte im März 1996 in die Schweiz. Im Verlaufe des Jahres 1999 lernte er die 1975 geborene Schweizer Bürgerin A._ kennen und heiratete sie im Mai 2000. B. Am 6. Mai 2002 stellte X._ beim Bundesamt für Migration (BFM) ein Gesuch um erleichterte Einbürgerung, das wegen der fehlenden Voraussetzung der dreijährigen Ehedauer als gegenstandslos abgeschrieben wurde. Am 18. Mai 2003 reichte X._ ein zweites Gesuch um erleichterte Einbürgerung ein. Er sowie seine Ehefrau unterzeichneten am 29. April 2004 eine Erklärung, wonach sie in einer tatsächlichen, ungetrennten, stabilen ehelichen Gemeinschaft an derselben Adresse zusammenlebten und weder Trennungs- noch Scheidungsabsichten bestünden. Gleichzeitig nahmen sie unterschriftlich zur Kenntnis, dass die erleichterte Einbürgerung nicht möglich ist, wenn vor oder während des Einbürgerungsverfahrens einer der Ehegatten die Trennung oder Scheidung beantragt hat oder keine tatsächliche eheliche Gemeinschaft mehr besteht, und dass die Verheimlichung solcher Umstände zur Nichtigerklärung der Einbürgerung führen kann. X._ wurde am 21. Juni 2004 erleichtert eingebürgert und erhielt das Bürgerrecht der Gemeinde Wynigen im Kanton Bern. C. Am 26. September 2005 reichten die Ehegatten beim Gericht des Seebezirks in Murten ein gemeinsames Scheidungsbegehren ein. Die Ehe wurde mit Urteil vom 25. Januar 2006 geschieden. Das BFM leitete in der Folge ein Verfahren betreffend Nichtigerklärung der erleichterten Einbürgerung von X._ ein und erklärte nach entsprechender Zustimmung des Kantons Bern mit Verfügung vom 29. April 2009 die erleichterte Einbürgerung für nichtig. D. Eine von X._ gegen die Verfügung des BFM erhobene Beschwerde wies das Bundesverwaltungsgericht mit Urteil vom 8. Dezember 2010 ab. E. X._ gelangt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 19. Januar 2011 ans Bundesgericht und beantragt, das Urteil des Bundesverwaltungsgerichts vom 8. Dezember 2010 sowie die Verfügung des BFM vom 29. April 2009 seien aufzuheben und die erleichterte Einbürgerung sei nicht für nichtig zu erklären. F. Die Vorinstanz verzichtet auf eine Vernehmlassung. Das BFM beantragt die Abweisung der Beschwerde. G. Mit Verfügung vom 11. Februar 2011 hat das Bundesgericht der Beschwerde aufschiebende Wirkung zuerkannt. H. Mit Eingabe vom 2. März 2011 teilt der Beschwerdeführer mit, dass seine frühere Ehefrau und er am 25. Februar 2011 wieder geheiratet haben.