Faits: A. A.a Par acte constitutif du 1er juin 1977, inscrit sous PJ 8805-1977, la société C._ SA, propriétaire de l'immeuble no 108 de la commune de D._, a soumis ce dernier au régime de la propriété par étages. Selon la répartition des parts de propriété par étages établie par l'architecte E._ et mentionnée dans l'acte constitutif, le garage de l'immeuble est désigné sous l'unité d'étage no 8, correspondant au no 11090 du registre foncier. Il représente une quote-part de 58/1000èmes de la parcelle de base. Cette unité d'étage est divisée en 29 places de parc numérotées de A à J (sans I), de A1 à L1 (sans I1) et de A2 à J2 (sans I2), chacune représentant une quote-part de 1/29ème. A.b Par acte de vente du 2 mai 1981, la société C._ SA a vendu à F._ l'unité d'étage no 11116, représentant une quote-part de 21/1000èmes de la parcelle de base no 108, ainsi qu'une quote-part de 1/29ème de la PPE no 11090 (parking no 8). L'acte de vente précise expressément "Jouissance exclusive de la place de parc désignée sous lettre 'B1' du plan, au deuxième sous-sol". Les 1er et 8 septembre 1981, l'Association G._ a notamment acquis de la société C._ SA deux quotes-parts de la PPE no 11090 (parking no 8). Le premier acte de vente mentionne expressément la place de parc no A1, tandis que le second a la teneur suivante: "PPE 11090 - 58/1000èmes du no 108 plan no 4 - droit exclusif sur parking no 8 - 1er, 2ème, 3ème sous-sol - soit 1/29ème de cette PPE (place lettre B1)". Par "convention d'apport en nature et reprise de biens" du 7 novembre 1994, G._ a notamment cédé à la société Y._ SA les 2/29èmes de la PPE 11090 acquis en septembre 1981. Cet acte ne précise pas à quelles places du parking no 8 ces parts correspondent. Différents témoignages ont néanmoins permis de retenir, sans qu'aucun acte du dossier ne les mette en doute, que, dès 1981 et indépendamment de l'acte de cession précité, ce sont toujours les actionnaires de Y._ SA, également sociétaires de G._, qui ont utilisé la place de parc B1. Le 23 août 2007, les époux X._ ont acheté à F._ l'unité d'étage no 11116 ainsi qu'une quote-part de 1/29ème de l'unité d'étage no 11090. Au sujet de cette dernière, l'acte de vente mentionne: "ce 1/29ème donn(e) droit à la place B1 selon acte de vente de 1981 et selon acte constitutif de PPE d'origine". A.c Par courrier du 7 décembre 2007, les époux X._ ont indiqué à l'administrateur de la communauté des propriétaires d'étages de l'immeuble no 108 qu'il devait y avoir une erreur dans la distribution des places de parc, la place qui leur avait été attribuée l'ayant été également à la société Y._ SA. Ils lui demandaient ainsi de trouver une solution à ce différend. L'administrateur a mandaté Me H._, avocat et notaire, afin qu'il examine la situation. Dans le rapport qu'il a établi le 19 décembre 2007, le mandataire observe que certaines places de parc avaient été vendues deux fois, que certaines attributions restaient obscures, que des places de parc, dont la référence ne correspondait pas au plan de l'architecte, avaient été octroyées à certains copropriétaires et qu'enfin, différentes places de parc attribuées à des copropriétaires avaient été transformées en local à skis commun. Le 22 février 2008, afin de régulariser la situation, l'administrateur a adressé aux propriétaires d'étages un courrier leur proposant une réattribution des places de parc. Selon cette proposition, les places A1 et B1 étaient octroyées à la société Y._ SA tandis que les époux X._ se voyaient attribuer la place G1. Tous les propriétaires intéressés ont adhéré à ladite proposition, à l'exception des époux X._, ces derniers s'y opposant par courrier du 18 mars 2008. Le 5 mai 2008, ils ont mis en demeure la société Y._ SA de ne plus utiliser la place de parc no B1; la société n'ayant pas donné suite à leur injonction, ils lui ont adressé un ultime délai au 15 septembre 2008, l'informant qu'à défaut de réaction, ils saisiraient les autorités judiciaires compétentes. B. Par demande déposée devant le Tribunal cantonal du canton du Valais le 1er décembre 2008, les époux X._ ont ouvert action en cessation de trouble et en rectification du registre foncier contre la société Y._ SA. Ils ont conclu à ce qu'il soit constaté qu'ils étaient seuls propriétaires de la place de parc B1, à ce qu'il soit fait interdiction à la société défenderesse d'utiliser de quelque manière que ce soit ladite place de parc, sous commination des suites légales en cas de violation de ladite interdiction et à la rectification du registre foncier de I._ en conséquence. La société défenderesse a conclu au rejet de la demande. Après avoir instruit la cause, la juge III du district de Sierre a transmis le dossier au Tribunal cantonal pour jugement le 27 mai 2010. Le 29 novembre 2010, cette dernière juridiction a rejeté la demande, dans la mesure de sa recevabilité. C. Le 17 janvier 2011, A.X._ et B.X._ (ci-après les recourants) interjettent un recours en matière civile devant le Tribunal fédéral contre la décision cantonale. Ils concluent à l'annulation de celle-ci et, reprennent, à titre principal, les conclusions prises en instance cantonale, à l'exception de leur conclusion constatatoire. Subsidiairement, ils demandent le renvoi de la cause à l'autorité cantonale. Des observations n'ont pas été demandées.