Faits: A. Le mariage conclu à Mitrovica entre B.X._, né le 10 février 1963, et C.X._, née le 23 juin 1965, tous deux ressortissants de la République du Kosovo, a été dissout par le divorce le 31 janvier 2007. La garde de leur fille unique, A.X._, née le 16 octobre 1996, était confiée à la mère, le père devant contribuer à son entretien par le versement d'un montant de 300 euros à compter du 1er février 2007. Le 17 janvier 2009, B.X._ est entré en Suisse et a été mis le 5 février 2009 au bénéfice d'une autorisation de séjour délivrée au titre du regroupement familial à la suite de son mariage, le 12 septembre 2007, avec une ressortissante suisse. B. Le 4 novembre 2010, C.X._ a déposé auprès de l'Ambassade de Suisse à Pristina (Kosovo) une demande de regroupement familial afin que sa fille A.X._ puisse venir vivre auprès de son père en Suisse. Dans une écriture du même jour jointe à la requête, C.X._ a indiqué qu'elle s'était mariée avec B.X._ de manière traditionnelle en hiver 1994 ou 1995, qu'elle avait choisi de garder le nom de son ex-époux après le divorce, qu'elle habitait dans le même immeuble que sa soeur et ses beaux-parents et qu'elle était d'accord que sa fille rejoigne son père en Suisse. Le 4 mars 2011, le Service de la population du canton de Vaud a informé B.X._ de son intention de refuser la demande de regroupement familial aux motifs, d'une part, que le délai d'une année pour demander le regroupement familial n'avait pas été respecté et, d'autre part, que A.X._ vivait au Kosovo auprès de sa mère. Dans sa détermination du 20 juin 2011, B.X._ a notamment expliqué que son ex-épouse désirait se remarier et que la présence auprès d'elle de A.X._ l'en empêchait, car les us et coutumes en vigueur au Kosovo n'autorisaient pas un homme à épouser une femme vivant avec des enfants nés d'une précédente union. Par décision du 22 août 2011, le Service de la population a refusé d'octroyer une autorisation de séjour à A.X._. A l'encontre de cette décision, B.X._, agissant en son nom et celui de sa fille, a recouru à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal), qui a rejeté le recours par arrêt du 8 mai 2012. Les juges cantonaux ont considéré que dès le moment où le délai d'une année pour demander le regroupement familial en faveur d'un enfant de plus de douze ans n'avait pas été respecté - ce qui était sans conteste le cas en l'occurrence -, une autorisation de séjour ne pouvait être délivrée à ce titre qu'en présence de raisons familiales majeures. Ils ont nié l'existence de telles raisons, en estimant en particulier que l'éventuel remariage de C.X._ n'en constituait pas une. L'examen du cas à la lumière de l'art. 8 CEDH ne conduisait pas davantage à l'octroi de l'autorisation sollicitée. C. Agissant par la voie du recours en matière de droit public, Kolë et A.X._ demandent au Tribunal fédéral de réformer l'arrêt du 8 mai 2012 en ce sens qu'une autorisation de séjour est délivrée à cette dernière. Ils dénoncent une violation de l'art. 8 CEDH et font valoir qu'il existe des raisons majeures justifiant un regroupement familial différé. L'autorité précédente et le Service de la population renoncent à se déterminer sur le recours. L'Office fédéral des migrations propose de le rejeter.