Faits :
A.
A.a. Les époux A.X._ et B.X._, ressortissants kosovars nés respectivement en 1971 et 1974, sont les parents de trois enfants: C.X._, née en 2003, D.X._, né en 2004 et E.X._, née en 2012.
A.b. A.X._ serait arrivé en Suisse en 1995. Il a déposé une demande d'asile le 24 novembre 1997, laquelle a été rejetée le 22 juillet 1998. L'intéressé a été mis au bénéfice d'une admission provisoire à partir du 30 juillet 1999, valable jusqu'au mois de novembre 1999. Depuis son arrivée, il a exercé différents emplois, avant d'être engagé dans une fromagerie à Y._, le 1er mars 2000.
B.X._ est entrée en Suisse le 13 juillet 1999, date à laquelle elle a déposé une demande d'asile qui a été rejetée le 3 janvier 2000. L'intéressée a été refoulée le 15 mai suivant au Kosovo, où son époux est parti la retrouver brièvement le 14 juillet 2000.
A.c. Le 17 août 2003, A.X._ et B.X._ ont déposé une nouvelle demande d'asile, en expliquant qu'ils avaient quitté le Kosovo pour des raisons économiques. Ils ont été attribués au canton de Soleure. Par décision du 2 septembre 2003, l'Office fédéral des migrations, devenu le Secrétariat d'Etat aux migrations depuis le 1er janvier 2015 (ci-après: le Secrétariat d'Etat), a refusé d'entrer en matière sur la demande d'asile et a ordonné le renvoi des intéressés. Le 30 octobre 2003, l'autorité fédérale leur a imparti un délai de départ au 13 novembre 2003.
Le 24 octobre 2003, les autorités soleuroises ont constaté la disparition des époux X._.
A.d. Le 22 mars 2004, les époux X._, ainsi que leur fille C.X._, ont saisi le Service de la population du canton de Vaud (ci-après: le Service de la population) d'une requête tendant à l'octroi d'une exception aux mesures de limitation du nombre des étrangers et d'une autorisation de séjour en leur faveur. Le 17 mai 2004, le Service de la population a répondu qu'il ne pouvait pas donner suite à la requête des intéressés en raison du principe de l'exclusivité de la procédure d'asile et que, dans la mesure où la famille avait été attribuée au canton de Soleure, seul ce dernier était compétent pour proposer leur admission provisoire au Secrétariat d'Etat. Faisant suite à une nouvelle requête des intéressés, le Service de la population a maintenu sa position le 21 octobre 2004. Un délai a été fixé au 17 juin 2005 à la famille X._ pour quitter le canton de Vaud et rejoindre celui de Soleure.
Le 17 juin 2005, les époux X._, ainsi que leurs deux enfants, C.X._ et D.X._, ont demandé au Secrétariat d'Etat de réexaminer sa décision de refus d'entrer en matière et de renvoi du 2 septembre 2003. Le Secrétariat d'Etat a rejeté cette demande par décision du 15 juillet 2005. Les intéressés ont déféré cette décision devant le Tribunal administratif fédéral, avant de retirer leur recours le 13 juillet 2007. Dans l'intervalle, soit le 1er octobre 2005, la famille X._ s'est établie définitivement à Z._.
A.e. Le 20 janvier 2009, le Service de la population a informé les autorités soleuroises de police des étrangers qu'il envisageait une régularisation des conditions de séjour de la famille X._ sur la base de l'art. 14 al. 2 de la loi fédérale sur l'asile du 26 juin 1998 (LAsi; RS 142.31). Les autorités soleuroises ont indiqué qu'elles n'étaient pas opposées à cette démarche.
Le 19 mars 2009, la famille X._ a présenté une nouvelle demande d'autorisation de séjour au Service de la population fondée sur l'<ref-law>. Se déclarant favorable à cette demande, le Service de la population a transmis le dossier au Secrétariat d'Etat. Le 22 février 2010, le Secrétariat d'Etat a rendu une décision de non-entrée en matière et a retourné le dossier au Service de la population. Rappelant que les intéressés avaient été attribués au canton de Soleure, l'autorité fédérale a retenu que les autorités soleuroises étaient seules compétentes pour examiner les conditions de l'<ref-law>. La décision du Secrétariat d'Etat a été confirmée par arrêt du Tribunal administratif fédéral du 13 juin 2012.
B.
Le 27 août 2015, les époux X._, ainsi que leurs trois enfants, ont déposé auprès du Service de la population une demande d'autorisation de séjour pour "cas de rigueur". Ils ont notamment fait valoir qu'ils vivaient en Suisse depuis de nombreuses années et qu'ils y étaient très bien intégrés. Ils ont également indiqué que leur situation financière était saine et qu'ils n'avaient jamais eu affaire à la justice.
Le 5 janvier 2016, le Service de la population a informé les intéressés qu'il ne pouvait entrer en matière sur leur requête au motif que celle-ci se heurtait au principe de l'exclusivité de la procédure d'asile. Il a ajouté que les intéressés n'avaient aucun droit à séjourner dans le canton de Vaud et leur a enjoint de regagner le canton de Soleure. Ce courrier a été confirmé par décision formelle de refus d'entrée en matière datée du 5 février 2016.
Les époux X._, ainsi que leurs trois enfants, ont déposé deux recours auprès de la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal), l'un du 9 février 2016 contre le prononcé du 5 janvier 2016 et l'autre du 10 mars 2016 contre la décision du 5 février 2016. Après avoir joint les causes, le Tribunal cantonal a rejeté les deux recours des intéressés par arrêt du 9 juin 2016. Il a notamment retenu que l'intégration des recourants n'était pas exceptionnelle au point de leur conférer un droit manifeste à l'octroi d'une autorisation de séjour sur la base de l'art. 8 para. 1 CEDH. Il en a conclu que l'autorité inférieure avait refusé à juste titre d'entrer en matière sur leur requête, en application de l'art. 14 al. 1 de la loi fédérale sur l'asile du 26 juin 1998 (LAsi; RS 142.31).
C.
A.X._ et B.X._, ainsi que leurs trois enfants forment un recours en matière de droit public au Tribunal fédéral contre l'arrêt du 9 juin 2016. Ils concluent, avec suite de frais et dépens, à la réforme de l'arrêt entrepris en ce sens qu'une autorisation de séjour leur soit délivrée, subsidiairement au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants.
Le Tribunal cantonal se réfère aux considérants de son arrêt et le Service de la population renonce à se déterminer sur le recours. Dans le délai imparti par le Tribunal fédéral, les recourants ont déposé des nouvelles pièces.
Par ordonnance du 14 juillet 2016, le Président de la IIe Cour de droit public a octroyé l'effet suspensif au recours.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 116).
1.1. Selon l'art. 83 let. c LTF, le recours en matière de droit public est irrecevable à l'encontre des décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit (ch. 2).
Les recourants se prévalent du droit au respect de la vie privée garanti à l'art. 8 para. 1 CEDH. La protection de la vie privée découlant de cette disposition n'ouvre le droit à une autorisation de séjour qu'à des conditions restrictives. L'étranger doit en effet établir l'existence de liens sociaux et professionnels spécialement intenses avec la Suisse, notablement supérieurs à ceux qui résultent d'une intégration ordinaire (cf. <ref-ruling> consid. 3.2.1 p. 286; arrêts 2C_891/2016 du 27 septembre 2016 consid.3.2; 2C_725/2014 du 23 janvier 2015; consid. 3.2; 2C_536/2013 du 30 décembre 2013 consid. 2.2, non publié in <ref-ruling>). Au stade de la recevabilité, il suffit toutefois que l'existence de tels liens soit alléguée et apparaisse vraisemblable au vu des circonstances pour que le Tribunal fédéral entre en matière sur le recours (cf. <ref-ruling> consid. 1.1 p. 179; arrêts 2C_435/2014 du 13 février 2015 consid. 1.1; 2C_616/2012 du 1er avril 2013 consid. 1.4.2).
Dans le cas particulier, il n'est pas d'emblée exclu que les conditions requises pour bénéficier de la protection de la vie privée soient réunies au vu notamment de la durée du séjour en Suisse de la famille et de la situation des trois enfants, qui sont nés en Suisse et y ont vécu toute leur vie. Les deux aînés y sont du reste scolarisés "avec de bons résultats" (cf. arrêt attaqué, p. 10). Dans cette mesure, le recours échappe au motif d'irrecevabilité prévu à l'art. 83 let. c ch. 2 LTF, étant précisé que le point de savoir si les conditions de l'art. 8 CEDH sont effectivement réunies dans le cas particulier relève de l'examen au fond (cf. en lien avec la garantie de la vie privée au sens de l'art. 8 para. 1 CEDH: arrêt 2C_75/2011 du 6 avril 2011 consid. 1.1).
Pour le surplus, le recours est dirigé contre une décision finale (<ref-law>) rendue dans une cause de droit public (<ref-law>) par une autorité cantonale supérieure de dernière instance (art. 86 al. 1 let. d et al. 2 LTF). En outre, il a été déposé en temps utile (<ref-law>) et en la forme prévue (<ref-law>) par les destinataires de la décision attaquée qui ont un intérêt digne de protection à l'annulation ou à la modification de celle-ci (<ref-law>). Le présent recours est donc en principe recevable, sous réserve de ce qui suit.
1.2. L'arrêt attaqué confirme une décision par laquelle le Service de la population, faisant application de l'<ref-law>, a refusé d'entrer en matière sur une demande d'autorisation de séjour déposée par la famille X._. L'objet de la présente contestation ne porte donc pas sur l'octroi ou le refus d'une autorisation de séjour en tant que telle, mais uniquement sur l'existence potentielle d'un droit à une telle autorisation permettant, conformément à l'<ref-law> in initio ("à moins qu'il n'y ait droit"), de faire exception au principe de l'exclusivité de la procédure d'asile. Partant, la conclusion des recourants est irrecevable en tant qu'elle tend à l'octroi d'une autorisation de séjour; elle doit être interprétée comme visant à obtenir, outre l'annulation de l'arrêt attaqué, l'ouverture d'une procédure en vue d'une autorisation de séjour (cf. arrêts 2C_349/2011 du 23 novembre 2011 consid. 1.1 non publié in <ref-ruling>; 2C_493/2010 du 16 novembre 2010 consid. 1.1; 2C_551/2008 du 17 novembre 2008 consid. 3.2).
2.
Saisi d'un recours en matière de droit public, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). Si le recourant entend s'écarter des constatations de l'autorité précédente (cf. <ref-law>), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées. Sinon, il n'est pas possible de tenir compte d'un état de fait divergeant de celui qui est contenu dans l'acte attaqué (<ref-ruling> consid. 10.1 p. 445). Aux termes de l'<ref-law>, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente.
Les recourants ont fait parvenir quatre documents datés du mois d'octobre 2016. Il s'agit là de pièces nouvelles, postérieures à l'arrêt attaqué, que le Tribunal fédéral ne peut pas prendre en considération. Dans la suite du raisonnement, la Cour de céans se fondera donc exclusivement sur les faits établis par le Tribunal cantonal.
3.
3.1. Selon la jurisprudence, une exception au principe de l'exclusivité de la procédure d'asile n'est admise que si le droit à une autorisation de séjour requis par l'<ref-law> in initio apparaît "manifeste" (cf. <ref-ruling> consid. 3.1 p. 354; arrêts 2C_493/2010 du 16 novembre 2010 consid. 1.4; 2C_733/2008 du 12 mars 2009 consid. 5.1). Tel n'est en principe pas le cas si le requérant invoque uniquement le droit à la protection de sa vie privée au sens de l'art. 8 para. 1 CEDH, car la reconnaissance d'un droit à une autorisation de séjour par ce biais revêt un caractère exceptionnel (cf. arrêt 2C_493/2010 du 16 novembre 2010 consid. 1.4). En effet, comme on l'a vu, seuls des liens sociaux et/ou professionnels spécialement intenses avec la Suisse, dépassant ceux qui résultent d'une intégration ordinaire, sont susceptibles de fonder un droit à une autorisation de séjour au regard du respect dû à la vie privée selon l'art. 8 CEDH. Le Tribunal fédéral n'adopte pas une approche schématique qui consisterait à présumer, à partir d'une certaine durée de séjour en Suisse, que l'étranger y est enraciné et dispose de ce fait d'un droit de présence dans notre pays (<ref-ruling> consid. 3.2.1 p. 286). Il procède bien plutôt à une pesée des intérêts en présence, en considérant la durée du séjour en Suisse comme un élément parmi d'autres (cf. <ref-ruling> consid. 3.2.1 p. 286 s.; arrêts 2C_725/2014 du 23 janvier 2015 consid. 3.2; 2C_654/2013 du 12 février 2014 consid. 2.1; 2C_426/2010 du 16 décembre 2010 consid. 3.1). Les années passées dans l'illégalité ou au bénéfice d'une simple tolérance - par exemple en raison de l'effet suspensif attaché à des procédures de recours - ne doivent normalement pas être prises en considération dans l'appréciation ou alors seulement dans une mesure très restreinte (cf. <ref-ruling> consid.4.3 p. 8; <ref-ruling> consid. 4.3 p. 23 s.; <ref-ruling> consid. 3.3 p. 289; arrêts 2C_891/2016 du 27 septembre 2016 consid. 3.2; 2C_1010/2011 du 31 janvier 2012 consid. 2.4; 2C_75/2011 du 6 avril 2011 consid. 3.1).
La jurisprudence a notamment déduit de l'art. 8 para. 1 CEDH, sous l'angle de la protection de la vie privée, un droit à une autorisation de séjour à un étranger installé depuis plus de onze ans en Suisse. Le Tribunal fédéral a retenu que l'intéressé avait développé dans notre pays des liens particulièrement intenses dans les domaines professionnel (création d'une société à responsabilité limitée; emploi à la Délégation permanente de l'Union africaine auprès de l'ONU) et social (cumul de diverses charges auprès de l'Eglise catholique); il a également été tenu compte, dans la pesée des intérêts, du fait que, sans le décès de son épouse suisse, avec laquelle il partageait sa vie, l'intéressé pouvait légitimement espérer la prolongation de son autorisation de séjour (cf. arrêt 2C_266/2009 du 2 février 2010). A l'inverse, le Tribunal fédéral a estimé qu'un étranger ayant vécu pendant seize ans en Suisse en y développant normalement ses relations privées ne pouvait en déduire aucun droit à une autorisation de séjour sous l'angle de la protection de la vie privée (cf. arrêt 2P.253/1994 du 3 novembre 1994 consid. 2b).
3.2. Les recourants soutiennent que l'instance précédente n'a pas tenu compte de la longue durée de leur séjour en Suisse. Il ressort des faits retenus par l'arrêt attaqué que les époux X._ ont fait l'objet d'une décision de renvoi le 2 septembre 2003. Un délai au 13 novembre 2003 leur a été imparti pour quitter la Suisse. Or, les recourants n'ont pas respecté cette décision et ont disparu dans la clandestinité. Depuis 2003, la famille X._ séjourne en Suisse de manière irrégulière. A aucun moment, les recourants n'ont bénéficié d'une autorisation de séjour. Contrairement à ce que prétendent les recourants, le fait que les autorités étaient au courant de leur présence en Suisse ne change rien au caractère illégal de leur séjour (cf. arrêt 2A.225/2003 du 21 mai 2003 consid. 3.1). Dans ces conditions, l'instance précédente a correctement appliqué la jurisprudence susmentionnée en considérant que la durée de séjour des intéressés devait être fortement relativisée. Se référant à l'arrêt de la Cour européenne des droits de l'homme (ci-après: CourEDH) Cevdet Gezginci c. Suisse du 9 décembre 2010 (16327/05), les recourants font valoir que les années passées dans l'illégalité devraient être pris en compte dans le calcul de la durée du séjour en Suisse. Le Tribunal fédéral a cependant déjà eu l'occasion de préciser que l'arrêt Cevdet Gezginci ne permettait pas de remettre en cause sa jurisprudence relative au séjour de longue durée. Contrairement à ce que soutiennent les recourants, la CourEDH n'a pas, avec l'arrêt précité, cessé de prendre en considération le caractère régulier ou non du séjour dans le pays d'accueil, continuant à prendre cet élément en compte dans l'appréciation globale du cas (arrêt 2C_1010/2011 du 31 janvier 2012 consid. 2.4). Il s'ensuit que la durée du séjour ne peut être considérée comme un élément déterminant dans l'appréciation, seule une intégration sociale et professionnelle tout à fait exceptionnelle serait de nature à fonder un droit à une autorisation de séjour en vertu de la protection de la vie privée.
3.3. En l'occurrence, les circonstances décrites dans l'arrêt attaqué témoignent d'une bonne intégration sociale du couple ainsi que d'un engagement professionnel constant de la part de A.X._. Au moment de l'arrêt attaqué, ce dernier travaillait pour le même employeur depuis plus de seize ans et pourvoyait ainsi à l'entretien de sa famille. Ces éléments ne suffisent cependant pas à conclure à l'existence de liens particulièrement intenses qui vont largement au-delà de l'intégration ordinaire au sens de la jurisprudence. En particulier, aucun élément concret ne permet de retenir un engagement spécifique et supérieur à la moyenne dans l'un des nombreux aspects de la vie en société (culturel, associatif, scientifique, social, sportif, etc...). L'autonomie financière et le respect des obligations légales ne sont à cet égard pas suffisants. S'ajoute à cela que le comportement administratif de la famille X._ est loin d'être exempt de reproches. Les recourants ont séjourné illégalement en Suisse depuis 2003. Ils n'ont pas respecté la décision de renvoi et ont disparu dans la clandestinité. Le 17 juin 2005, un nouveau délai leur a été imparti pour quitter le canton de Vaud et rejoindre celui de Soleure. Les recourants sont malgré tout demeurés à Z._, alors même qu'ils connaissaient la précarité de leur situation et devaient compter avec le risque élevé d'un renvoi à tout moment (cf. arrêt 2C_39/2012 du 20 janvier 2012 consid. 2.3.3). Dans ces conditions, il faut admettre, avec les juges précédents, que l'intégration des époux X._ en Suisse est bonne, mais pas exceptionnelle au sens de la jurisprudence précitée.
Les recourants critiquent la jurisprudence du Tribunal fédéral en lien avec la nécessité de liens sociaux et professionnels spécialement intenses, considérant que cette exigence n'est pas conforme au critère de la "solidité des liens" posé par la CourEDH. Il fondent leur argumentation sur l'arrêt de la CourEDH Hasanbasic c. Suisse du 11 juin 2013 [52166/09]. Cette jurisprudence ne leur est toutefois d'aucun secours, dès lors que les situations ne sont pas comparables. Dans l'affaire précitée, les requérants avaient obtenu une autorisation d'établissement, de sorte que, contrairement à la présente espèce, leur séjour en Suisse n'était pas illégal. Par ailleurs, la CourEDH a constaté que le requérant entretenait une relation étroite et effective avec son épouse, titulaire d'une autorisation d'établissement, de sorte qu'il pouvait se prévaloir de l'art. 8 CEDH sous l'angle de la garantie de la vie familiale. Lorsque, comme en l'espèce, le recourant ne peut se prévaloir des garanties de l'art. 8 CEDH que sous l'angle étroit de la protection de la vie privée, une certaine importance est accordée au degré d'intégration sociale des intéressés ( Affaire K.M. c. Suisse du 2 juin 2015 [6009/10] para. 45-47; Trabelsi c. Allemagne du 13 octobre 2011 [41548/06] para. 46-49; Slivenko c. Lettonie du 9 octobre 2003 [48321/99] para. 95; ZÜND/ HUGI YAR, Aufenthalts-beendende Massnahmen im schweizerischen Ausländerrecht insbesondere unter dem Aspekt des Privat- und Familienlebens, in EuGRZ 2013 p. 5).
3.4. Il est vrai que les trois enfants, tous nés en Suisse, ont toujours vécu dans le canton de Vaud. Les deux aînés, C.X._ et D.X._, âgés respectivement de 12 et 11 ans au moment de l'arrêt attaqué, y sont scolarisés (7e et 8e années) avec de bons résultats. Ils ne se trouvent donc pas dans les premières années de l'école primaire, mais en début d'adolescence, période essentielle du développement personnel et scolaire où un soudain déplacement du centre de vie peut constituer un véritable déracinement et s'accompagner de grandes difficultés d'intégration (cf. <ref-ruling> consid. 3.1.1 p. 10; <ref-ruling> consid. 4 p. 128 ss; arrêt 2C_997/2015 du 30 juin 2016 consid. 3.1). Ces éléments sont certes de nature à compliquer leur réintégration dans leur pays d'origine. Ils ne sont cependant pas suffisants, à eux seuls, pour faire obstacle au renvoi de la famille. En particulier, il ne ressort pas de l'arrêt attaqué que C.X._ et D.X._ auraient entrepris des études ou une formation professionnelle initiale en Suisse, par exemple un apprentissage, qu'ils ne pourraient mener à terme dans leur pays d'origine (cf. arrêt 2C_75/2011 du 6 avril 2011 consid. 3.4). Par ailleurs et de manière plus générale, tenir compte du long séjour des enfants reviendrait à encourager la politique du fait accompli et, par conséquent, à porter atteinte au principe de l'égalité par rapport aux nombreux étrangers qui respectent les procédures établies pour obtenir un titre de séjour en Suisse. Le respect de la décision de renvoi, en 2003, aurait mis les membres de la famille X._ à l'abri de l'obligation de partir au terme de quinze ans de vie dans cet Etat. C'est en demeurant en Suisse sans droit que les époux X._ se sont mis dans la situation difficile qui est la leur aujourd'hui. Quant à la cadette E.X._, âgée seulement de trois ans lors du prononcé de l'arrêt attaqué, elle ne devrait pas avoir de grandes difficultés à s'adapter à un autre système scolaire et à un nouvel environnement (cf. <ref-ruling> consid. 2.1 p. 155; arrêts 2C_997/2015 du 30 juin 2016 consid. 3.1; 2C_470/2014 du 29 janvier 2015 consid. 5.3).
3.5. Il suit des considérants qui précèdent que le Tribunal cantonal n'a pas méconnu l'art. 8 para. 1 CEDH en retenant que les recourants n'avaient pas de droit manifeste à l'octroi d'une autorisation de séjour.
4.
Pour le surplus, les recourants ne peuvent rien tirer de la Convention du 20 novembre 1989 relative aux droits de l'enfant (RS 0.107) qui ne leur confère aucun droit à une autorisation de séjour (cf. <ref-ruling> consid. 2.2.2 p. 156; arrêt 2C_125/2014 du 12 février 2014 consid. 4.2). L'intérêt des enfants à vivre avec leurs parents n'est au demeurant pas lésé, les conséquences de l'arrêt attaqué n'impliquant pas une séparation de la famille.
5.
Compte tenu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable.
Succombant, les recourants supportent les frais judiciaires solidairement entre eux (art. 65 et 66 al. 1 et 5 LTF) et n'ont pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté, dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants solidairement entre eux.
3.
Le présent arrêt est communiqué à la mandataire des recourants, au Service de la population du canton de Vaud, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et au Secrétariat d'Etat aux migrations.
Lausanne, le 2 décembre 2016
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : McGregor