Faits : A. A.A._ et B.A._, nés respectivement en 1953 et 1959, sont mariés et originaires du Kosovo. Ils sont parents de trois enfants, dont C.A._, né en 1980. Ce dernier a obtenu une autorisation de séjour en janvier 2005, octroyée afin de rejoindre son épouse, D.A._. Le 25 février 2014, il a été mis au bénéfice d'une autorisation d'établissement. C.A._, qui travaille en tant qu'indépendant dans le domaine de la plâtrerie et de la peinture, a eu deux enfants avec cette dernière, E.A._ et F.A._, nés respectivement en 2005 et 2008. Le 20 janvier 2009, B.A._ est arrivée en Suisse au bénéfice d'un visa touristique aux fins de rendre visite à son fils C.A._. Elle a été rejointe par son époux le 14 février 2009. Le 11 avril 2009, D.A._ est décédée à la suite d'un accident de la circulation. B. Le Service de la population du canton de Vaud (ci-après: le Service de la population), par décision du 24 janvier 2012, a rejeté une demande de A.A._ et B.A._ tendant à obtenir une autorisation de séjour. Ils désiraient s'occuper de leurs petits-enfants et plus particulièrement de F.A._, celui-ci souffrant d'une pneumopathie chronique sévère. Par arrêt du 20 août 2013, sur recours, le Tribunal cantonal a annulé la décision du 24 janvier 2012 et renvoyé la cause au Service de la population afin qu'il rende une nouvelle décision. Il a jugé qu'il convenait d'admettre l'existence de cas individuels d'une extrême gravité justifiant que les intéressés soient exemptés des mesures de limitation, " compte tenu en particulier du rôle progressivement assumé " par ces derniers à l'égard de leurs petits-enfants à la suite du décès de leur mère, " des besoins particuliers de prise en charge de F.A._ en lien avec son atteinte respiratoire, respectivement des répercussions psychologiques qu'aurait pour les enfants une séparation d'avec les intéressés ". Le 29 août 2013, le Service de la population a informé les intéressés qu'il était disposé à leur délivrer des autorisations de séjour, sous réserve de l'approbation de l'autorité fédérale compétente. C. Par décision du 31 janvier 2014, le Secrétariat d'Etat aux migrations (anciennement l'Office fédéral des migrations; ci-après: le Secrétariat d'Etat) a refusé de donner son approbation à l'octroi d'une autorisation de séjour pour un cas individuel d'une extrême gravité en faveur de A.A._ et B.A._ et a prononcé leur renvoi de Suisse. Les époux A.A._ et B.A._ ont contesté ce prononcé devant le Tribunal administratif fédéral le 6 mars 2014. Par arrêt du 12 mars 2015, le Tribunal administratif fédéral a rejeté le recours des intéressés, dans la mesure où il était recevable. Il a jugé en substance que malgré la situation de leurs petits-enfants les époux A.A._ et B.A._ ne remplissaient pas les conditions requises pour la reconnaissance d'une situation d'extrême gravité. D. Agissant par la voie du recours en matière de droit public et celle, subsidiaire, du recours constitutionnel, A.A._ et B.A._ demandent au Tribunal fédéral, sous suite de frais et dépens, outre l'effet suspensif, de réformer l'arrêt du Tribunal administratif fédéral du 12 mars 2015 en leur accordant une autorisation de séjour, subsidiairement d'annuler cet arrêt et de renvoyer la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants. Ils se plaignent de violations du droit fédéral et international, ainsi que d'établissement inexact des faits. Par ordonnance du 6 mai 2015, le Président de la IIe Cour de droit public du Tribunal fédéral a admis la demande d'effet suspensif. Le Secrétariat d'Etat et le Tribunal administratif fédéral concluent tous deux au rejet du recours. Dans des observations finales, A.A._ et B.A._ ont en substance confirmé leurs conclusions.