Faits : A. A.a. En 1999, puis en 2001, X._, ressortissant kosovar né le 24 avril 1982, a déposé des demandes de visa pour la Suisse qui ont été refusées. Le 19 février 2003, X._ a été interpellé par la police genevoise. Lors de l'audition dont il a fait l'objet à cette date, l'intéressé a déclaré qu'il était arrivé en Suisse à une date qu'il ne pouvait indiquer et qu'il avait travaillé comme que garçon de cuisine. Par décision du 21 mai 2003, l'autorité compétente a prononcé à l'endroit de l'intéressé une interdiction d'entrée en Suisse valable jusqu'au 20 mai 2005. X._ a déposé, le 20 février 2003, une demande d'asile qui a été rejetée en date du 11 mars 2003; un délai de départ pour quitter la Suisse lui a été fixé au 6 mai 2003. En date du 20 avril 2003, la disparition de l'intéressé a été constatée. A.b. Le 1er septembre 2003, X._ a épousé, à Genève, Y._, ressortissante suisse née en 1951. Le 8 septembre 2003, il a officiellement quitté la Suisse pour s'établir en France voisine. Par décision du 9 août 2004, l'Office cantonal de la population et des migrations du canton de Genève (ci-après : l'Office cantonal de la population) a refusé de fournir le visa requis par l'intéressé et de transmettre son dossier avec un préavis favorable à l'autorité compétente en vue de la levée de son interdiction d'entrée en Suisse et de l'octroi d'une autorisation de séjour. Il a retenu, après avoir entendu les époux, l'existence d'un mariage de complaisance, l'intéressé n'ayant pas été en mesure de rendre vraisemblable le fait qu'il entretenait une relation suivie avec son épouse. Il lui a également opposé le fait qu'il était revenu en Suisse, alors qu'il faisait l'objet d'une interdiction d'entrée en Suisse, et qu'il avait tenté de tromper le Consulat général de Suisse à Lyon, lors du dépôt de la demande de visa, en lui présentant un passeport falsifié. X._ est entré illégalement en Suisse, le 14 février 2007, et a emménagé chez son épouse. Le 29 juin 2007, l'Office cantonal de la population a délivré à X._ une autorisation de travail, complétée, le 23 novembre 2007, par une autorisation de séjour qui a régulièrement été renouvelée jusqu'au 13 février 2012. Y._ est décédée le 25 novembre 2011. Le 22 mai 2013, l'Office fédéral des migrations (à partir du 1er janvier 2015 et ci-après: le Secrétariat d'Etat aux migrations) a refusé l'approbation à la prolongation de l'autorisation de séjour de X._ et a prononcé le renvoi de Suisse de celui-ci. Au préalable, cet office avait pris contact avec l'intéressé, l'informant avoir fait procéder par l'intermédiaire de l'Ambassade de Suisse au Kosovo à des mesures d'instruction complémentaires et qu'il apparaissait que X._ s'était marié traditionnellement cinq mois auparavant avec une compatriote, âgée de 22 ans; l'intéressé a formellement contesté ce fait et produit une attestation signée par cette dernière niant ce mariage. B. Par arrêt du 4 septembre 2014, le Tribunal administratif fédéral a rejeté le recours de X._. Il a en substance retenu que si le mariage avec Y._ avait bien duré plus de trois ans, il apparaissait toutefois que ce mariage ne constituait qu'une union de façade. Aussi, l'intéressé ne pouvait s'en prévaloir pour exiger la poursuite de son séjour en Suisse; il relevait aussi l'absence d'obstacles à l'exécution du renvoi. C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 4 septembre 2014 du Tribunal administratif fédéral, de dire et constater que cet arrêt n'est pas conforme au droit, de dire et constater qu'il remplit toutes les conditions au renouvellement de son autorisation de séjour, d'accepter l'approbation à ce renouvellement par le canton de Genève, d'annuler la décision du 22 mai 2013 du Secrétariat aux migrations; subsidiairement, d'annuler l'arrêt du 4 septembre 2014 du Tribunal administratif fédéral et d'ordonner le renvoi de la présente cause pour décision dans le sens des considérants. Le Secrétariat aux migrations conclut au rejet du recours. Le Tribunal administratif fédéral a renoncé à déposer des observations. Par ordonnance du 20 octobre 2014, le Président de la IIe Cour de droit public a admis la demande d'effet suspensif au recours.