Considérant en fait et en droit :
1.
A._, ressortissant du Kosovo, né le 3 septembre 1990, est arrivé en Suisse le 21 décembre 2015 à la suite de son mariage célébré le 16 juillet 2015 au Kosovo avec une ressortissante péruvienne titulaire d'une autorisation de séjour. L'intéressé a été mis au bénéfice d'une autorisation de séjour par regroupement familial.
Le 27 mars 2018, l'épouse de l'intéressé a déposé plainte contre celui-ci pour menaces, contrainte, injures, voies de fait et violation du domaine secret/privé au moyen d'un appareil de prise de vue, à la suite de quoi ce dernier a fait l'objet d'une expulsion du domicile durant trois jours. Les époux vivent séparément depuis le 3 avril 2018.
En octobre 2018, l'intéressé a déposé une demande de prolongation de son permis de séjour. Le 24 juin 2019, après lui avoir donné la possibilité de faire valoir son droit d'être entendu, le Service de la population de la République et canton du Jura (ci-après: le Service de la population) a refusé de renouveler l'autorisation de séjour de A._ et lui a imparti un délai de 8 semaines dès l'entrée en force de la décision pour quitter la Suisse. Cette décision a été confirmée sur opposition le 16 juin 2020.
Par arrêt du 20 janvier 2021, la Cour administrative du Tribunal cantonal de la République et canton du Jura (ci-après: le Tribunal cantonal) a rejeté le recours formé par l'intéressé contre la décision sur opposition précitée.
2.
Agissant par la voie du recours constitutionnel subsidiaire, A._ demande au Tribunal fédéral, sous suite de frais et dépens, outre l'effet suspensif à son recours, d'annuler l'arrêt du Tribunal cantonal du 20 janvier 2020 [recte: 2021] et d'approuver la prolongation de son autorisation de séjour. Subsidiairement, il requiert le renvoi de la cause au Service de la population, afin qu'il prolonge son autorisation.
La requête d'effet suspensif a été admise par ordonnance présidentielle du 26 février 2021.
Le Tribunal cantonal renonce à formuler des observations et conclut au rejet du recours. Le Secrétariat d'Etat aux migrations conclut au rejet du recours dans la mesure où il est recevable. Le Service de la population ne s'est pas prononcé.
3.
Selon l'art. 83 let. c LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit (ch. 2). Selon la jurisprudence, il suffit toutefois, sous l'angle de la recevabilité, qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que la voie du recours en matière de droit public soit ouverte (<ref-ruling> consid. 1.1 et les références). En l'occurrence, l'épouse du recourant est titulaire d'une autorisation de séjour, si bien que celui-ci ne peut pas se prévaloir de l'art. 50 LEI (RS 142.20; dans sa version en vigueur avant le 1er janvier 2019 [RO 2007 5437], ci-après: LEtr; cf. art. 126 al. 1 LEI). En outre, le recourant n'expose pas de façon soutenable en quoi sa situation familiale et personnelle seraient de nature à lui conférer un droit à l'obtention d'une autorisation de séjour sous l'angle de l'art. 8 CEDH, en particulier concernant la protection de la vie privée qu'il invoque.
A cet égard, le Tribunal fédéral a récemment précisé que le droit au respect de la vie privée dépend fondamentalement de la durée de la résidence en Suisse de l'étranger. Lorsque celui-ci réside légalement depuis plus de dix ans en Suisse, il y a lieu de partir de l'idée que les liens sociaux qu'il a développés avec le pays dans lequel il réside sont suffisamment étroits pour que le refus de prolonger ou la révocation de l'autorisation de rester en Suisse doivent n'être prononcés que pour des motifs sérieux. Lorsque la durée de résidence est inférieure à dix ans, le refus de prolonger ou la révocation de l'autorisation de rester en Suisse peut aussi porter atteinte au droit au respect de la vie privée si l'étranger fait preuve d'une forte intégration dans ce pays. La durée, bien qu'inférieure à dix ans, doit néanmoins pouvoir être qualifiée de longue (cf. <ref-ruling>consid. 3.9), ce qui n'est en l'occurrence pas le cas. En effet, la durée du séjour légal en Suisse du recourant a duré un peu plus de trois ans, si l'on tient compte du fait que les années passées en Suisse au bénéfice d'une simple tolérance, ce qui est le cas lorsque l'étranger peut rester dans notre pays en raison de l'effet suspensif attaché à des procédures de recours, ne sont pas déterminantes (<ref-ruling> consid. 4.3).
Faute de pouvoir se prévaloir d'un droit à séjourner en Suisse, le recourant a déposé à juste titre un recours constitutionnel subsidiaire.
4.
La qualité pour former un tel recours suppose toutefois un intérêt juridique à l'annulation ou à la modification de la décision attaquée (<ref-law>). Le recourant, qui ne peut se prévaloir ni de l'art. 50 LEtr, ni de l'art. 8 CEDH, ni invoquer de manière indépendante l'interdiction de l'arbitraire ou la violation du principe de proportionnalité, n'a pas une position juridique protégée lui conférant la qualité pour agir au fond (cf. <ref-ruling>).
Même s'il n'a pas qualité pour agir au fond, le recourant peut se plaindre par la voie du recours constitutionnel subsidiaire de la violation de ses droits de partie équivalant à un déni de justice formel (cf. <ref-ruling> consid. 1.4), pour autant qu'il ne s'agisse pas de moyens ne pouvant être séparés du fond (cf. <ref-ruling> consid. 1.1; <ref-ruling> consid. 6). Le recourant se plaint de la violation de l'interdiction de l'arbitraire en relation avec l'établissement des faits par l'instance précédente. Ce grief est toutefois lié à la réalisation, ou non, des conditions légales posées par l'art. 8 CEDH et donc est un moyen qui ne peut pas être séparé du fond. Il ne peut par conséquent pas être examiné. Le recourant ne fait pas valoir une quelconque violation de ses droits de partie.
L'intéressé n'ayant pas d'intérêt juridique à l'annulation ou à la modification de l'arrêt attaqué, la voie du recours constitutionnel subsidiaire ne lui est pas ouverte.
5.
Cela étant, même si le recours était recevable, il conviendrait de constater que le recourant ne parvient pas à démontrer l'arbitraire dans l'établissement des faits et que l'arrêt attaqué ne fait pas état de circonstances particulières permettant de retenir une forte intégration de celui-ci en Suisse. Le simple fait de parler le français et l'allemand, d'avoir une situation professionnelle et financière stable et saine, de ne pas avoir été condamné et de s'investir pour la Croix-rouge jurassienne depuis la décision de refus de prolongation, ne suffit pas à démontrer le contraire, quoi qu'en prétende l'intéressé (cf. arrêts 2C_49/2021 du 20 mai 2021 consid. 3.1; 2C_72/2021 du 7 mai 2021 consid. 6.3; 2C_95/2020 du 24 avril 2020 consid. 6.2; 2C_1075/2019 du 21 avril 2020 consid. 6.2).
6.
Les considérants qui précèdent conduisent à l'irrecevabilité du recours, en application de la procédure simplifiée de l'<ref-law>. Succombant, le recourant supportera les frais judiciaires (<ref-law>). Il n'est pas alloué de dépens (cf. art. 68 al. 1 et 3 LTF).


Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Service de la population du canton du Jura, au Tribunal cantonal de la République et canton du Jura, Cour administrative, et au Secrétariat d'Etat aux migrations.
Lausanne, le 20 septembre 2021
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : de Chambrier