Faits :
A.
Ressortissant kosovar né en 1988, X._ a déposé une demande d'asile en Suisse le 4 mars 2015, laquelle a fait l'objet, le 1er mai 2015, d'une décision de non-entrée en matière, exécutoire depuis le 15 mai 2015.
Le 10 juin 2015, sur requête du Service des migrations du canton de Berne, la police cantonale bernoise a inscrit X._ dans le système de recherches informatisées de police (RIPOL). Le 14 mai 2016, X._ a été interpellé par la police cantonale vaudoise et placé en garde à vue dans les locaux de la police de Pully. Le 15 mai 2016, l'intéressé a été entendu par le Tribunal des mesures de contrainte du canton de Vaud (ci-après: le Tribunal des mesures de contrainte). A cette occasion, il a déclaré résider en France et avoir déposé une demande d'asile auprès des autorités françaises. Par ordonnance communiquée oralement à X._ à l'issue de l'audience et confirmée par écrit le 7 juin 2016, le Tribunal des mesures de contrainte a ordonné la libération immédiate de celui-ci. Cette autorité a considéré, en substance, que l'ordre d'arrestation émis à l'encontre de l'intéressé faisait état d'un renvoi à destination de la France et que X._ était disposé à retourner dans ce pays, de sorte que l'on ne pouvait pas considérer que celui-ci refusait d'obtempérer aux instructions des autorités suisses.
B.
Le 20 juin 2016, le Secrétariat d'Etat aux migrations (ci-après: le SEM) a interjeté recours auprès du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) contre l'ordonnance précitée du Tribunal des mesures de contrainte. Par arrêt du 27 juin 2016, le Tribunal cantonal a déclaré le recours irrecevable, faute d'intérêt actuel du SEM à recourir contre la libération de X._.
C.
Agissant par la voie du recours en matière de droit public, le SEM demande au Tribunal fédéral, sous suite de frais, d'annuler l'arrêt du Tribunal cantonal du 27 juin 2016 et de renvoyer la cause à cette autorité pour qu'elle entre en matière sur le fond.
Le Tribunal des mesures de contrainte dépose des observations et conclut au rejet du recours. Le Tribunal cantonal déclare se référer aux considérants de son arrêt. Le Service de la population du canton de Vaud renonce à se déterminer. L'intimé n'a pas déposé de réponse.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement et avec une pleine cognition la recevabilité des recours portés devant lui (<ref-ruling> consid. 2 p. 59; <ref-ruling> consid. 1 p. 44).
1.1. L'arrêt attaqué est une décision finale (<ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (<ref-law>) ne tombant pas sous le coup de l'une des exceptions prévues à l'<ref-law>. En outre, le recours a été déposé en temps utile, compte tenu des féries (art. 46 al. 1 let. b et art. 100 al. 1 LTF), et dans les formes prescrites (<ref-law>).
1.2. En vertu de l'art. 14 al. 2 de l'ordonnance fédérale du 17 novembre 1999 sur l'organisation du Département fédéral de justice et police (Org DFJP; RS 172.213.1), le SEM a qualité pour recourir devant le Tribunal fédéral (cf. <ref-law>), dans le domaine du droit des étrangers, contre des décisions cantonales de dernière instance (cf. <ref-ruling> consid. 4.3 p. 542 s.). En outre, le SEM, qui était le destinataire de l'arrêt entrepris, a un intérêt digne de protection à demander l'annulation de celui-ci, dès lors que ledit arrêt refuse d'entrer en matière sur son recours du 20 juin 2016; cela indépendamment et sans préjudice du motif d'irrecevabilité retenu en procédure administrative, qui constitue l'objet de la contestation devant le Tribunal fédéral (<ref-ruling> consid. 3.1 p. 148). Le SEM a ainsi qualité pour recourir au Tribunal fédéral, afin que ce dernier examine la question de sa légitimation à former recours devant l'instance précédente. Le présent recours est donc recevable, sous réserve de ce qui suit.
1.3. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>). L'exclusion des faits et moyens de preuve nouveaux est la règle. Celle-ci connaît une exception lorsque c'est la décision entreprise qui, pour la première fois, a rendu pertinents ces faits ou moyens de preuve (<ref-ruling> consid. 3.1.2 p. 123; arrêts 2C_520/2016 du 13 janvier 2017 consid. 1.3 et 5A_904/2015 du 29 septembre 2016 consid. 2.3).
Le SEM a annexé à son recours plusieurs documents dont il n'est pas établi - ni même allégué - qu'ils auraient été rendus pertinents pour la première fois par la décision attaquée. Partant, dans la mesure où ces documents ne ressortiraient pas du dossier cantonal, ils ne peuvent être pris en considération.
1.4. Le dispositif de l'arrêt attaqué prononce l'irrecevabilité du recours formé par le SEM auprès du Tribunal cantonal. Par conséquent, conformément à l'exigence d'épuisement des instances cantonales, le présent recours ne peut porter que sur cette question (<ref-ruling> consid. 4 p. 149; arrêt 2C_1157/2014 du 3 septembre 2015 consid. 1.2). Le fond, à savoir la détention administrative de l'intimé et sa libération, n'a en revanche pas à être traité (arrêt 2C_103/2017 du 13 février 2017 consid. 3). Il en découle que les observations déposées par le Tribunal des mesures de contrainte dans le cadre de la présente affaire, qui portent exclusivement sur le fond de la cause, ne peuvent entrer en considération.
2.
Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits constatés par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si ceux-ci ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 2.4 p. 313 s.) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (cf. <ref-law>). La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées. A défaut d'une telle motivation, il n'est pas possible de prendre en considération un état de fait qui diverge de celui retenu dans la décision attaquée, ni des faits qui n'y sont pas contenus (<ref-ruling> consid. 6.2 p. 288).
Dans la mesure où le recourant présente une argumentation partiellement appellatoire, en complétant librement l'état de fait retenu dans l'arrêt entrepris, sans invoquer ni l'arbitraire, ni une constatation manifestement inexacte des faits, le Tribunal fédéral ne peut pas en tenir compte. Il statuera donc sur la base des faits tels qu'ils ressortent de l'arrêt attaqué.
3.
3.1. Le Tribunal cantonal a déclaré le recours irrecevable au motif que l'intérêt du recourant n'était plus actuel, car l'intimé avait été libéré le 7 juin 2016 (recte: 15 mai 2016). Cette autorité a en outre considéré que "l'ordre de détention du Service des migrations du canton de Berne pourra toujours être réexaminé en cas de nouvelle interpellation de l'intéressé".
3.2. Le recourant critique cette approche. En invoquant les articles 89 al. 2 let. a et 111 LTF, il soutient que le Tribunal cantonal aurait dû lui reconnaître la qualité pour recourir contre la libération de l'intimé, car l'ordonnance du Tribunal des mesures de contrainte prononçant ladite libération avait été adoptée en violation des règles de compétence judiciaire entre les cantons. En particulier, selon le SEM, il appartenait au canton de Berne, dont les autorités administratives avaient prononcé l'ordre de mise en détention de l'intimé, d'examiner la légalité de la détention de celui-ci. Le recourant affirme attacher une "grande importance" aux questions juridiques soulevées par la présente affaire et considère que l'ordonnance litigieuse risque de consacrer une pratique vaudoise contraire au droit fédéral, de sorte qu'il aurait dû se voir octroyer la possibilité de la contester.
3.3. Aux termes de l'<ref-law>, la qualité de partie à la procédure devant toute autorité cantonale précédente doit être reconnue à quiconque a qualité pour recourir devant le Tribunal fédéral. Il en résulte que la qualité pour recourir ne peut pas s'apprécier de manière plus restrictive devant les autorités cantonales que devant le Tribunal fédéral (<ref-ruling> consid. 5 p. 149; arrêt 2C_90/2016 du 2 août 2016 consid. 3.1). Il convient partant d'analyser la qualité pour agir du recourant sous l'angle de l'<ref-law>. S'agissant de droit fédéral, le Tribunal fédéral examine cette question librement (<ref-ruling> consid. 5 p. 149; arrêt 2C_68/2015 du 13 janvier 2016 consid. 4.2).
3.4. L'<ref-law> reconnaît la qualité pour recourir notamment aux départements fédéraux ou, pour autant que le droit fédéral le prévoie - ce qui est le cas pour le SEM (art. 14 al. 2 Org DFJP; cf. supra consid. 1.2) -, aux unités qui leur sont subordonnées, si l'acte attaqué est susceptible de violer la législation fédérale dans leur domaine d'attributions. Le droit de recours spécial de l'<ref-law> a un caractère abstrait et autonome (<ref-ruling> consid. 1.2.1 p. 341 s.) et les conditions de l'<ref-law> ne lui sont pas applicables (<ref-ruling> consid. 1.2 p. 363; FLORENCE AUBRY GIRARDIN, in Commentaire de la LTF, 2e éd., 2014, n. 45 ad <ref-law> p. 1030). La question doit cependant revêtir une certaine actualité (<ref-ruling> consid. 1.2.1 in fine p. 342; FLORENCE AUBRY GIRARDIN, op. cit., n. 45 ad <ref-law> p. 1030), de sorte que la jurisprudence relative à l'exigence d'un intérêt actuel, établie par le Tribunal fédéral dans le cadre de l'<ref-law>, est en principe valable aussi pour le droit de recours spécial des autorités de l'<ref-law>. Le recourant doit ainsi disposer d'un intérêt actuel et pratique à obtenir l'annulation de l'acte attaqué. Cet intérêt doit exister tant au moment du dépôt du recours qu'à celui où l'arrêt est rendu (<ref-ruling> consid. 4.2 p. 299). Le Tribunal fédéral fait exceptionnellement abstraction de l'exigence d'un intérêt actuel, lorsque la contestation peut se reproduire en tout temps dans des circonstances identiques ou analogues, que sa nature ne permet pas de la soumettre à une autorité judiciaire avant qu'elle ne perde son actualité et qu'il existe un intérêt public à résoudre la controverse (<ref-ruling> consid. 1.1 p. 208; <ref-ruling> consid. 1.1 p. 103).
Par définition, l'intérêt actuel à recourir de l'autorité contre un ordre de libération immédiate ne sera jamais réalisé. Reste à vérifier si le SEM peut se prévaloir d'un intérêt public à ce que le Tribunal fédéral se prononce sur la question litigieuse, celle-ci étant susceptible de se représenter en tout temps sous la même forme ou sous une forme comparable.
3.5. En matière de mesures de contrainte, la jurisprudence admet que, en particulier lorsque l'étranger détenu a été libéré, le SEM peut recourir, bien que l'intérêt actuel au recours ait disparu, si la solution du cas d'espèce soulève une problématique qui peut avoir des effets sur des causes similaires, en particulier si le cas pose une nouvelle question juridique ou si une pratique cantonale non conforme au droit fédéral pourrait se développer (arrêt 2C_700/2015 du 8 décembre 2015 consid. 1.2; cf. <ref-ruling> consid. 1.1 p. 203 et arrêt 2C_49/2009 du 27 avril 2009 consid. 1; voir aussi FLORENCE AUBRY GIRARDIN, op. cit., n. 45 ad <ref-law> p. 1030 s.). En effet, dans ces cas, il existe un intérêt public à ce que le Tribunal fédéral examine le fond du litige (arrêt 2C_49/2009 du 27 avril 2009 consid. 1).
En l'espèce, le SEM fait état d'un problème de compétence entre autorités cantonales, relatif au fait de savoir quel canton est légitimé à examiner la légalité de la détention administrative d'un étranger, lorsque ce dernier est arrêté dans un canton autre que celui ayant prononcé l'ordre de détention correspondant. Le recourant se réfère également à un problème de délai, concernant la difficulté pour le canton de Vaud de transférer l'intimé au canton de Berne en respectant le délai de 96 heures prévu par l'art. 80 al. 2 LEtr, pour des raisons inhérentes au fonctionnement du service de piquet pour le transport intercantonal entre les centres de détention.
Ces questions, qui revêtent une importance considérable et peuvent avoir des effets sur des causes similaires, seraient propres à fonder un droit de recours - sur le fond - du SEM auprès du Tribunal fédéral, sur la base de l'<ref-law>, afin que la Haute Cour examine si l'ordonnance litigieuse relève d'une pratique cantonale non conforme au droit fédéral et si les règles de compétence entre les cantons concernés ont été respectées. Il existe donc un intérêt public à résoudre la controverse.
3.6. Il en découle que le Tribunal cantonal, en déniant au SEM la qualité pour recourir en raison de la libération de l'intimé, a violé l'<ref-law> cum <ref-law>.
4.
Il ressort de ce qui précède que le recours doit être admis et l'arrêt attaqué annulé. La cause sera renvoyée au Tribunal cantonal pour qu'il entre en matière sur le recours déposé le 20 juin 2016 par le SEM.
Compte tenu des circonstances, il ne sera pas perçu de frais (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'autorité recourante (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis.
2.
L'arrêt du Tribunal cantonal du canton de Vaud du 27 juin 2016 est annulé et la cause est renvoyée à cette autorité pour qu'elle entre en matière.
3.
Il n'est pas perçu de frais judiciaires.
4.
Le présent arrêt est communiqué au Secrétariat d'Etat aux migrations, à l'intimé, par voie diplomatique, au Tribunal des mesures de contrainte du canton de Vaud, au Tribunal cantonal du canton de Vaud, Chambre des recours civile, ainsi que, pour information, au Service de la population du canton de Vaud.
Lausanne, le 17 juillet 2017
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Ermotti