Faits : A. Ressortissant kosovar né en 1988, X._ a déposé une demande d'asile en Suisse le 4 mars 2015, laquelle a fait l'objet, le 1er mai 2015, d'une décision de non-entrée en matière, exécutoire depuis le 15 mai 2015. Le 10 juin 2015, sur requête du Service des migrations du canton de Berne, la police cantonale bernoise a inscrit X._ dans le système de recherches informatisées de police (RIPOL). Le 14 mai 2016, X._ a été interpellé par la police cantonale vaudoise et placé en garde à vue dans les locaux de la police de Pully. Le 15 mai 2016, l'intéressé a été entendu par le Tribunal des mesures de contrainte du canton de Vaud (ci-après: le Tribunal des mesures de contrainte). A cette occasion, il a déclaré résider en France et avoir déposé une demande d'asile auprès des autorités françaises. Par ordonnance communiquée oralement à X._ à l'issue de l'audience et confirmée par écrit le 7 juin 2016, le Tribunal des mesures de contrainte a ordonné la libération immédiate de celui-ci. Cette autorité a considéré, en substance, que l'ordre d'arrestation émis à l'encontre de l'intéressé faisait état d'un renvoi à destination de la France et que X._ était disposé à retourner dans ce pays, de sorte que l'on ne pouvait pas considérer que celui-ci refusait d'obtempérer aux instructions des autorités suisses. B. Le 20 juin 2016, le Secrétariat d'Etat aux migrations (ci-après: le SEM) a interjeté recours auprès du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) contre l'ordonnance précitée du Tribunal des mesures de contrainte. Par arrêt du 27 juin 2016, le Tribunal cantonal a déclaré le recours irrecevable, faute d'intérêt actuel du SEM à recourir contre la libération de X._. C. Agissant par la voie du recours en matière de droit public, le SEM demande au Tribunal fédéral, sous suite de frais, d'annuler l'arrêt du Tribunal cantonal du 27 juin 2016 et de renvoyer la cause à cette autorité pour qu'elle entre en matière sur le fond. Le Tribunal des mesures de contrainte dépose des observations et conclut au rejet du recours. Le Tribunal cantonal déclare se référer aux considérants de son arrêt. Le Service de la population du canton de Vaud renonce à se déterminer. L'intimé n'a pas déposé de réponse.