Citation: 7B_421/2024 E. C

C.a. Le 9 mai 2024, A.________ interjette un recours en matière pénale au Tribunal fédéral contre l'arrêt du 3 mai 2024. Il conclut principalement à sa réforme en ce sens que la libération conditionnelle lui soit immédiatement accordée. Il demande en outre "l'annulation de sa condamnation aux frais de la procédure de recours". À titre subsidiaire, il conclut à "la nullité" du jugement du TAPEM du 18 avril 2024 et à l'octroi "de la possibilité de formuler une demande de libération conditionnelle adéquate suivant l'ordre d'exécution actuel du 29 février 2024 qui a annulé et remplacé l'ordre d'exécution du 20 décembre 2023". Il demande par ailleurs à être "exempté des frais judiciaires" pour la procédure devant le Tribunal fédéral. Le 29 mai 2024, A.________ adresse au Tribunal fédéral un mémoire de recours complémentaire. Il conclut en substance à la réforme de l'arrêt attaqué en ce sens que "l'assistance judiciaire gratuite" lui soit accordée pour la procédure de recours. C.b. Invités à se déterminer sur le recours et son complément, la cour cantonale s'est référée aux considérants de son arrêt sans formuler d'observations, tandis que le Ministère public a conclu au rejet du recours.