Faits: A. A._ est détenu depuis le 4 mai 2011, sous la prévention de viol aggravé. Par ordonnance du 5 mai 2011, le Tribunal des mesures de contrainte du canton de Genève (ci-après: le Tmc) a ordonné sa mise en détention provisoire pour deux mois. Par courrier du 25 mai 2011, A._ a requis sa mise en liberté immédiate. Le 3 juin 2011, le Ministère public du canton de Genève a répondu qu'il n'entendait pas donner une suite favorable à cette requête et il a transmis le dossier au Tmc, qui a refusé la mise en liberté du prénommé par ordonnance du 9 juin 2011. B. A._ a contesté cette ordonnance auprès de la Chambre pénale des recours de la Cour de justice du canton de Genève (ci-après: la Cour de justice). Invité à se déterminer, le Ministère public a déposé des observations, qui sont parvenues à la Cour de justice le 21 juin 2011. Ces observations ont été envoyées au mandataire de A._, qui ne les aurait reçues que le 27 juin 2011. La Cour de justice a rejeté le recours par arrêt du 24 juin 2011. Par ordonnance du 1er juillet 2011, le Tmc a prolongé la détention jusqu'au 2 août 2011. C. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler l'arrêt de la Cour de justice du 24 juin 2011, de constater que le principe de célérité a été violé et de retourner le dossier à l'autorité cantonale pour nouvelle décision. Il se plaint notamment d'une violation de son droit d'être entendu, au motif qu'il n'a pas eu l'occasion de se déterminer sur les observations déposées par le Ministère public devant la Cour de justice. Il requiert en outre l'octroi de l'assistance judiciaire. La Cour de justice s'est déterminée sommairement, reconnaissant que le recourant n'avait pas pu s'exprimer sur les observations du Ministère public. Au terme de ses observations, le Ministère public conclut au rejet du recours.