Faits:
A. Le 24 août 2011, A._ et un comparse ont été interpellés par la police genevoise, à la suite d'une tentative de cambriolage. Ils ont été relaxés, sans avoir été mis en détention préventive. La procédure pénale, ouverte pour ces faits, porte le numéro P/12264/2011.
Le 10 octobre 2011, une tentative de cambriolage a été commise à Meyrin. Dans un véhicule retrouvé à proximité des lieux, la police a découvert un téléphone portable appartenant à B._, ressortissant roumain, défavorablement connu des services de police pour cambriolages.
Trois jours plus tard, A._ a été arrêté à proximité d'un lieu où une tentative de cambriolage a été dénoncée. Ne pouvant être directement impliqué, il a été relâché.
A._ a été interpellé une nouvelle fois le 17 octobre 2011. Il a été prévenu de vol, de dommage à la propriété et de violation de domicile pour avoir, de concert avec des tiers, cambriolé une station-service à Meyrin en y emportant un coffre-fort contenant environ 8'000 francs ainsi que trois cartouches de cigarettes. Un chien policier avait suivi une trace et avait retrouvé le prénommé. Une analyse des traces de chaussures concluait qu'il était possible que la trace prélevée sur les lieux du cambriolage ait été laissée par la chaussure gauche portée par l'intéressé lors de son interpellation. Une procédure pénale a été ouverte pour ces faits, sous la référence P/14657/2011.
La page de garde du dossier de procédure mentionne que la procédure P/14657/2011 a été jointe à la procédure P/12264/2011 le 27 octobre 2011.
B. Par arrêt du 13 février 2012 (arrêt 1B_44/2012), le Tribunal fédéral a confirmé la décision du Tribunal des mesures de contrainte du canton de Genève (ci-après: le Tmc) et celle de la Chambre pénale de recours de la Cour de justice du canton de Genève (ci-après: la Cour de justice) de maintenir l'intéressé en détention préventive jusqu'au 1er février 2012, notamment en raison des risques de fuite.
C. Le 31 janvier 2012, le Tmc a rendu une ordonnance de prolongation de la détention provisoire jusqu'au 1er mars 2012, en raison des risques de collusion, de fuite et de réitération. Statuant sur recours de l'intéressé, la Cour de justice a confirmé cette ordonnance par arrêt du 10 février 2012.
D. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler l'arrêt de la Cour de justice, d'ordonner sa mise en liberté immédiate et de prononcer toute mesure de substitution que le Tribunal de céans jugerait utile. Il requiert en outre l'octroi de l'assistance judiciaire.
Le Ministère public du canton de Genève (ci-après: le Ministère public) a présenté des déterminations après l'échéance du délai qui lui avait été imparti. La Cour de justice se réfère aux considérants de l'arrêt attaqué et renonce à formuler des observations.
Considérant en droit:
1. Le recours en matière pénale (art. 78 al. 1 LTF) est en principe ouvert contre une décision relative au maintien en détention provisoire au sens des art. 212 ss du code de procédure pénale suisse du 5 octobre 2007 (CPP; RS 312.0). Dès lors que l'acte de procédure litigieux ne met pas un terme à la procédure pénale (art. 90 s. LTF), il s'agit d'une décision incidente prise séparément au sens de l'art. 93 al. 1 LTF. La décision ordonnant la mise en détention provisoire du prévenu étant susceptible de lui causer un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF, elle peut faire l'objet d'un recours au Tribunal fédéral. Selon l'art. 81 al. 1 let. a et let. b ch. 1 LTF, l'accusé a qualité pour agir. Pour le surplus, le recours est formé en temps utile (art. 100 al. 1 LTF) contre une décision rendue en dernière instance cantonale (art. 80 LTF) et les conclusions présentées sont recevables au regard de l'art. 107 al. 2 LTF.
Les déterminations du Ministère public, tardives, sont irrecevables. Il n'en sera dès lors pas tenu compte.
2. Le recourant prétend qu'il n'a jamais fait l'objet d'une mise en prévention formelle pour d'autres charges que celles liées au cambriolage du 17 octobre 2011. Il soutient que l'irrégularité tenant au défaut de notification de toutes les charges pesant contre lui rend sa détention contraire aux art. 31 Cst. et 5 CEDH. Il se plaint encore d'une violation des art. 308, 309 al. 3 et 311 CPP.
Pour autant qu'on le comprenne, le recourant reproche au Procureur de ne pas avoir rendu une ordonnance d'extension de l'instruction ou une ordonnance d'ouverture de l'instruction conformément aux art. 309 al. 3 et 311 al. 2 CPP.
S'agissant des charges émanant de la procédure jointe, elles résultent de la jonction des procédures P/12264/2011 et P/14657/2011 conformément à l'art. 30 CPP et ne nécessitent par conséquent pas d'ordonnance d'extension de l'instruction au sens de l'art. 311 al. 2 CPP ou d'ordonnance d'ouverture de l'instruction selon l'art. 309 CPP. Pour le reste, la question de la jonction a déjà fait l'objet du considérant 3 de l'arrêt 1B_44/2012: il y a donc lieu de s'y référer.
En ce qui concerne les infractions visées dans le rapport de police du 15 novembre 2011, la Cour de justice a retenu à juste titre que le Tmc, dans son ordonnance de prolongation de la détention, ne les avait pas comptées parmi les charges, mais parmi les besoins de l'instruction, puisqu'il a retenu que l'enquête cherchait à circonscrire l'activité délictuelle du prévenu. Le recourant ne remet pas en cause cette argumentation. Par ailleurs, même s'il est vrai qu'aucune ordonnance d'extension de l'instruction au sens de l'art. 311 al. 2 CPP ne figure au dossier, le recourant n'expose pas en quoi l'absence de cette ordonnance aurait engendré pour lui un dommage. En effet, il ne conteste pas avoir eu accès au rapport de police du 15 novembre 2011 et n'aurait de toute façon pas la possibilité de recourir contre une telle ordonnance (art. 309 al. 3 CPP).
Mal fondé, le grief doit donc être rejeté.
3. Le recourant se plaint implicitement d'une violation du principe de la célérité, en exposant qu'il n'a pas été entendu par le Ministère public depuis le 17 octobre 2011 et que celui-ci n'a mené aucun acte d'enquête depuis le 18 octobre 2011.
3.1 Concrétisant le principe de célérité, l'art. 5 CPP impose aux autorités pénales d'engager les procédures pénales sans délai et de les mener à terme sans retard injustifié (al. 1), la procédure devant être conduite en priorité lorsqu'un prévenu est placé en détention (al. 2). L'incarcération peut être considérée comme disproportionnée en cas de retard injustifié dans le cours de la procédure pénale (ATF 128 I 149 consid. 2.2.1 p. 151 s.; 123 I 268 consid. 3a p. 273; 116 Ia 147 consid. 5a, 107 Ia 257 consid. 2 et 3). Il doit toutefois s'agir d'un manquement particulièrement grave, faisant au surplus apparaître que l'autorité de poursuite n'est plus en mesure de conduire la procédure à chef dans un délai raisonnable (ATF 128 I 149 consid. 2.2.1 p. 151 s.). Le caractère raisonnable de la durée d'une procédure pénale s'apprécie selon les circonstances particulières de la cause, eu égard en particulier à la complexité de l'affaire, au comportement du requérant et à celui des autorités compétentes, ainsi qu'à l'enjeu du litige pour l'intéressé (ATF 133 I 270 consid. 3.4.2 p. 281 et les arrêts cités).
3.2 En l'espèce, dans l'arrêt précité 1B_44/2012 du 13 février 2012 (consid. 4.4), le Ministère public avait été rendu attentif au fait qu'il lui incombait de faire à nouveau progresser l'enquête ou de la clore rapidement, afin de respecter le principe de célérité. Depuis lors, aucun acte d'instruction n'a été mené et il ne ressort pas du dossier que des opérations sont prévues. Cette période d'inactivité est clairement contraire au principe de la célérité tel qu'il est défini dans la jurisprudence susmentionnée, la détention provisoire du prévenu exigeant en outre une diligence particulière. Il y a donc lieu de constater que ce principe a été violé. Dans ces conditions, et sous réserve de faits nouveaux significatifs, le Ministère public doit clore l'instruction pour le 15 mai 2012.
3.3 La violation du principe de la célérité n'entraîne cependant pas la libération immédiate du recourant, dans la mesure où la détention demeure justifiée par des risques de fuite et de récidive, qui ne sont pas contestés (cf. arrêt 1B_44/2012 consid. 4 et 5). De plus, la durée de la détention apparaît encore proportionnée, au vu de la gravité des infractions qui sont reprochées à l'intéressé et de la peine privative de liberté à laquelle il s'expose. L'appréciation d'ensemble du caractère raisonnable de la procédure devra être faite par le juge du fond qui pourra tenir compte de la violation du principe de la célérité dans la fixation de la peine (cf. ATF 128 I 149 consid. 2.2 p. 151 s.; 124 I 139 consid. 2c p. 141).
De plus, à l'instar de la violation de certains délais procéduraux, la violation du principe de célérité peut être réparée - au moins partiellement - par la constatation de cette violation, une admission partielle du recours sur ce point et la mise à la charge de l'Etat des frais de justice (cf. ATF 137 IV 118 consid. 2.2 in fine p. 121 s. et les références citées).
4. Le recours doit par conséquent être admis partiellement. Le Tribunal fédéral constate la violation du principe de célérité. L'arrêt cantonal est réformé en ce sens que l'Etat de Genève supporte les frais judiciaires et alloue une indemnité au recourant à titre de dépens pour la procédure devant la Cour de justice. La demande de mise en liberté doit en revanche être rejetée.
Le recourant, qui obtient partiellement gain de cause avec l'assistance d'un avocat, a droit à des dépens, à la charge de l'Etat de Genève, pour la procédure devant le Tribunal fédéral (art. 68 al. 1 et 2 LTF). Dans ces conditions, sa requête d'assistance judiciaire devient sans objet. Il n'y a pas lieu de percevoir des frais judiciaires pour la présente procédure (art. 66 al. 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis et la violation du principe de célérité est constatée.
2. La demande de mise en liberté immédiate est rejetée.
3. Une indemnité de 2'000 francs est allouée à l'avocat du recourant à titre de dépens de dernière instance cantonale et d'instance fédérale, à la charge de l'Etat de Genève.
4. Il n'est pas perçu de frais judiciaires.
5. Le présent arrêt est communiqué au mandataire du recourant, au Ministère public et à la Chambre pénale de recours de la Cour de justice du canton de Genève.
Lausanne, le 30 mars 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Tornay Schaller