Faits:
A. Le 2 février 2012, le Tribunal de police du canton de Genève a condamné A._, ressortissant camerounais né en 1982, à 12 mois de privation de liberté pour vols, violation de domicile et utilisation frauduleuse d'un ordinateur. La détention provisoire, de 149 jours, a été déduite, et la peine a été déclarée complémentaire à celle de 30 jours prononcée le 14 mars 2011 par le Ministère public de l'arrondissement de l'Est vaudois. Une libération conditionnelle accordée le 6 novembre 2010 pour une autre peine a été révoquée, le solde à subir étant de 61 jours. Le Tribunal de police a par ailleurs ordonné la détention du condamné, pour des motifs de sûreté.
Le 7 février 2012, A._ a recouru auprès de la Chambre pénale de recours de la Cour de justice genevoise contre cette dernière mesure. Il demandait sa mise en liberté immédiate, subordonnée à l'exécution de la peine de 30 jours précitée ainsi qu'à l'exécution d'une peine de 178 jours de détention ordonnée par jugement du Tribunal des peines et mesures (TAPEM) le 3 octobre 2011, en conversion de 712 heures de travail d'intérêt général infligées le 6 novembre 2008. Dans une décision du 6 décembre 2011, le Tribunal des mesures de contraintes (Tmc) avait déjà ordonné une telle mesure de substitution. Subsidiairement, il demandait l'exécution anticipée de la peine infligée le 2 février 2012.
B. Par arrêt du 23 février 2012, la Chambre pénale a déclaré irrecevable la demande d'exécution anticipée, non soumise au Tribunal de police. Elle a par ailleurs rejeté le recours, considérant que les conditions d'une détention pour des motifs de sûreté n'étaient pas contestées et que l'exécution des peines ordonnées précédemment ne pouvait pas constituer une mesure de substitution: compte tenu de la libération conditionnelle, il ne restait que trois mois de détention à subir, à l'issue desquels le recourant serait remis en liberté. Faute de faits nouveaux au sens de l'art. 237 al. 5 CPP, une réincarcération ne serait alors plus possible.
C. Par acte du 20 mars 2012, A._ forme un recours en matière pénale avec une demande d'assistance judiciaire, par lequel il demande sa mise en liberté immédiate, subordonnée à l'exécution des peines prononcées les 14 mars 2011 et 3 octobre 2011. Subsidiairement, il demande que soit ordonnée l'exécution anticipée de la peine prononcée le 2 février 2012, ou le renvoi de la cause à la cour cantonale pour nouvelle décision.
La Chambre pénale de recours maintient sa position. Le Ministère public conclut au rejet du recours. Le recourant a produit de nouvelles observations dans lesquelles il maintient ses griefs et ses conclusions. Il précise en outre que son appel a été retiré afin de pouvoir demeurer en exécution de peine.
Considérant en droit:
1. Selon l'art. 78 LTF, le recours en matière pénale est ouvert contre les décisions rendues en matière pénale, notamment les décisions relatives à la détention provisoire ou pour des motifs de sûreté au sens des art. 212 ss CPP.
1.1 Selon l'art. 81 al. 1 let. a et let. b ch. 1 LTF, le prévenu a qualité pour agir. Le recours est formé en temps utile (art. 100 al. 1 LTF) contre une décision rendue en dernière instance cantonale (art. 80 LTF). Les conclusions présentées sont en soi recevables au regard de l'art. 107 al. 2 LTF.
1.2 La détention pour des motifs de sûreté a été ordonnée par le Tribunal de police, dans la perspective d'un appel contre son jugement. Dans son recours, le recourant indiquait qu'un tel appel a été annoncé. En réplique, il fait savoir que cet appel a été retiré afin de pouvoir demeurer en exécution de peine. Le recourant ne se trouve dès lors plus en détention pour des motifs de sûreté.
Le recours n'en conserve pas moins un objet. La jurisprudence fait en effet exception à l'exigence d'un intérêt actuel au recours lorsque la contestation peut se reproduire en tout temps dans des circonstances identiques ou analogues, que sa nature ne permet pas de la trancher avant qu'elle ne perde son actualité et que, en raison de sa portée de principe, il existe un intérêt public suffisamment important à la solution de la question litigieuse (ATF 137 I 23 consid. 1.3.1 p. 25, 120 consid. 2.2 p. 123; 137 II 40 consid. 2.1 p. 41). Ces conditions sont réunies en l'espèce. Le recourant a par ailleurs un intérêt à une modification de l'arrêt attaqué en ce qui concerne les frais mis à sa charge. Il y a lieu par conséquent d'entrer en matière.
2. Le recourant estime que l'exécution des peines prononcées antérieurement constituerait une mesure de substitution à la détention pour des motifs de sûreté. Cela avait d'ailleurs déjà été ordonné par le Tribunal de mesures de contrainte le 6 décembre 2011. Le recourant estime qu'à la fin de l'exécution, l'autorité pourrait ordonner le cas échéant une nouvelle mise en détention pour des motifs de sûreté, en application des art. 232 et/ou 237 al. 5 CPP.
2.1 Les motifs de détention au sens de l'art. 221 et 231 CPP ne sont pas contestés. Ils résident dans le risque de fuite et le risque de réitération, ce dernier était particulièrement évident compte tenu des nombreux antécédents du recourant. Toutefois, conformément au principe de la proportionnalité (art. 36 al. 3 Cst.), il convient d'examiner les possibilités de mettre en oeuvre d'autres solutions moins dommageables que la détention (règle de la nécessité). Cette exigence est concrétisée par l'art. 237 al. 1 CPP, qui prévoit que le tribunal compétent ordonne une ou plusieurs mesures moins sévères en lieu et place de la détention provisoire ou de la détention pour des motifs de sûreté si ces mesures permettent d'atteindre le même but que la détention. Conformément à l'art. 237 al. 5 CPP, le tribunal peut en tout temps révoquer les mesures de substitution, en ordonner d'autres ou prononcer la détention provisoire ou la détention pour des motifs de sûreté si des faits nouveaux l'exigent ou si le prévenu ne respecte pas les obligations qui lui ont été imposées.
2.2 La mise à exécution des peines prononcées antérieurement permettrait assurément d'atteindre le même but que la détention pour des motifs de sûreté, soit d'éviter les risques de fuite et de réitération. Par ailleurs, il s'agirait d'une mesure moins dommageable puisque le recourant serait au bénéfice d'un régime carcéral moins sévère et pourrait, comme il le relève, bénéficier de la mise en place d'un plan de réinsertion professionnelle.
L'objection soulevée par la cour cantonale tient à l'impossibilité, selon elle, de replacer le recourant en détention au cas où il serait libéré après avoir purgé ses deux peines ou obtenu la libération conditionnelle durant la procédure d'appel.
2.3 Cette objection ne saurait être retenue. En effet, la liste des mesures de substitution énoncée à l'art. 237 CPP n'est pas exhaustive. En vertu du principe constitutionnel de la proportionnalité, l'autorité est tenue de substituer à la détention provisoire toute mesure moins incisive qui permettrait d'atteindre le même but (arrêt 1B_654/2011 du 7 décembre 2011). Elle peut, à cet effet, assortir cette mesure de toute condition propre à en garantir l'efficacité. Il n'est pas contesté en l'occurrence que le régime d'exécution des peines est compatible avec le but de la détention pour des motifs de sureté, qui est de prévenir la fuite et la réitération. Le Tmc l'a déjà constaté dans sa décision du 6 décembre 2011. Le juge de la détention peut dès lors prévoir par avance dans sa décision que le prévenu sera remis en détention pour des motifs de sûreté si l'exécution des peines devait prendre fin durant la procédure. Cette dernière circonstance ne constituerait certes pas un fait nouveau au sens de l'art. 237 al. 5 CPP, mais elle peut faire l'objet d'une condition à la mesure d'allègement accordée au recourant. L'autorité compétente pourrait ainsi préciser qu'une mise en détention pour des motifs de sûreté sera, le cas échéant, ordonnée à nouveau à la fin de l'exécution des peines, et devrait dans un tel cas prendre les dispositions nécessaires pour en être informée en temps utile.
2.4 Le recours doit dès lors être admis pour ce motif. Il n'y a pas lieu, cela étant, d'examiner le grief relatif à l'exécution anticipée, car, sur ce point, le recours ne soulève pas une question de principe qui devrait être examinée indépendamment de tout intérêt actuel.
3. Il s'ensuit que le recours doit être admis au sens des considérants qui précèdent. L'arrêt attaqué est annulé et la cause doit être renvoyée à la Chambre pénale de la Cour de justice genevoise pour nouvelle décision sur les frais et dépens. Il n'y a pas lieu de percevoir de frais judiciaires (art. 66 al. 4 LTF). L'Etat de Genève versera en revanche une indemnité de dépens à l'avocat du recourant (art. 68 al. 1 LTF), ce qui rend sans objet la demande d'assistance judiciaire.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. L'arrêt attaqué est annulé et la cause est renvoyée à la Chambre pénale de recours de la Cour de justice du canton de Genève pour nouvelle décision sur les frais et dépens.
2. Il n'est pas perçu de frais judiciaires.
3. Une indemnité de 2'000 fr. est allouée à l'avocat du recourant à titre de dépens, à la charge de l'Etat de Genève. La demande d'assistance judiciaire est sans objet.
4. Le présent arrêt est communiqué au mandataire du recourant, ainsi qu'au Ministère public et à la Cour de justice du canton de Genève, Chambre pénale de recours.
Lausanne, le 12 avril 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Kurz