Faits:
A. Le 6 décembre 2010, A._ et la société B._ ont déposé plainte contre C._ et sa société X._ pour tentative d'extorsion et abus de confiance. Voulant faire croire à un endettement, A._ avait obtenu un prêt fictif d'un million d'euros de la part de X._, et avait émis en faveur de cette dernière un titre hypothécaire sur une villa à Nice. Par la suite, C._ aurait tenté par sommation judiciaire d'obtenir le remboursement de la somme prétendument prêtée, sous peine de réaliser l'hypothèque, ce qui avait forcé A._ à saisir un Tribunal pour faire constater l'inexistence de la dette. A._ aurait aussi confié 300'000 USD afin de les investir dans de l'or, mais C._ avait fait savoir que ces montants avaient été perdus.
Par décision du 18 novembre 2011, le Ministère public du canton de Genève a refusé d'entrer en matière. Faute de violence ou de menace d'un dommage sérieux, la tentative d'extorsion ne pouvait être retenue. Les investissements en or ainsi qu'en pierres précieuses avaient été effectués en association avec D._, et les malversations avaient été commises et reconnues par ce dernier.
B. Par arrêt du 23 janvier 2012, la Chambre pénale de recours de la Cour de justice du canton de Genève a rejeté le recours formé par A._ et B._. Le Ministère public pouvait rendre une ordonnance de non-entrée en matière après avoir entendu C._ à titre de renseignement. S'agissant de la contrainte ou de l'extorsion, une sommation judiciaire pouvait être assimilée à un commandement de payer et ne constituait pas une menace suffisamment sérieuse. S'agissant de l'abus de confiance, les fonds n'avaient pas été confiés à C._ ou à sa société, et il ressortait des pièces produites que D._ était à l'origine du préjudice subi.
C. Par acte du 24 février 2012, A._ et B._ forment un recours en matière pénale par lequel ils demandent l'annulation de l'arrêt cantonal et le renvoi de la cause soit au Ministère public pour ouverture d'une enquête pour tentative d'extorsion, gestion déloyale voire abus de confiance, soit - subsidiairement - à la cour cantonale pour nouvelle décision au sens des considérants.
La Chambre pénale de recours se réfère à son arrêt, sans observations. Le Ministère public conclut au rejet du recours.
Considérant en droit:
1. La décision attaquée a été rendue en matière pénale au sens de l'art. 78 LTF. Elle a un caractère final (art. 90 LTF) et émane de l'autorité cantonale de dernière instance (art. 80 LTF). Les recourants ont agi en temps utile (art. 100 al. 1 LTF).
1.1 Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles, soit en particulier les prétentions en réparation du dommage et du tort moral au sens des art. 41 ss CO. Selon l'art. 42 al. 1 LTF, il incombe notamment au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir lorsque ces faits ne ressortent pas à l'évidence de la décision attaquée ou du dossier de la cause (cf. ATF 133 II 353 consid. 1 p. 356, 249 consid. 1.1 p. 251). Lorsque, comme en l'espèce, le recours est dirigé contre une décision de non-entrée en matière, il n'est pas nécessaire que la partie plaignante ait déjà pris des conclusions civiles (ATF 137 IV 246 consid. 1.3.1). En revanche, elle doit expliquer dans son mémoire quelles prétentions civiles elle entend faire valoir contre l'intimé (ATF 137 IV 219 consid. 2.4 p. 222).
1.2 En l'espèce, les recourants expliquent avoir des prétentions contre l'intimé, pour plus de 1,8 million de francs représentant les montants investis en or. Les recourants n'élèvent en revanche aucune prétention civile en rapport avec l'infraction d'extorsion, demeurée à l'état de tentative. La question de la recevabilité du recours sur ce point peut toutefois demeurer indécise, compte tenu des considérants qui suivent.
2. Invoquant leur droit d'être entendus et l'art. 101 al. 1 CPP, les recourants reprochent au Ministère public de leur avoir refusé l'accès au dossier alors qu'il l'avait accordé à C._, considéré comme prévenu. Dans un autre grief, les recourants estiment que l'audition de la personne mise en cause, à titre de prévenu, constituait un acte d'enquête et empêchait le prononcé d'une ordonnance de non-entrée en matière.
2.1 Une ordonnance de non-entrée en matière, au sens de l'art. 310 CPP, est rendue immédiatement par le ministère public lorsqu'il apparaît notamment, à réception de la plainte ou après une procédure préliminaire limitée aux investigations de la police (art. 300 al. 1 et 306 s. CPP), que les éléments constitutifs de l'infraction ou les conditions à l'ouverture de l'action pénale ne sont manifestement pas réunis (al. 1 let. a). Le ministère public ne peut donc pas rendre une telle ordonnance après avoir ouvert une instruction au sens de l'art. 309 CPP (CORNU, Commentaire romand CPP, n° 2 ad art. 310).
En l'espèce, le Ministère public a reçu la plainte des recourants le 6 décembre 2010. Selon la note apposée au verso de cette plainte, une enquête préliminaire a été ouverte le 17 décembre suivant et le dossier a été transmis à la police. Celle-ci a entendu C._ le 31 janvier 2011, en qualité de personne appelée à donner des renseignements. Un rapport a été établi le même jour à l'attention du Ministère public. Des pièces ont été réclamées aux mis en cause par le Ministère public, le 26 avril 2011. L'avocat des recourants a été informé, le 22 mars 2011, que la procédure avait fait l'objet d'une enquête préliminaire. Par la suite, les personnes mises en cause ont demandé l'accès au dossier. Le Ministère public a accordé le 19 mai 2011 un accès partiel, limité aux pièces et déclarations des intéressés. Il est vrai que cette ordonnance désigne C._ et X._ comme prévenus. Il s'agit toutefois manifestement d'une erreur de désignation car la même ordonnance précise qu'aucune audience au sens de l'art. 101 al. 1 CPP n'avait encore eu lieu. Le 15 juin 2011, le Ministère public a rejeté une demande d'accès au dossier présentée par les recourants, en relevant à nouveau qu'aucune audience n'avait eu lieu devant lui.
2.2 Force est dès lors de constater qu'en dépit des objections des recourants, aucune décision formelle d'ouverture d'une instruction n'a été prise par le Ministère public avec la mention des prévenus et des infractions qui leur sont imputées, comme l'exige l'art. 309 al. 3 CPP. Quand bien même il s'est écoulé près d'une année entre le dépôt de la plainte et l'ordonnance de non-entrée en matière, la procédure n'a pas dépassé le stade de l'investigation policière, ce qui permettait au Ministère public de rendre une ordonnance de non-entrée en matière. Le grief doit être écarté.
2.3 Les recourants invoquent en vain leur droit d'être entendus, dès lors que l'accès au dossier n'a pas à être accordé avant la première audition du prévenu. Les mis en cause ont certes obtenu un droit d'accès, mais limité à leurs propres déclarations et aux pièces qu'ils avaient eux-mêmes déposées, et ce afin de fournir les pièces complémentaires exigées par le Ministère public. Il n'y a par conséquent aucune violation de l'art. 101 CPP. Les recourants ont par ailleurs pu exercer leur droit d'être entendus à tout le moins dans la procédure de recours puisqu'il ressort du dossier qu'ils ont obtenu une copie de l'intégralité du dossier après le prononcé de l'ordonnance du Ministère public.
Les griefs d'ordre formel doivent par conséquent être rejetés.
3. Sur le fond, les recourants se plaignent d'arbitraire dans l'établissement des faits et estiment que les conditions d'une non-entrée en matière n'étaient pas réunies. Ils reprochent à la cour cantonale d'avoir limité son examen, concernant l'existence d'un dommage sérieux, à la sommation judiciaire, alors que le mémoire réponse des mis en cause devant le tribunal civil contenait de fausses indications quant à l'existence d'un prêt. La cour cantonale aurait tenu compte de simples documents internes pour retenir arbitrairement que seul D._ était responsable du préjudice subi. Les recourants estiment qu'une ordonnance de non-entrée en matière ne serait possible que lorsque toute infraction peut d'emblée être exclue. La cour cantonale ne pouvait dès lors se livrer, comme elle l'a fait, à un examen de fond. Les recourants soutiennent ensuite que les éléments constitutifs des infractions d'extorsion et de gestion déloyale seraient réunis.
3.1 Selon l'art. 310 CPP, le ministère public rend immédiatement une ordonnance de non-entrée en matière s'il ressort de la dénonciation ou du rapport de police que les éléments constitutifs de l'infraction ou les conditions à l'ouverture de l'action pénale ne sont manifestement pas réunis (let. a). Il peut faire de même en cas d'empêchement de procéder (let. b) ou en application de l'art. 8 CPP (let. c). Le ministère public doit ainsi être certain que les faits ne sont pas punissables, ce qui est notamment le cas lorsque le litige est d'ordre purement civil (ATF 137 IV 285 consid. 2.3 p. 287 et les références citées). Il doit tenir compte de l'ensemble des circonstances du cas d'espèce et des intérêts variables qui peuvent se trouver en présence et dispose dans ce cadre d'un large pouvoir d'appréciation (arrêt 1B_687/2011 du 27 mars 2012 destiné à la publication, consid. 4).
3.2 La cour cantonale a considéré qu'à l'instar d'un commandement de payer, une tentative de recouvrement par voie de sommation judiciaire ne constituait pas une menace grave constitutive d'extorsion ou de contrainte, car l'intéressé pouvait faire constater l'inexistence de la dette devant un tribunal. Les recourants relèvent que les mis en cause auraient tout fait pour obtenir le montant réclamé, y compris en alléguant des faits inexacts devant le juge. Cela n'enlève toutefois rien à la pertinence du raisonnement de la cour cantonale et au fait qu'il a suffit aux recourants de faire constater en justice l'inexistence de la dette, de sorte que la menace évoquée était manifestement insuffisante pour les pousser à des actes préjudiciables à leurs intérêts.
3.3 S'agissant de l'infraction de gestion déloyale, les recourants se contentent de relever que l'argent investi aurait été versé sur un compte ouvert par X._. Cela ne suffit toutefois pas pour démontrer l'existence d'un devoir de gestion. En effet, selon un protocole d'accord signé par les parties, D._ reconnaissait être à l'origine d'un préjudice de plus de 1,5 million d'euros et s'engageait à rembourser cette somme. Les recourants ne contestent ni l'authenticité de ce document, ni l'interprétation qu'en a fait la cour cantonale.
4. Il ressort dès lors suffisamment clairement des déclarations et des pièces produites que les éléments constitutifs d'une infraction ne sont pas réunis et que le litige est en définitive de nature purement civile. L'ordonnance de non-entrée en matière n'est dès lors pas critiquable. Le recours doit par conséquent être rejeté, dans la mesure où il est recevable. Conformément à l'art. 66 al. 1 LTF, les frais judiciaires sont mis à la charge des recourants qui succombent.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants.
3. Le présent arrêt est communiqué au mandataire des recourants, au Ministère public et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 5 avril 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Kurz