Faits: A. Le 11 octobre 2011, Z._, avocat, a porté plainte à Genève pour le compte de l'hoirie X._ contre Q._, R._ et S._ en leur reprochant de s'être indûment appropriés certains actifs de feu X._; cet homme d'affaires grec résidant à Athènes est décédé en 2010 sans laisser de testament. En substance, la plaignante a expliqué que X._ détenait ses biens par l'intermédiaire de sociétés gérées par des hommes de paille. Il détenait notamment des avoirs auprès de la banque T._, au travers de la société U._, dont l'ayant droit économique déclaré était Q._. X._ disposait cependant de la signature individuelle sur ce compte, Q._, R._ et S._ disposant d'une signature collective à deux. Or, de septembre 2008 à mars 2010, la valeur des avoirs de la société n'était passé que de USD 8'361'060 à 6'962'535, alors qu'en avril 2010 le solde créditeur ne s'élevait plus qu'à 147'119.-. Tous les virements avaient été opérés sur ordre des trois personnes dénoncées. Le mandataire de la plaignante craignait que les faits dénoncés se reproduisent avec la société V._. Le Ministère public a ouvert une procédure pénale du chef d'abus de confiance et ordonné le séquestre conservatoire des avoirs en compte, placements et safes, ainsi que le séquestre probatoire de la documentation bancaire pour toute relation dont Q._, R._, S._ et X._ auraient été titulaires, ayants droit économiques ou fondés de procuration, notamment en rapport avec la société V._. Par décision du 21 novembre 2011, le Ministère public a classé la plainte pénale déposée par l'hoirie X._ au motif que les autorités de poursuite pénale suisses n'étaient pas compétentes pour traiter ce litige. B. Par arrêt du 27 février 2012, la Chambre pénale de recours de la Cour de justice du canton de Genève (ci-après: la Cour de justice) a déclaré irrecevable le recours déposé contre l'ordonnance précitée. Elle a considéré que la plainte pénale, respectivement le recours cantonal, auraient dû être déposés pour le compte de chaque héritier de feu X._ et non pour le compte de l'hoirie, la communauté héréditaire n'ayant pas la personnalité juridique et la qualité pour ester en justice. En outre, le mandataire grec de l'hoirie n'avait pas démontré avoir été mandaté par chacun des héritiers pour déposer plainte pénale devant les autorités suisses. C. Agissant par la voie du recours en matière pénale, l'hoirie X._ et les hoirs de feu X._ demandent au Tribunal fédéral d'annuler l'arrêt cantonal et l'ordonnance du Ministère public et de renvoyer la cause au Ministère public afin qu'il ouvre une instruction. La Cour de justice s'est référée aux considérants de son arrêt. Le Ministère public a déposé des observations.