Faits: A. Le 2 avril 2006, un incendie, provoqué par l'embrasement d'un téléviseur, s'est déclaré à Monthey. Il a causé le décès par intoxication de deux locataires de l'immeuble. Une enquête pénale a été ouverte dans le cadre de laquelle la qualité de partie civile a été reconnue à A.X._ et B.X._, parents de l'une des victimes. Par décision du 20 décembre 2006, le Juge d'instruction a classé l'enquête. Le 27 décembre 2006, A.X._ et B.X._ ont porté plainte contre cette décision auprès de la Chambre pénale du Tribunal cantonal valaisan. Le 21 mai 2007, cette autorité a admis la plainte pour violation du droit d'être entendu et a renvoyé la cause au magistrat informateur afin qu'il complète l'instruction. Elle a mis les frais à la charge de l'Etat et arrêté à 750 fr., débours compris, le montant des dépens alloués aux plaignants. Contre cette décision, A.X._ et B.X._ ont formé un recours en matière pénale au Tribunal fédéral en s'en prenant uniquement au montant des dépens qui leur ont été alloués. Ce recours a été déclaré irrecevable au motif que la décision attaquée était une décision incidente qui n'entraînait aucun préjudice irréparable et qui pourrait, le cas échéant, être attaquée en même temps que la décision sur le fond. Il a été précisé que si les recourants n'avaient plus d'intérêt juridiquement protégé à recourir sur le fond, notamment parce que l'une des autorités cantonales avait statué entièrement en leur faveur, ils pourraient attaquer le prononcé sur les frais et dépens par un recours au Tribunal fédéral dirigé directement contre la décision de l'autorité cantonale inférieure. Après avoir administré divers moyens de preuve, l'Office du Juge d'instruction du Bas-Valais a rendu un non-lieu le 8 juillet 2009. A.X._ et B.X._ ont renoncé à faire appel au Tribunal cantonal contre cette décision et forment un recours en matière pénale dirigé directement contre l'arrêt de la Chambre pénale du 21 mai 2007 en tant qu'il leur alloue un montant de 750 fr. à titre de dépens. Ils concluent, avec suite de frais et dépens, principalement à ce que ce montant soit porté à 3'000 fr. et subsidiairement à ce que l'arrêt attaqué soit annulé et la cause renvoyée à l'autorité cantonale pour qu'elle statue à nouveau. B. Invitée à se déterminer sur le recours, l'autorité cantonale n'a pas pris de conclusions, mais a relevé que l'évaluation des honoraires se fait selon une appréciation fondée sur des critères généraux et qu'en l'occurrence la cause n'était pas d'une difficulté particulière. Pour sa part, le Ministère public a renoncé à présenter des observations.