Faits:
A. Par ordonnance du 16 avril 2008, le juge d'instruction a clos par un non-lieu les procédures pénales ouvertes, dans le contexte d'un conflit de voisinage, contre X._, Y._ et Dame Y._.
B. Le 15 janvier 2009, la Chambre pénale du Tribunal cantonal fribourgeois a déclaré irrecevable le recours formé par X._ contre cette ordonnance.
C. X._ forme un recours en matière pénale et un recours constitutionnel subsidiaire simultané contre cet arrêt. Il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale pour qu'elle statue à nouveau, une indemnité de dépens lui étant allouée pour l'instance fédérale et les frais et dépens de la procédure cantonale étant mis à la charge de l'Etat, respectivement de Y._.
D. Invité à se déterminer sur le recours, le ministère public a déclaré n'avoir pas d'observations à formuler. Pour sa part, la cour cantonale a renoncé à déposer des observations.
Considérant en droit:
1. Le recourant forme simultanément un recours en matière pénale et un recours constitutionnel subsidiaire.
L'arrêt attaqué, qui est final, a été rendu dans une cause de droit pénal. Il peut donc faire l'objet d'un recours en matière pénale (art. 78 ss LTF), qui permet d'invoquer notamment toute violation du droit fédéral, y compris des droits constitutionnels (art. 95 let. a LTF). Par conséquent, le recours constitutionnel subsidiaire est exclu (art. 113 LTF).
2. Le recourant se plaint d'une application arbitraire des art. 199 et 200 al. 2 du code de procédure pénale fribourgeois (CPP/FR). Il allègue que le recours qu'il avait déposé devant l'autorité cantonale contenait des conclusions claires et des motifs à l'appui de celles-ci, satisfaisant ainsi aux exigences de l'art. 199 CPP/FR. Il soutient par ailleurs que même si les juges cantonaux avaient considéré que les conclusions ou les motifs de son recours n'étaient pas suffisamment précis, ils devaient, en application de l'art. 200 al. 2 CPP/FR, lui impartir un bref délai pour y remédier.
Appelé à revoir l'interprétation d'une norme sous l'angle restreint de l'arbitraire, comme c'est le cas pour le droit cantonal, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution paraît concevable, voire préférable (ATF 132 I 175 consid. 1.2 p. 177; 131 I 217 consid. 2.1 p. 219 et les arrêts cités). En outre, l'annulation de la décision attaquée ne se justifie que si celle-ci est arbitraire dans son résultat, ce qu'il appartient au recourant de démontrer (ATF 131 I 217 consid. 2.1 p. 219 et les arrêts cités).
2.1 Aux termes du code de procédure pénale fribourgeois, le mémoire doit exposer clairement les conclusions et les motifs du recourant (art. 199 al. 1 CPP/FR). Ainsi, une simple déclaration de recours ne suffit pas. Il incombe au recourant de définir les modifications qui devraient être apportées au jugement attaqué et de décrire les raisons qui justifieraient de telles modifications. Ce minimum de formalités tend à éviter un excès de formalisme (DAMIEN PILLER/CLAUDE POCHON, Commentaire du code de procédure pénale du canton de Fribourg, 1998, p. 310 n° 199.2).
Un mémoire qui ne comprend pas de conclusions ou de motifs est déclaré irrecevable (art. 200 al. 1 CPP/FR). Si les conclusions ou les motifs ne sont pas exprimés avec une clarté suffisante ou si le mémoire ne satisfait pas aux exigences de l'art. 199 al. 2 CPP/FR, l'autorité impartit au recourant un bref délai pour remédier aux informalités constatées, à moins que le mémoire ne soit manifestement irrecevable (art. 200 al. 2 CPP/FR). L'autorité avise le recourant que, à défaut de régularisation dans le délai fixé, elle statuera sur la base du dossier ou, si la signature manque, qu'elle déclarera le mémoire irrecevable (art. 200 al. 3 CPP/FR). Ainsi, si l'absence totale de conclusions ou de motifs rend le recours d'emblée irrecevable, lorsque le mémoire contient des conclusions et des motifs mais que ceux-ci sont mal exprimés ou ne sont pas exposés avec suffisamment de clarté, l'autorité saisie peut impartir un bref délai à la partie recourante pour remédier au défaut de clarté (DAMIEN PILLER/CLAUDE POCHON, op. cit., p. 311 n° 200.1 et 200.2).
2.2 Il ressort de l'arrêt attaqué que le recourant a pris devant l'autorité cantonale des conclusions tendant à l'annulation de l'ordonnance de non-lieu et au renvoi de la cause au juge d'instruction. Il a exposé que les actes imputés aux intimés ne devaient pas être examinés séparément mais appréciés dans un contexte global, car même si pris isolément chacun de ces actes n'était pas illicite, considérés dans leur ensemble ils constituaient une forme répréhensible de contrainte. Il a cité de la jurisprudence à l'appui de cette thèse.
Il appert également que tant le juge d'instruction que le ministère public ont compris en quoi et pourquoi le recourant entendait faire modifier l'ordonnance attaquée puisqu'ils ont conclu au rejet du recours, et pas à son irrecevabilité, sans émettre de réserves quant à la clarté de la motivation. Au demeurant, l'autorité cantonale elle-même a reproduit les conclusions du recours et a été en mesure de résumer l'argumentation du recourant.
L'autorité cantonale ne se trouvait donc de toute évidence pas en présence d'un recours totalement dépourvu de conclusions ou de motifs. Dans ces circonstances, en déclarant le recours irrecevable sans avoir, en application de l'art. 200 al. 2 CPP/FR, imparti au recourant un bref délai pour remédier aux éventuelles informalités de son mémoire, elle a appliqué de manière arbitraire les art. 199 et 200 CPP/FR. Le recours doit donc être admis.
3. Vu l'issue de la procédure, il ne sera pas perçu de frais et le canton de Fribourg versera au recourant une indemnité de dépens pour la procédure devant le Tribunal fédéral (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle décision.
2. Il n'est pas perçu de frais.
3. Le canton de Fribourg versera au recourant une indemnité de 2000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Chambre pénale du Tribunal cantonal fribourgeois.
Lausanne, le 22 juin 2009
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Favre Paquier-Boinay