Faits:
A. Y._ est arrivée en Suisse dans le courant de l'année 2000. Elle a fait la connaissance de Z._ et est tombée enceinte. Elle a ensuite rencontré X._ au mois de décembre 2001. Ce dernier lui a proposé son aide, notamment dans le cadre de démarches administratives pour régulariser sa situation et ils ont noué une relation. Ils se sont mariés le 1er décembre 2005 et ont emménagé à F._, avec la fille de Y._, E._. De fréquentes disputes ont rapidement émaillé la vie commune des époux et Y._ a déposé plusieurs plaintes à l'encontre de son ex-mari.
B. Par jugement du 17 septembre 2009, la juge pénale du Tribunal de première instance n'a pas donné suite à la plainte déposée par Y._ contre X._ pour injure, ce pour cause de retrait de plainte. Elle n'a pas non plus donné suite à la plainte déposée par Z._ contre X._ pour injure, menaces et abus du téléphone, ce pour cause de prescription ou faute de charge suffisante.
En revanche, elle a déclaré X._ coupable de menaces, commises à réitérées reprises du 11 mars 2008 au 13 janvier 2009, par le fait d'avoir effrayé gravement Y._, et de voies de fait commises le 24 avril 2008 par le fait d'avoir brutalement saisi et secoué cette dernière avant de la projeter à terre. Elle a révoqué le sursis de trois ans à la peine de 120 heures de travaux d'intérêts généraux, sous déduction de six jours de détention préventive, prononcée par le juge pénal du Tribunal de première instance à Porrentruy le 8 février 2008 et a décidé de prononcer une peine d'ensemble à l'encontre de X._. Elle l'a ainsi condamné à une courte peine privative de liberté de 120 jours, sous déduction de 19 jours de détention préventive subie avant jugement, à une amende de 500 fr., la peine privative de liberté de substitution étant de 5 jours et à une partie des frais judiciaires.
C. Par arrêt du 20 janvier 2010, la Cour pénale du Tribunal cantonal jurassien a déclaré X._ coupable de menaces commises à réitérées reprises, à Delémont, le 11 mars 2008, le 2 avril 2008, le 24 avril 2008, le 19 mai 2008, le 12 juin 2008 et le 13 janvier 2009 au préjudicie de Y._ et de voies de fait, commises à Delémont le 24 avril 2008 au préjudice de la prénommée. Elle a révoqué le sursis de trois ans à la peine de 120 heures de travail d'intérêt général, sous déduction de six jours de détention préventive, prononcée par le juge pénal du Tribunal de première instance à Porrentruy le 8 février 2008 et l'a condamné à une courte peine privative de liberté d'ensemble de 100 jours, sous déduction de 19 jours de détention subis avant jugement, à une amende de 500 fr., convertible en une peine privative de liberté de substitution de 5 jours en cas de non-paiement fautif de cette amende et au paiement d'une partie des frais judiciaires.
D. X._ dépose un recours en matière pénale au Tribunal fédéral. Il invoque l'arbitraire dans l'appréciation des preuves et une violation du principe "in dubio pro reo". Il se plaint également d'une violation des art. 126 et 180 CP ainsi que de la nature de la peine prononcée à son encontre. Il conclut à son acquittement de tous les chefs de prévention et requiert l'effet suspensif.
Considérant en droit:
1. Le recourant se plaint, sur plusieurs points, d'appréciation arbitraire des preuves et de violation de la présomption d'innocence.
1.1 Tel qu'il est soulevé, le grief revient à invoquer une violation du principe "in dubio pro reo" comme règle de l'appréciation des preuves, donc, en définitive, à se plaindre de ce que cette appréciation serait arbitraire (ATF 127 I 38 consid. 2 p. 40 ss). Cette dernière notion n'est pas synonyme de discutable, ni même de critiquable. Pour être qualifiée d'arbitraire, une appréciation doit se révéler manifestement insoutenable, et cela non seulement dans sa motivation mais dans son résultat (ATF 134 I 140 consid. 5.4 p. 148; 133 I 149 consid. 3.1 p. 153). Le Tribunal fédéral, qui n'administre pas lui-même les preuves, ne saurait en effet en revoir librement l'appréciation et substituer la sienne, supposée différente, à celle du juge du fait. Il ne peut s'écarter de la solution retenue que s'il est amené à constater qu'elle s'avère absolument inadmissible. Il ne peut au demeurant entrer en matière sur l'arbitraire allégué que si ce dernier est démontré dans le recours conformément aux exigences de motivation de l'art. 106 al. 2 LTF (cf. ATF 133 IV 286 consid. 1.4 p. 287).
1.2 S'agissant de l'altercation du 24 avril 2008, le recourant reproche aux autorités cantonales d'avoir retenu la version de la plaignante, alors que l'attitude de cette dernière n'est pas exempte de reproche et qu'il lui arrive de mentir. Il relève que les déclarations de la victime ne sont pas précises, constantes et convaincantes. Il estime que le témoignage de C._ doit être écarté, celui-ci contenant de nombreuses erreurs et contradictions par rapport à la version de la victime. Il soutient avoir fait des déclarations constantes s'agissant du déroulement des faits du 24 avril 2008. Il conteste également avoir menacé son ex-épouse lors de cette rencontre.
1.2.1 La Cour pénale a considéré comme établis les faits tels que relatés par Y._, à savoir que, le 24 avril 2008, à Delémont, le recourant l'a brutalement saisie par un ou deux bras, l'a secouée, puis poussée en direction de la chaussée et qu'il lui a également dit: "tu peux rêver, moi je te massacre". Elle a acquis cette conviction en se fondant sur les éléments suivants.
D'une part, les déclarations de Y._ sont précises et constantes. Elle a décrit clairement les faits qui se sont déroulés en fin de journée, alors qu'elle se rendait chez la maman de jour de sa fille. Ses déclarations sont empreintes de sincérité dans la mesure où elle ne cherche pas à charger davantage le prévenu ou à exagérer les circonstances de l'altercation. Elle admet ainsi que c'est la première fois qu'il la touchait physiquement depuis le 8 février 2008, tout en précisant qu'elle n'a pas été blessée mais juste secouée physiquement.
D'autre part, la version de Y._ est confirmée par le témoignage de C._. Même s'il existe des contradictions entre les déclarations du témoin et la version de Y._, s'agissant notamment du fait de savoir si l'intéressé a saisi cette dernière par les cheveux, s'il l'a saisie par un ou deux bras, il n'en demeure pas moins que C._ a été choquée par la brutalité avec laquelle le prévenu s'en est pris à son ex-épouse. Elle a ainsi confirmé que le recourant a saisi sa victime avec les mains, l'a secouée puis poussée sur la route. Les contradictions évoquées par le recourant ne portent d'ailleurs que sur des points sans réelle pertinence. Il n'est au reste pas surprenant, d'une part, qu'une personne entendue plusieurs fois au cours d'une enquête ne fasse pas systématiquement les mêmes déclarations, mais corrige parfois ultérieurement certaines d'entre elles ou qu'elle apporte par la suite des précisions qu'elle n'avait pas fournies d'emblée. D'autre part, il n'apparaît pas insolite que, sur certains points, les déclarations de C._ ne concordent pas avec celles de Y._ dans la mesure où elle se trouvait à une certaine distance au début de l'altercation et où elle devait porter son attention également sur les autres usagers de la route. Pour autant, il n'est pas manifestement insoutenable de tenir les déclarations de C._ pour crédibles. Ce qui importe c'est que, dans leur ensemble, ces déclarations soient cohérentes sur des points importants et déterminants. Le fait que ce témoin soit domicilié dans le même immeuble que la victime ne permet pas de mettre en doute ses propos. En effet, rendue attentive à ses obligations et aux conséquences pénales d'une fausse déclaration en justice, elle a relevé qu'elle ne connaissait ni le prévenu ni la victime. En outre, au moment de son audition par la police, elle n'était pas domiciliée à la rue B._ à Delémont.
De plus, D._ a rapporté les propos de son frère concernant l'épisode du 24 avril 2008, indiquant qu'il avait secoué Y._ par l'épaule. Enfin, conformément à la règle de conduite fixée par le jugement du 8 février 2008, le recourant avait l'interdiction, à cette époque, d'importuner son ex-épouse et de lui parler en cas de rencontre fortuite. Malgré cette injonction, il n'a pas cherché à s'éloigner de Y._ alors qu'il cheminait, à vélo, le long de la rue A._. Il n'est en effet pas contesté qu'il se soit approché d'elle et qu'il lui ait parlé. Ces circonstances dénotent chez le recourant une attitude irrespectueuse et malveillante. Pour le surplus, ce dernier n'explique pas les raisons de sa présence, à vélo, le long de la rue A._ et en fin de journée alors qu'il a connaissance du fait que la maman de jour de E._ habite non loin de là, à la rue P._. Enfin, il y a lieu de constater que l'intéressé n'a pas été constant dans ses déclarations. A la police, il a en effet déclaré qu'il n'avait pas touché son ex-épouse, alors qu'il a raconté à sa soeur l'avoir secouée par l'épaule.
1.2.2 L'argumentation du recourant se réduit à une rediscussion purement appellatoire de l'appréciation des éléments ou indices corroboratifs sur lesquels s'est fondée l'autorité cantonale pour retenir les faits contestés. Il se borne à opposer sa propre appréciation des éléments retenus à celle de l'autorité cantonale. Il ne démontre pas, conformément aux exigences de l'art. 106 al. 2 LTF, qu'il était arbitraire, c'est-à-dire manifestement insoutenable d'en déduire que la version des faits présentée par la victime était plus convaincante que la sienne. Le recours sur ces points est par conséquent irrecevable, faute de motivation suffisante. Par ailleurs, sur la base des éléments exposés ci-dessus, la Cour pénale pouvait sans arbitraire considérer comme établis les événements du 24 avril 2008, tels que dénoncés par la plaignante.
1.3 Le recourant conteste avoir menacé son ex-épouse les 11 mars, 2 avril, 19 mai et 12 juin 2008. Il souligne qu'aucun élément ne permet de confirmer la version de la victime.
1.3.1 La Cour pénale a tenu pour établi que le recourant a, à plusieurs reprises, suivi Y._ à Delémont et a cherché à entrer en contact avec elle, en violation de la règle de conduite fixée par le jugement du 8 février 2008, conduisant la plaignante soit à faire appel à la police soit à avertir son mandataire, en particulier en date des 11 mars, 2 avril, 19 mai et 12 juin 2008. Elle a fondé sa conviction en se basant sur les éléments suivants.
Le 12 mars 2008, le mandataire de Y._ a écrit à l'avocat du recourant, avec copie au juge pénal, en lui relatant un épisode de la veille où sa cliente a été suivie par X._. Le 27 juin 2008, il a informé le juge pénal que le recourant n'a pas tenu compte du jugement du 8 février 2008 et qu'il continuait à importuner Y._, celle-ci devant prendre le taxi pour conduire sa fille à la garderie et pour revenir. Le 2 avril 2008 à 17h.21, la plaignante a indiqué à la police qu'elle venait de récupérer sa fille chez la maman de jour et qu'elle avait remarqué la présence de son mari qui la suivait. Le 19 mai 2008 à 17h.46, elle a informé la police que le recourant la harcelait. Le 12 juin 2008, à 17h.14, la police a constaté que Y._ était essoufflée en indiquant que son mari était en train de la suivre alors qu'elle allait chercher son enfant. La police a envoyé une patrouille sur place et Y._ s'est réfugiée dans un salon de coiffure.
Selon la Cour pénale, les déclarations de la victime sont précises, constantes et les faits décrits par cette dernière correspondent à ceux mentionnés par son mandataire ainsi que ceux relevés dans le journal de police. Les actes reprochés au recourant ont souvent eu lieu dans le quartier des rues A._, P._, Q._ et en fin de journée, ce qui tend à démontrer que l'intéressé cherche à entrer en contact avec Y._, lorsque celle-ci se rend au domicile de la maman de jour de E._. Il n'est d'ailleurs pas contesté que le recourant n'accepte pas la situation de séparation d'avec cet enfant.
En outre, X._ admet qu'il n'a pas tout fait pour éviter de rencontrer son ex-femme et qu'il n'arrive pas à ne pas lui répondre ou à ne pas lui parler malgré les avertissements donnés par les autorités judiciaires. Par ailleurs, confronté au fait que les rencontres avec Y._ ne pouvaient pas à chaque fois être dues au hasard, il refuse de s'expliquer. L'attitude de l'intéressé lors de ses auditions est à cet égard significative et infirme sa version des faits.
1.3.2 Il résulte de la motivation précitée que la Cour d'appel a acquis sa conviction en se fondant sur des éléments concrets et pertinents, à savoir les déclarations précises et constantes de la victime, leur concordance avec les courriers du mandataire de cette dernière et le contenu du journal de police et enfin le fait que le recourant refuse de s'expliquer sur les circonstances de ces rencontres. On ne voit pas, et l'intéressé ne le démontre pas davantage, en quoi cette appréciation serait manifestement insoutenable. Le grief est donc infondé.
1.4 Le recourant conteste avoir menacé son ex-épouse le 13 janvier 2009. Il affirme que la version de cette dernière, contrairement à la sienne, n'est pas crédible.
1.4.1 La Cour pénale a considéré comme établis les faits tels que décrits par Y._, à savoir que, le 13 janvier 2009, le recourant l'a attendue dans sa voiture, à Delémont, est sorti de son véhicule, en manifestant l'intention de lui parler, a attendu qu'elle revienne de chez la maman de jour de sa fille, puis l'a suivie. Elle a fondé sa conviction sur la base des éléments suivants.
Les déclarations de Y._ sont précises et confirmées par les constatations de la police. En effet, celle-ci, après avoir été avisée du fait que le recourant suivait Y._ alors qu'elle cheminait en direction du centre, a interpellé l'intéressé à proximité immédiate. De plus, le comportement reproché au recourant s'inscrit dans le même contexte que celui décrit précédemment ce qui renforce la crédibilité des déclarations de Y._ à savoir qu'il cherche à entrer en contact avec cette dernière et sa fille, en fin d'après-midi, ce qui est étayé par le fait qu'en date du 27 avril 2009 le recourant s'est rendu à la crèche où se trouvait la fille de la victime, ce qu'il n'a pas contesté. Enfin, l'intéressé n'a pas déclaré d'emblée avoir rencontré son ex-épouse, le 13 janvier 2009. Ce n'est qu'en répondant à une question d'un agent de police qu'il a reconnu l'avoir rencontrée par hasard.
1.4.2 Dans le cadre de son argumentation, le recourant se contente d'invoquer divers motifs selon lesquels les déclarations de la plaignante ne sont pas plausibles. En revanche, il ne critique pas, conformément aux exigences légales, les éléments retenus ci-dessus pour conclure aux faits contestés. Sa critique est insuffisamment motivée et par conséquent irrecevable.
2. Invoquant une violation de l'art. 126 CP, le recourant conteste que le fait de saisir une personne par le bras puisse constituer une voie de fait.
2.1 Les voies de fait, réprimées par la disposition précitée, se définissent comme des atteintes physiques qui excèdent ce qui est socialement toléré et qui ne causent ni lésions corporelles, ni dommage à la santé. Une telle atteinte peut exister même si elle n'a causé aucune douleur physique (ATF 134 IV 189 consid. 1.2).
2.2 Selon les faits retenus, au sujet desquels aucun arbitraire n'a été démontré (cf. supra consid. 1.2), lors de l'altercation du 24 avril 2008, le recourant a saisi brutalement Y._, l'a secouée, puis l'a poussée en direction de la chaussée. La prénommée n'a pas subi de lésions corporelles ou de dommage à la santé. Reste qu'elle a été secouée physiquement, un témoin ayant d'ailleurs été frappé par la brutalité du recourant à l'encontre de la plaignante. L'atteinte subie excède ce qui est socialement toléré. Dans ces conditions, la condamnation de l'intéressé pour voies de fait au sens de l'art. 126 CP ne viole pas le droit fédéral.
3. Se plaignant d'une violation de l'art. 180 CP, le recourant conteste que les éléments constitutifs de l'infraction de menace soient réalisés. Il estime que le simple fait de croiser une personne ne serait pas de nature à effrayer celle-ci.
3.1 Aux termes de l'art. 180 al. 1 CP, celui qui, par une menace grave, aura alarmé ou effrayé une personne sera, sur plainte, puni d'une peine privative de liberté de trois ans au plus ou d'une peine pécuniaire.
La punition de l'auteur dépend de la réalisation de deux conditions. Il faut, d'une part, que l'auteur ait émis une menace grave et, d'autre part, que la victime ait été alarmée ou effrayée. Une menace est qualifiée de grave si elle est objectivement de nature à alarmer ou à effrayer la victime. Il faut donc se demander si une personne raisonnable, dotée d'une résistance psychologique plus ou moins normale, aurait ressenti la menace comme grave (ATF 99 IV 212 consid. 1a p. 215 s.).
3.2 Par jugement du 8 février 2008, le recourant a été condamné, pour injures, dommages à la propriété et voies de fait, infractions déjà commises au préjudice de Y._. Par son comportement des 11 mars, 2 avril, 24 avril, 19 mai, 12 juin 2008 et 13 janvier 2009, soit en suivant la prénommée en ville et en cherchant à entrer en contact avec elle et sa fille, le recourant a violé la règle de conduite qui lui avait été fixée dans le jugement précité et selon laquelle il devait s'abstenir de contacter ou d'importuner de quelque manière que ce soit la plaignante et sa fille et de leur parler s'il les rencontrait par hasard. Il a également violé les injonctions qui lui ont été faites par la juge d'instruction qui, dans une décision du 2 septembre 2008, a subordonné la liberté provisoire de l'intéressé aux conditions suivantes: interdiction de commettre de nouvelles infractions; interdiction de contacter ou d'importuner, de quelque manière que ce soit, directement ou indirectement, Y._ et sa fille E._ avec obligation de s'éloigner d'elles et de ne pas chercher à leur parler en cas de rencontre; interdiction d'emprunter, à Delémont, plusieurs rues nommément citées ainsi que le périmètre formé par certaines d'entre elles; interdiction de se trouver aux abords de l'entreprise où travaille Y._.
Au regard de ces éléments, soit plus précisément de la précédente condamnation du recourant, des diverses interdictions qui lui ont été faites par les autorités et de la situation conflictuelle du couple, on peut admettre que le comportement du recourant était objectivement de nature à alarmer ou à effrayer la victime. Par ailleurs, selon les faits retenus, cette dernière a effectivement été effrayée, ce qui est attesté par ses appels à l'aide, auprès de la police ou de son mandataire. Dans ces conditions, la Cour cantonale n'a pas violé le droit fédéral en admettant que les conditions objectives de l'infraction de menace étaient réalisées. Le grief doit donc être rejeté.
4. Le recourant reproche à la Cour cantonale de ne pas avoir prononcé une peine pécuniaire ou un travail d'intérêt général en lieu et place d'une peine privative de liberté.
4.1 Aux termes de l'art. 41 al. 1 CP, le juge peut prononcer une peine privative de liberté ferme de moins de six mois uniquement si les conditions du sursis à l'exécution de la peine (art. 42) ne sont pas réunies et s'il y a lieu d'admettre que ni une peine pécuniaire, ni un travail d'intérêt général ne peuvent être exécutés.
4.1.1 A titre de sanctions, le nouveau droit fait de la peine pécuniaire (art. 34 CP) et du travail d'intérêt général (art. 37 CP) la règle dans le domaine de la petite criminalité, respectivement de la peine pécuniaire et de la peine privative de liberté la règle pour la criminalité moyenne.
Dans la conception de la nouvelle partie générale du Code pénal, la peine pécuniaire constitue la sanction principale. Les peines privatives de liberté ne doivent être prononcées que lorsque l'Etat ne peut garantir d'une autre manière la sécurité publique. Quant au travail d'intérêt général, il suppose l'accord de l'auteur. En vertu du principe de la proportionnalité, il y a en règle générale lieu, lorsque plusieurs peines entrent en considération et apparaissent sanctionner de manière équivalente la faute, de choisir celle qui restreint le moins sévèrement la liberté personnelle de l'intéressé, respectivement qui le touche le moins durement. La peine pécuniaire et le travail d'intérêt général représentent des atteintes moins importantes et constituent ainsi des peines plus clémentes. Cela résulte également de l'intention essentielle, qui était au c?ur de la révision de la partie générale du Code pénal en matière de sanction, d'éviter les courtes peines de prison ou d'arrêt, qui font obstacle à la socialisation de l'auteur, et de leur substituer d'autres sanctions. Pour choisir la nature de la peine, le juge doit prendre en considération l'opportunité de la sanction déterminée, ses effets sur l'auteur et son milieu social, ainsi que son efficacité préventive (ATF 134 IV 97 consid. 4).
4.1.2 Lorsque le tribunal est confronté à la question du choix de la peine, il doit partir de celle dont la loi sanctionne concrètement l'état de fait incriminé. Dans la règle, les délits sont sanctionnés d'une peine privative de liberté ou d'une peine pécuniaire (cf. art. 10 al. 3 CP). Il est vrai qu'une peine privative de liberté ferme de moins de six mois n'entre qu'exceptionnellement en ligne de compte. Elle n'est possible que si les conditions de l'octroi du sursis au sens de l'art. 42 CP ne sont pas remplies et qu'il faille simultanément admettre qu'une peine pécuniaire ou un travail d'intérêt général ne pourront être exécutés (art. 41 CP). En édictant cette disposition, le législateur a institué un ordre légal de priorité en faveur des sanctions non privatives de liberté. Le tribunal doit ainsi toujours examiner d'abord si une peine pécuniaire ferme peut être prononcée. Celle-ci doit pouvoir être appliquée même aux personnes ayant une faible capacité de revenu. Son exécution doit a priori procéder d'un paiement spontané et non résulter d'une exécution forcée par voie de poursuite. Il s'ensuit que l'exécution de la peine pécuniaire n'est pas rendue impossible du seul fait qu'il apparaît que l'on ne pourra en obtenir le paiement dans une telle procédure. Par ailleurs, avec l'accord de l'intéressé, le travail d'intérêt général a la priorité dans tous les cas sur la peine pécuniaire. On peut toutefois reconnaître de rares exceptions lorsque la condamnation à une peine pécuniaire n'est pas envisageable pour des motifs relevant de la personne de l'auteur. L'impossibilité d'exécuter une peine pécuniaire ne doit cependant pas être admise à la légère, car la loi exige qu'il soit tenu compte pour fixer la quotité de la peine de la situation personnelle et économique (art. 34 al. 2 CP). Lorsqu'il est exceptionnellement justifié de l'admettre dans le cas d'espèce, le tribunal est appelé à décider si un travail d'intérêt général peut être ordonné à la place d'une courte peine privative de liberté (cf. ATF 134 IV 97 consid. 4 et 6).
4.2 Le 4 décembre 2002, le recourant a été condamné à une amende de 800 fr. pour dommages à la propriété et infractions à la LCR. Le 16 août 2007, il a été condamné à une peine pécuniaire de 27 jours-amende avec sursis pendant deux ans, à un travail d'intérêt général de 40 heures et à une amende de 1'000 fr. pour violation grave des règles de la circulation routière. Le 8 février 2008, il a été déclaré coupable de dommages à la propriété, injures et voies de fait commis à l'encontre de Y._ et condamné à 120 heures de travail d'intérêt général avec sursis pendant trois ans, sursis subordonné à la règle de conduite lui imposant de s'abstenir de contacter ou d'importuner de quelque manière que ce soit Y._ et sa fille. Dans le cadre de l'instruction de cette affaire, l'intéressé a été mis en détention préventive durant six jours. En dépit de ce sursis et de cette règle de conduite fixée au mois de février 2008, le recourant a réitéré ses agissements coupables à l'encontre de son ex-épouse. Dans le cadre de l'instruction de la présente affaire, il a, une nouvelle fois, été mis en détention durant 13 jours et rendu attentif au fait qu'il serait arrêté en cas de non respect des conditions posées à sa mise en liberté. En dépit de ces éléments, à savoir de ces précédentes condamnations, des sursis accordés, des périodes de détentions préventives subies et d'une procédure pendante, une nouvelle instruction a été ouverte contre le recourant pour des actes commis à l'encontre de Y._ et sa mise en détention une nouvelle fois ordonnée.
Il résulte de ce qui précède que la seule perspective de devoir exécuter une peine pécuniaire ou un travail d'intérêt général n'a aucun effet dissuasif sur le recourant. Au contraire, ce dernier, malgré notamment ses précédentes condamnations et les avertissements donnés, a réitéré son comportement délictueux au préjudice de son ex-épouse. Dans ces conditions, la Cour pénale n'a pas violé le droit fédéral en prononçant une courte peine privative de liberté à l'encontre du recourant, les autres sanctions n'ayant eu aucun effet dissuasif et étant par conséquent dénuées de toute efficacité. Le grief soulevé doit donc être rejeté.
5. Invoquant l'art. 297 CPP/JU, le recourant requiert des indemnités de 2'600 fr. pour détention injustifiée et de 3'500 fr. pour tort moral.
5.1 Aux termes de l'art. 297 CPP/JU, tout jugement d'acquittement doit porter également sur la question d'une indemnité au prévenu. L'indemnité comprend l'indemnisation du préjudice matériel et moral causé par la procédure et celle des frais de défense. Elle peut être refusée ou réduite si le prévenu a provoqué, par un comportement fautif, son inculpation ou sa détention, ou entravé les opérations d'instruction, même s'il a subi un préjudice important (al. 1). Le prévenu ne peut réclamer d'indemnité qu'à l'Etat; toutefois, la partie plaignante ou le dénonciateur qui ont agi de mauvaise foi ou par légèreté peuvent être rendus responsables en tout ou en partie de l'indemnité allouée (al. 2, 1ère phrase).
La violation du droit cantonal de procédure ne constitue pas en soi un motif de recours (cf. art. 95 LTF). L'application de ce droit peut toutefois être contestée sous l'angle de sa conformité au droit constitutionnel, notamment à l'art. 9 Cst., qui consacre l'interdiction de l'arbitraire. Subséquemment, la motivation d'un tel grief doit répondre aux exigences de l'art. 106 al. 2 LTF. Si le recourant entend se plaindre d'une application arbitraire du droit cantonal, il doit donc démontrer que la décision attaquée est non seulement discutable ou critiquable, mais manifestement insoutenable, et cela tant dans sa motivation que dans son résultat (ATF 132 III 209 consid. 2.1 p. 211).
5.2 La Cour pénale a relevé que c'était bien le comportement illicite du recourant envers son ex-épouse qui avait provoqué le dépôt des plaintes et l'ouverture de la procédure pénale, qu'aucune publicité particulière n'avait été donnée à cette affaire et que l'intéressé n'avait dès lors pas souffert de se voir reprocher à tort les infractions dont il avait été libéré ou auxquelles il n'avait pas été donné suite, ces infractions n'ayant pas à elles seules motivé sa mise en détention. Elle a conclu qu'il ne se justifiait donc pas d'allouer au recourant une indemnité à ce titre. S'agissant de la plainte déposée par Z._, la Cour pénale a considéré que rien ne permettait d'établir que celui-ci avait agi de mauvaise foi ou par légèreté, que les allégués du recourant selon lesquels Z._ aurait déposé plainte afin de renforcer la position de Y._ en procédure n'étaient étayés par aucun élément, que l'intéressé n'établissait pas avoir subi un préjudice particulier et qu'il ne saurait se voir allouer une indemnité à quelque titre que ce soit compte tenu du comportement illicite dont il avait fait preuve.
Dans son argumentation, le recourant n'établit pas, conformément aux exigences de motivation de l'art. 106 al. 2 LTF, que le raisonnement précité procéderait d'une application arbitraire du droit cantonal de procédure. Certes, il invoque l'art. 297 CPP/JU. Il n'explique toutefois aucunement en quoi l'argumentation qui lui a été opposée ci-dessus procéderait d'une application arbitraire du droit cantonal invoqué. Le grief est par conséquent irrecevable.
6. Invoquant une application arbitraire de l'art. 302 CPP/JU, le recourant soutient que, dans la mesure où il a été libéré, les honoraires de son mandataire doivent être pris en charge en plein et non au tarif de l'assistance judiciaire par la partie plaignante, respectivement l'Etat.
6.1 Aux termes de l'art. 302 CPP/JU, la partie plaignante qui succombe supporte, en règle générale, les frais de défense du prévenu lorsque ce dernier en réclame, à moins qu'il ne paraisse inéquitable de les mettre à la charge de la partie plaignante. En l'absence de partie plaignante, l'Etat supporte les dépens du prévenu acquitté; l'article 297, alinéa 1, deuxième phrase, est réservé.
6.2 S'agissant des dépens, la Cour pénale a considéré que la partie de la procédure ayant trait aux infractions pour lesquelles le recourant avait été libéré ou auxquelles il n'avait pas été donné suite n'avait pas occasionné de frais spéciaux ou de préjudice particulier pour l'intéressé, qu'il était inéquitable de les mettre à charge de Z._ et que, globalement et dans la mesure où le recourant était condamné, il ne se justifiait pas d'allouer à celui-ci une pleine et entière indemnité de dépens à payer par l'Etat pour cette partie de la procédure.
Dans son argumentation, le recourant ne fait que relever qu'il a été libéré des préventions dont il faisait l'objet suite à la plainte déposée par Z._, ce qui n'est pas contesté, et que, dans cette mesure, les honoraires de son mandataire devraient être mis à la charge du plaignant, respectivement de l'Etat. Ce faisant, il ne démontre aucunement en quoi l'appréciation des juges cantonaux à ce sujet procéderait d'une application arbitraire du droit cantonal de procédure. En particulier, il ne conteste pas qu'il serait inéquitable de mettre des frais à la charge de Z._. Insuffisamment motivée, la critique est irrecevable au regard de l'art. 106 al. 2 LTF.
7. Le recours doit ainsi être rejeté dans la mesure où il est recevable. Comme ses conclusions étaient d'emblée vouées à l'échec, le recourant doit être débouté de sa demande d'assistance judiciaire (art. 64 al. 1 et 2 LTF) et supporter les frais de justice (art. 65 et 66 al. 1 LTF), réduits à 1'600 fr. compte tenu de sa situation financière.
La cause étant tranchée, la requête d'effet suspensif devient sans objet.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, fixés à 1'600 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour pénale du Tribunal cantonal du canton du Jura.
Lausanne, le 4 janvier 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Favre Cherpillod