Faits:
A. R._, mariée et mère de deux enfants en bas âge (nés en 2001 et 2004), travaillait au service de l'entreprise X._ SA comme contrôleuse. Le 21 décembre 2004, elle a résilié son contrat de travail pour le 31 décembre suivant. D'entente avec l'employeur, la fin des rapports de travail a été fixée au 31 janvier 2005. Elle s'est inscrite au chômage et a requis des indemnités journalières dès le 1er février 2005.
R._ a été reconnue apte au placement depuis le 7 mars 2005 (jugement du Tribunal cantonal jurassien du 26 janvier 2007). Par décision du 13 juin 2007, confirmée sur opposition le 24 juillet suivant, la Caisse de chômage Y._ a suspendu l'assurée dans son droit à l'indemnité de chômage à partir du 7 mars 2005 pour une durée de 31 jours, au motif qu'elle était au chômage par sa propre faute. Cette décision n'a pas été attaquée.
Le 21 juin 2007, le Service des arts et métiers et du travail du canton du Jura (SAMT) a rendu trois décisions par lesquelles il a prononcé une suspension du droit de l'assurée aux prestations de chômage pour une durée respectivement de 12, 40 et 47 jours. Dans la première décision (n° 211691304), il était reproché à R._ d'avoir effectué des recherches d'emploi insuffisantes avant le début de son chômage. Dans la deuxième (n° 211692395), d'avoir refusé un poste de travail convenable (avec un horaire de jour normal) offert par l'entreprise Z._ SA auprès de laquelle elle s'était présentée fin avril 2005. Enfin, dans la troisième (n° 211692888), d'avoir décliné peu de temps après une proposition d'engagement pour le même poste de travail par l'entremise de l'agence de placement V._ SA. L'assurée a formé opposition à l'encontre de ces trois décisions.
Par décision sur opposition du 23 mai 2008, le SAMT a confirmé la sanction de 12 jours fixée dans la décision n° 211691304 et annulé les deux autres décisions (n° 211692395 et n° 211692888), ramenant la durée de la suspension pour refus d'un travail convenable à 40 jours.
B. L'assurée a recouru contre cette dernière décision sur opposition devant le Tribunal cantonal jurassien, qui a partiellement admis son recours. La durée des suspensions a été réduite respectivement de 12 à 4 jours et de 40 à 33 jours (jugement du 10 mai 2009).
C. Le SAMT interjette un recours en matière de droit public. Il conclut, sous suite de frais, à l'annulation du jugement cantonal.
R._ conclut au rejet du recours. Le Secrétariat d'Etat à l'économie (seco) a renoncé à se déterminer.

Considérant en droit:
1. Le recours en matière de droit public (<ref-law>) peut être formé pour violation du droit au sens des art. 95 et 96 LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>). Le recours ne peut critiquer les constatations de fait des premiers juges que si elles ont été établies de manière manifestement inexacte ou en violation du droit au sens de l'<ref-law>, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>; également <ref-law>).
2. La juridiction cantonale ayant confirmé sur leur principe les sanctions prises à l'égard de l'assurée en application des art. 30 al. 1 let. c LACI (recherches d'emploi insuffisantes avant le début du chômage) et 30 al. 1 let. d LACI (refus d'un travail convenable), le litige porte uniquement sur le point de savoir si elle était fondée à réduire la durée des suspensions prononcées par le SAMT.
3. La durée de la suspension du droit à l'indemnité de chômage doit être proportionnelle à la gravité de la faute (<ref-law>). Aux termes de l'<ref-law>, la durée de la suspension dans l'exercice du droit à l'indemnité est de 1 à 15 jours en cas de faute légère (let. a), 16 à 30 jours en cas de faute de gravité moyenne (let. b) et 31 à 60 jours en cas de faute grave (let. c). Si l'assuré est suspendu de façon répétée dans son droit à l'indemnité pendant le délai-cadre d'indemnisation, la durée de suspension est prolongée en conséquence (<ref-law>). Il y a faute grave lorsque l'assuré abandonne un emploi réputé convenable sans être assuré d'obtenir un nouvel emploi ou lorsqu'il refuse un emploi réputé convenable (<ref-law>).
4. 4.1 En ce qui concerne la première sanction litigieuse, la juridiction cantonale a considéré que l'obligation de l'assurée de rechercher un travail avant le début de son chômage commençait le 21 décembre 2004, date à laquelle celle-ci avait résilié son contrat de travail, et non pas déjà avant comme l'avait retenu le SAMT. Durant ce mois, les possibilités de rechercher un emploi étaient limitées en raison des fêtes de fin d'année, mais l'assurée aurait néanmoins pu effectuer des démarches jusqu'au 24 décembre 2004. En janvier, il lui aurait suffi d'une recherche d'emploi supplémentaire pour répondre aux exigences posées par le SAMT. Par ailleurs, aucun élément au dossier ne permettait de retenir que l'assurée avait limité ses recherches à un travail de nuit. A l'aune de ces faits, l'autorité cantonale a jugé que la faute de l'assurée était légère et que rien ne justifiait d'aller au-delà du barème indicatif du seco, selon lequel des recherches insuffisantes durant un délai de congé de 1 mois devait être sanctionné par 4 jours de suspension au maximum. En particulier, il ne convenait pas d'aggraver la sanction en application de l'<ref-law> à cause de la suspension antérieure pour chômage fautif dès lors que les motifs à la base de ces sanctions étaient de nature différente et que le comportement sanctionné par le SAMT avait eu lieu bien avant que la caisse Y._ n'ait rendu sa décision.
4.2 Pour avoir refusé d'accepter le poste de travail chez Z._ SA, le tribunal cantonal a considéré que l'assurée n'encourait qu'une seule mesure de suspension, suivant en cela la solution adoptée par le SAMT en cours de procédure d'opposition. Les deux refus de l'intéressée étaient en effet intervenus dans un intervalle de temps très proche et apparaissaient comme l'expression d'un seul et même comportement. Ne disposant d'aucune excuse valable, R._ avait commis une faute grave justifiant une suspension d'une durée de 31 jours au minimum. Ici également, les juges cantonaux ont écarté les motifs invoqués par le SAMT à titre de circonstances susceptibles d'aggraver cette sanction. Entre autres arguments, ils ont retenu que l'<ref-law> n'était pas non plus applicable lorsque plusieurs suspensions étaient prononcées le même jour, car cela revenait à vider de son sens l'effet éducatif et dissuasif auquel tendait la sanction en empêchant l'assuré d'améliorer son comportement. Ils ont néanmoins rajouté 2 jours de suspension à la sanction minimale parce que le poste chez Z._ SA correspondait exactement aux qualifications professionnelles de l'assurée.
5. On doit donner raison au recourant lorsqu'il soutient que les premiers juges ont procédé à une interprétation erronée de l'<ref-law> en tant qu'ils n'ont pas tenu compte des antécédents de l'assurée. Le fait que les sanctions prononcées portent sur des faits différents n'est pas décisif. La disposition réglementaire prescrit en effet de sanctionner plus sévèrement un assuré qui a déjà fait l'objet d'une sanction antérieure sans égard à la nature des motifs de sanction retenus (voir DTA 1989 n° 7 p. 88). Quant à la question de savoir si une sanction peut être aggravée quand bien même l'assuré n'a pas été mis en situation de modifier son comportement après avoir pris connaissance d'une première suspension, elle appelle les remarques qui suivent. La sanction a certes un but dissuasif et éducatif. Les obligations du chômeur découlent cependant de la loi. Elles n'impliquent ni une information préalable (par exemple sur les recherches d'emploi pendant le délai de congé; cf. <ref-ruling> consid. 5b p. 233 et arrêt C 208/03 du 26 mars 2004 consid. 3.1 in DTA 2005 n° 4 p. 58), ni un avertissement préalable. Il ne se justifie pas de traiter différemment l'assuré qui fait l'objet de sanctions échelonnées dans le temps (et aggravées) de celui qui se voit infliger plusieurs sanctions rétroactives pour les mêmes comportements. Objectivement et subjectivement, les comportements fautifs sont les mêmes. Enfin, dans bien des cas, un cumul de sanctions intervient sans que l'assuré soit mis en situation de modifier son comportement, notamment en cas de chômage fautif et de recherches insuffisantes pendant le délai de congé (comme pour R._) ou encore en cas de recherches d'emploi insuffisantes au cours de deux périodes de contrôle successives. L'<ref-law> doit par conséquent également trouver application dans ce type de situation.
6. Les considérations qui précèdent conduisent le Tribunal fédéral à retenir la solution suivante.
6.1 La durée de la suspension pour recherches d'emploi insuffisantes sera relevée de 4 à 6 jours pour tenir compte du fait que l'assurée a déjà été sanctionnée antérieurement pour chômage fautif (cf. la décision de la caisse de chômage Y._). Pour le reste, on ne peut guère suivre le recourant. Au regard des constatations de fait établies par les juges cantonaux qui lient le Tribunal fédéral (<ref-law>), on ne voit pas que ceux-ci auraient procédé à une appréciation contraire au droit fédéral de la gravité de la faute de l'assurée en s'en tenant aux limites inférieures du barème indicatif du seco (sur les divers facteurs pouvant jouer un rôle dans le sens d'une atténuation ou d'une aggravation de la faute voir BORIS RUBIN, Assurance-chômage, Droit fédéral, Survol des mesures cantonales, procédure, 2ème éd., Zurich 2006, p. 454 ss). Le recourant n'en apporte pas la démonstration. On peut au demeurant constater que la plupart des manquements relevés par le SAMT pour justifier un allongement de la durée des suspensions se confondent avec le comportement constitutif des sanctions en cause. Il en va ainsi du reproche fait à l'assurée de n'avoir entrepris que des visites d'entreprise avant le début de son chômage et toutes les circonstances entourant son refus d'accepter le poste de travail proposé chez Z._ SA.
6.2 S'agissant de la sanction pour refus d'un travail convenable, on peut s'en tenir à la durée de 33 jours fixée par les premiers juges même en considération des antécédents de l'assurée, en particulier la suspension pour recherches d'emploi insuffisantes rendue le même jour par le SAMT. C'est en effet à tort que les premiers juges ont allongé de 2 jours la sanction minimale pour faute grave au motif que le poste de travail chez Z._ SA correspondait parfaitement aux qualifications de l'assurée. Un travail est réputé convenable ou ne l'est pas au sens de l'<ref-law>, de sorte que le motif retenu n'est pas pertinent. Tout bien considéré, la suspension de 33 jours apparaît appropriée aux circonstances du cas d'espèce, d'autant que l'assurée se verra finalement suspendue dans son droit à l'indemnité de chômage pour une durée totale de 70 jours.
7. Tout compte fait, le recourant n'obtient que très partiellement gain de cause. Il n'y a cependant pas lieu de prélever des frais judiciaires à sa charge (<ref-law>; <ref-ruling> consid. 4.5 p. 639). Par ailleurs, aucun frais sera mis à la charge de l'intimée, qui a droit à une indemnité de dépens réduite (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis.
2. Le jugement du 10 mai 2009 du Tribunal cantonal jurassien (Chambre des assurances) est réformé en ce sens que la durée de la suspension du droit à l'indemnité journalière de R._ pour recherches d'emploi insuffisantes est fixée à 6 jours.
3. Il n'est pas perçu de frais judiciaires.
4. Le recourant versera à l'intimée la somme de 1'800 fr. à titre d'indemnité de dépens pour la procédure fédérale.
5. Le présent arrêt est communiqué aux parties, au Tribunal cantonal jurassien, Chambre des assurances, et au Secrétariat d'Etat à l'économie.
Lucerne, le 4 mai 2010
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Ursprung von Zwehl