Faits:
A. A.a C._, née en 1999, et D._, né en 2001, sont les enfants, nés hors mariage, de B._ et de A._. Ce dernier est également le père de deux filles mineures qu'il a eues avec sa compagne actuelle.
A.b Le 25 juin 2003, les parents se sont séparés. Par convention approuvée le 23 novembre 2004 par la Justice de paix du district de Vevey, les parents sont convenus d'un droit de visite du père sur les enfants s'exerçant une semaine sur deux, du vendredi à 19h00 au vendredi soir suivant. La mère habitait alors à E._ (VD) et le père à F._ (VS).
B. Le 4 septembre 2009, le père a interpellé la Justice de paix du district du Jura-Nord vaudois (ci-après: la Justice de paix) invoquant le fait que la "garde alternée" devenait impossible à la suite du déménagement de la mère à G._ (VD) et du sien à H._ (FR).
Par requête du 29 décembre 2009, la mère a saisi la Justice de paix afin que le droit de visite du père sur ses enfants s'exerce un week-end sur deux, du vendredi à 17h00 au dimanche à 19h00, durant la moitié des vacances scolaires et alternativement à Noël ou à Nouvel-An et à Pâques ou à Pentecôte.
B.a Après avoir entendu les parents lors d'une audience le 28 avril 2010, la Juge de paix du district du Jura-Nord vaudois (ci-après: la juge de paix) a rendu le 10 mai 2010 une ordonnance de mesures provisionnelles accordant au père un droit de visite sur ses enfants s'exerçant provisoirement les premier, troisième et quatrième week-end du mois, du vendredi à 17h00 au dimanche à 19h00, durant la moitié des vacances scolaires et alternativement à Noël ou à Nouvel-An, à Pâques ou à Pentecôte. Elle a aussi confié au Service de protection de la jeunesse (ci-après: SPJ) un mandat d'enquête en fixation du droit de visite, en le chargeant d'entendre les enfants.
L'assistante sociale auprès du SPJ a rendu son rapport le 22 décembre 2010. Le SPJ a suggéré, premièrement, l'instauration d'un droit de visite du père à raison de trois week-end par mois selon les disponibilités de celui-ci, ainsi que la moitié des vacances scolaires, deuxièmement, la limitation des contacts téléphoniques entre le père et ses enfants, à raison de trois à quatre par semaine, et troisièmement le prononcé d'un mandat de surveillance au sens de l'art. 307 al. 3 CC, confié au SPJ.
Lors de l'audience du 14 avril 2011 de la Justice de paix, la mère a confirmé les conclusions de sa requête et le père a conclu à leur rejet. Les deux parents se sont opposés à une mesure de surveillance judiciaire.
B.b La Justice de paix a, par décision du 14 avril 2011, accordé au père un droit de visite s'exerçant un week-end sur deux, du vendredi 18h00 au dimanche 18h00, la moitié des vacances scolaires, et alternativement à Noël ou à Nouvel-An, à Pâques ou à Pentecôte, limité à deux les appels téléphoniques hebdomadaires et institué une mesure de surveillance à forme de l'art. 307 CC en faveur des enfants, en désignant le SPJ en qualité de surveillant.
B.c Statuant sur recours du père, la Chambre des tutelles du Tribunal cantonal du canton de Vaud (ci-après: la Chambre des tutelles) a confirmé cette décision par arrêt du 28 septembre 2011.
C. Par acte du 31 octobre 2011, le père interjette un recours en matière civile au Tribunal fédéral. Il conclut principalement à la réforme de l'arrêt querellé en ce sens que son droit de visite s'exerce les premier, troisième et quatrième week-end de chaque mois, du vendredi 17h00 au dimanche 19h00, la moitié des vacances scolaires et alternativement à Noël ou à Nouvel-An, à Pâques ou à Pentecôte; subsidiairement, il conclut au renvoi de la cause à l'instance cantonale. A l'appui de ses conclusions, le recourant invoque l'interdiction de l'arbitraire dans l'établissement des faits et l'appréciation des preuves, ainsi que dans l'application du droit, soutient que l'autorité précédente a violé les art. 273 al. 3 CC et 243 aCPC/VD, son droit d'être entendu, ainsi que l'égalité de traitement et des armes. Il sollicite au préalable l'octroi de l'effet suspensif au recours et le bénéfice de l'assistance judiciaire.
Invitées à se déterminer sur la requête d'effet suspensif, la mère s'y oppose en substance et la Chambre des tutelles s'en remet à justice. Des réponses sur le fond n'ont pas été requises.
D. Par ordonnance du 21 novembre 2011, la Présidente de la IIe Cour de droit civil du Tribunal fédéral a refusé l'effet suspensif au recours.
Considérant en droit:
1. L'arrêt entrepris, qui a pour objet la réglementation du droit de visite du parent non marié qui n'a pas la garde des enfants, est une décision prise en application de normes de droit public dans une matière connexe au droit civil (art. 72 al. 2 let. b ch. 7 LTF; arrêts 5A_457/2009 du 9 décembre 2009 consid. 1.1; 5A_339/2009 du 29 septembre 2009 consid. 1.1). Comme la question soumise au Tribunal fédéral est de nature non pécuniaire, le recours est ouvert indépendamment de la valeur litigieuse (arrêts 5A_366/2010 du 4 janvier 2011 consid. 1.1, 5D_41/2007 du 27 novembre 2007 consid. 2.3). Par ailleurs, le recours a été interjeté dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi, par une partie ayant pris part à la procédure devant l'autorité précédente et justifiant d'un intérêt à la modification ou à l'annulation de la décision attaquée (art. 76 al. 1 LTF), contre une décision finale (art. 90 LTF), rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al.1 et 2 LTF). Le recours en matière civile est en principe recevable de ce chef.
2. 2.1 Le recours en matière civile peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Compte tenu des exigences de motivation posées, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), à l'art. 42 al. 2 LTF, le Tribunal fédéral n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une juridiction de première instance, toutes les questions juridiques pouvant se poser lorsqu'elles ne sont plus discutées devant lui (ATF 135 III 397 consid. 1.4 p. 400; 134 III 102 consid. 1.1 p. 104 s.). En outre, le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si ce grief a été soulevé et motivé par le recourant (ATF 137 II 305 consid. 3.3 p. 310 s.; 133 II 249 consid. 1.4.2 p. 254). Le recourant qui se plaint de la violation de tels droits doit ainsi satisfaire au principe d'allégation, en indiquant précisément quelle disposition constitutionnelle a été violée et en démontrant, par une argumentation précise, en quoi consiste la violation (art. 106 al. 2 LTF; ATF 133 IV 286 consid. 1.4 p. 287; 133 II 249 consid. 1.4.2 p. 254). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (ATF 133 II 396 consid. 3.1 p. 399 in fine).
2.2 Le Tribunal fédéral conduit son raisonnement sur la base des faits établis par la juridiction précédente (art. 105 al. 1 LTF); il ne peut s'en écarter que si ces faits ont été établis d'une manière manifestement inexacte - à savoir arbitraire (ATF 135 II 145 consid. 8.1 p. 153; 135 III 127 consid. 1.5 p. 129 s., 397 consid. 1.5 p. 401) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Le recourant ne peut se plaindre de constatations de fait arbitraires que si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Il ne peut pas se borner à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; il doit plutôt indiquer de façon précise en quoi ces constatations sont contraires au droit ou entachées d'une erreur indiscutable. Une critique qui ne satisfait pas à cette exigence est irrecevable (ATF 136 II 489 consid. 2.8 p. 494; 133 II 249 consid. 1.4.3 p. 254 s.; 130 I 258 consid. 1.3 p. 261 s.).
3. La Chambre des tutelles a constaté que le rapport d'évaluation du SPJ du 22 décembre 2010 fait état d'inquiétudes pour le bien-être des enfants et pour leur avenir si la situation n'évolue pas, ceux-ci étant tiraillés entre leur vie et leur souhait de faire plaisir à leur père qui leur exprime sa souffrance. Les juges cantonaux ont retenu qu'il résulte du rapport du SPJ que leurs demi-soeurs [c'est-à-dire: les deux filles que le père a eues avec sa compagne actuelle] manquaient par moment aux enfants des parties, mais que le père entretenait cet ennui par de constants appels téléphoniques et qu'il faisait subir une pression sur ceux-ci, les empêchant de centrer leur vie à leur domicile. La décision critiquée mentionne en outre que le SPJ a jugé que les enfants étaient bien intégrés à l'école et à l'aise chez leur mère. Les juges cantonaux ont relevé que, toujours selon le SPJ, les enfants devaient rapidement être informés d'une décision claire quant à leur lieu de vie et que le père devait cesser de mettre ses enfants dans un conflit de loyauté avant que ceux-ci ne le manifestent par des comportements ou maux divers. Au terme de son expertise, le SPJ a suggéré à l'autorité judiciaire de "maintenir l'autorité parentale et la garde à Madame B._, [d']instaurer un droit de visite à raison de trois week-ends par mois, pour autant que le papa soit disponible, ainsi que la moitié des vacances, [d]e limiter les téléphones entre ce père et ses enfants" et de prononcer une mesure de surveillance au sens de l'art. 307 al. 3 CC. L'autorité précédente, en se fondant largement sur le rapport précité et sur les circonstances actuelles, à savoir le domicile de chacun des parents, leur comportement par rapport aux enfants et leur disponibilité notamment les week-end, a octroyé au père un droit de visite s'exerçant deux week-end par mois, ainsi que la moitié des vacances scolaires et alternativement à Noël ou à Nouvel-An, à Pâques ou à Pentecôte.
4. Le recourant fait grief à la cour cantonale d'avoir violé son droit d'être entendu garanti par les art. 27 al. 2 de la Constitution du canton de Vaud du 14 avril 2003 (ci-après: Cst. VD; RS-VD 101.01), 29 al. 2 Cst. et 6 CEDH. Il fait valoir que la cour cantonale devait donner "l'opportunité" tant à l'expert qu'à lui-même de s'exprimer sur la prise de position de la mère, laquelle aurait conclu à l'audience du 14 avril 2011 à un droit de visite s'exerçant deux week-end par mois parce qu'elle travaille désormais à 100%. En agissant de la sorte, l'autorité précédente l'aurait privé de toute possibilité de prendre position sur ce motif erroné. Il considère que son droit d'être entendu a également été violé au regard de l'obligation de motiver la décision, la Chambre des tutelles n'étant, d'après lui, pas entrée en matière sur "l'absence évidente de motivation" dont il se plaignait.
4.1 Le recourant invoque le droit d'être entendu, tant sous l'angle du droit à se déterminer sur les pièces du dossier que de celui à obtenir une décision motivée. Il s'agit là d'un grief de nature formelle (ATF 127 V 431 consid. 3d/aa p. 437 s.), qu'il convient par conséquent d'examiner avant tout autre (ATF 135 I 279 consid. 2.6.1 p. 285; 124 I 49 consid. 1 p. 50) et avec une cognition libre (ATF 121 I 54 consid. 2a p. 57 et les arrêts cités).
Il convient d'emblée de constater que le recourant n'a ni allégué ni démontré que l'art. 27 al. 2 Cst. VD aurait une portée plus large que les art. 29 al. 2 Cst. et 6 CEDH, de sorte que le grief de violation du droit d'être entendu doit être examiné exclusivement à l'aune de ces dernières dispositions (ATF 126 I 15 consid. 2a p. 16; arrêt 2C_932/2010 du 24 mai 2011 consid. 2.1). Le droit d'être entendu garantit notamment le droit pour une partie à un procès de prendre connaissance de toutes les pièces du dossier et de toute observation communiquée au tribunal, ainsi que de pouvoir s'exprimer à leur propos, dans la mesure où elle l'estime nécessaire (ATF 135 II 286 consid. 5.1 p. 293; 133 I 100 consid. 4.3 p. 102; 132 I 42 consid. 3.3.2 p. 46), que l'élément nouvellement versé au dossier contienne ou non de nouveaux éléments de fait ou de droit, et qu'il soit ou non concrètement susceptible d'influer sur le jugement à rendre. Il appartient aux parties, et non au juge, de décider si une prise de position ou une pièce nouvellement versée au dossier contient des éléments déterminants qui appellent des observations de leur part. Ce droit à la réplique vaut pour toutes les procédures judiciaires. Toute prise de position ou pièce nouvelle versée au dossier doit dès lors être communiquée aux parties pour leur permettre de décider si elles veulent ou non faire usage de leur faculté de se déterminer (ATF 133 I 100 consid. 4.3 ss p. 102 ss, 98 consid. 2.2 p. 99; 132 I 42 consid. 3.3.2 - 3.3.4 p. 46 s.; arrêts de la Cour européenne des droits de l'homme dans les causes Schaller-Bossert c. Suisse du 28 octobre 2010 § 39 et Nideröst-Huber c. Suisse du 18 février 1997 § 24).
La jurisprudence a également déduit du droit d'être entendu le devoir pour le juge de motiver sa décision, afin que le destinataire puisse en saisir la portée, le cas échéant, l'attaquer en connaissance de cause et que l'autorité de recours puisse exercer son contrôle (ATF 133 III 439 consid. 3.3 p. 445 s. et les arrêts cités). Pour répondre à ces exigences, il suffit que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision; il n'est pas tenu de discuter tous les arguments soulevés par les parties, mais peut se limiter à ceux qui lui apparaissent pertinents (ATF 136 I 229 consid. 5.2 p. 236; 136 V 351 consid. 4.2 p. 355 et les références).
4.2 En l'occurrence, le rapport du SPJ contenant la proposition de règlement du droit aux relations personnelles a été versé au dossier de la cause au mois de décembre 2010. Le recourant a ainsi pu s'exprimer sur le contenu de cette expertise et sur la prise de position subséquente de la mère, tant à l'audience du 14 avril 2011 devant le premier juge que dans son mémoire de recours devant l'autorité cantonale de recours. Il ne ressort pas de la décision querellée, ni du présent recours, que le père ait requis un complément d'expertise, une nouvelle expertise ou l'audition de l'expert, ni qu'il ait été privé de la possibilité de le faire. Par ailleurs, il apparaît que, interpellé par l'autorité précédente, l'expert n'a pas souhaité modifier ses conclusions à la suite de la prise de position de la mère et de la décision de première instance. Quoi qu'il en soit, le recourant ne démontre pas qu'il a été empêché de s'exprimer, en particulier qu'il n'a pas été en mesure de faire valoir devant les juges précédents "l'inexistant changement de situation professionnel" de la mère.
S'agissant de la motivation critiquée, il apparaît que les juges cantonaux ont expliqué en détail sur plusieurs pages la manière dont ils ont fixé le droit aux relations personnelles du père et mentionné quels étaient les éléments pertinents, en particulier le planning du père versé au dossier dont il ressort que celui-ci n'a pas régulièrement congé trois week-end par mois.
5. Se prévalant des art. 6 § 1 CEDH et 29 al. 1 Cst. garantissant l'égalité des armes et de traitement, tel que ce principe découle du droit à un procès équitable, le recourant estime que les juges cantonaux se seraient "focalisés sur les prétentions égoïstes" de la mère, reléguant le père "au rang de simple géniteur". Il affirme qu'il a suffi à la mère d'exposer ses conclusions "pour obtenir l'ascendant sur les demi-soeurs, le père, mais également l'expert".
Tel qu'il est ancré aux art. 29 al. 1 Cst. et 6 § 1 CEDH, le principe d'égalité des armes requiert que chaque partie se voie offrir une possibilité raisonnable de présenter sa cause dans des conditions qui ne la placent pas dans une situation de net désavantage par rapport à son adversaire (ATF 122 V 157 consid. 2b p. 163 s.). Il s'ensuit que, contrairement à l'opinion exprimée dans le recours, la Chambre des tutelles ne viole pas la garantie d'un procès équitable - comportant «l'égalité des armes et de traitement» - du seul fait qu'elle accueille les conclusions d'une partie et rejette celles de l'autre, alors que les parties ont toutes deux participé aux audiences assistées de leur conseil respectif et pu déposer un mémoire écrit devant l'autorité cantonale de recours.
6. Le recourant se plaint ensuite de ce que l'autorité précédente a établi les faits de manière inexacte et incomplète, puis apprécié les éléments du dossier de manière arbitraire (art. 9 Cst.). Il affirme que la Chambre des tutelles s'est bornée à prendre en considération des éléments non pertinents, ainsi le conflit de loyauté dans lequel le père mettrait ses enfants, la distance entre les domiciles des parents, l'intégration des enfants dans le milieu scolaire et le souhait de la mère de passer deux week-end avec ses enfants au motif d'un changement de situation professionnelle de celle-ci; ce faisant les juges cantonaux se seraient écartés du critère principal lors de la fixation du droit aux relations personnelles, à savoir l'intérêt des enfants. En ce qui concerne la situation professionnelle de la mère et son propre comportement à l'égard des enfants, le recourant estime que la cour cantonale a "allégué ces faits", lesquels seraient inexistants ou erronés et contredits notamment par l'expertise judiciaire, afin de justifier des conclusions injustes et choquantes.
6.1 En matière de constatations de fait et d'appréciation des preuves, le Tribunal fédéral se montre réservé vu le large pouvoir qu'il reconnaît en ce domaine aux autorités cantonales (ATF 120 Ia 31 consid. 4b p. 40; 104 Ia 381 consid. 9 p. 399). Il n'intervient, du chef de l'art. 9 Cst., que si le juge du fait n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans motifs objectifs de tenir compte de preuves pertinentes ou a opéré, sur la base des éléments recueillis, des déductions insoutenables (ATF 136 III 552 consid. 4.2 p. 560; 134 V 53 consid. 4.3 p. 62; 133 II 249 consid. 1.4.3 p. 254 s.; 129 I 8 consid. 2.1 p. 9; 118 Ia 28 consid. 1b p. 30); encore faut-il que la correction du vice soit susceptible d'influer sur le sort de la cause.
6.2 En l'occurrence, les éléments cités par le recourant ressortent de l'arrêt cantonal et du dossier de la cause, principalement du rapport du SPJ. La Chambre des tutelles a apprécié les preuves pertinentes administrées à la lumière de l'intérêt actuel des enfants. Elle ne s'est en réalité pas écartée des conclusions du rapport d'expertise - favorables à l'octroi d'un droit de visite s'exerçant trois week-end par mois, sous la réserve expresse de la disponibilité du père durant ces week-end -, compte tenu des disponibilités effectives du père et de la mère durant les week-end et la semaine. Le recourant ne formule au demeurant aucun grief sur le contenu de l'expertise. S'agissant de "l'inexistant changement de situation professionnel", contrairement à ce qu'affirme le recourant, ni la mère, ni l'autorité précédente n'ont prétendu que le fait que la mère travaille à temps complet soit un événement nouveau. La mère a uniquement confirmé les conclusions initiales de sa requête qui ne correspondaient pas à la situation provisoire qu'elle a consenti à tolérer en cours de procédure, et expliqué sa position par le fait que son emploi lui laisse peu de temps avec les enfants en semaine. Quant au comportement du père, il ne ressort pas de l'arrêt attaqué que celui-ci se soit modifié; le SPJ a au contraire confirmé les conclusions de son rapport devant l'autorité cantonale de recours. Quoi qu'il en soit, le recourant n'allègue pas, ni a fortiori ne démontre que seul le nombre d'appels téléphoniques hebdomadaire a une influence significative sur le comportement général qui lui est reproché, en particulier sur le conflit de loyauté dans lequel il place ses enfants, partant que le contenu de l'expertise serait entaché d'une erreur de fait. Le grief d'arbitraire dans l'établissement des faits et l'appréciation des preuves est ainsi mal fondé.
7. Dans un autre moyen, le recourant reproche à la cour cantonale d'avoir fait preuve d'arbitraire dans l'application de la loi (art. 9 Cst.). Il expose que la Chambre des tutelles "aurait dû relever immédiatement [l']absence de motivation" dans la décision de première instance, la jurisprudence récente ayant rappelé qu'il est arbitraire d'écarter les déclarations d'un expert sans aucune discussion. La cour cantonale a ensuite, selon le recourant, "supplé[é] à cette carence en se subrogeant à la Justice de Paix pour motiv[er] «après coup» la décision querellée et non motivée" et "a «inventé» deux motifs à la décision contestée de l'autorité de première instance".
En tant que le recourant considère que l'autorité précédente s'est écartée des conclusions et du contenu de l'expertise, sans motiver "de façon claire et précise les raisons pour lesquelles elle agissa[i]t de la sorte", le reproche du recourant est infondé puisque, comme précédemment exposé (cf. supra consid. 6.2) la cour cantonale se réfère en définitive au rapport d'expertise, par exemple en ce qui concerne la condition de disponibilité du père durant tous les week-end du droit de visite. Pour le surplus, cette critique se confond avec le grief précédemment examiné de la violation du droit à une décision motivée (art. 29 al. 2 Cst.; cf. supra consid. 4), en sorte qu'elle doit subir le même sort, pour les mêmes motifs (consid. 4.2 in fine).
8. Estimant que la Chambre des tutelles n'a pas pris en compte les circonstances particulières du cas d'espèce, mais a créé une argumentation pour rejeter les conclusions de l'expert, le recourant se plaint de la violation de l'art. 273 al. 3 CC. Il estime qu'en s'écartant des conclusions prises par le SPJ, mais particulièrement en justifiant sa décision sur le litige opposant les parents, la cour cantonale n'aurait "pas respecté les principes jurisprudentiels et légaux" relatifs à l'application de l'art. 273 al. 3 CC. Le recourant considère en outre que les juges précédents ont estimé à tort que la fixation du droit aux relations personnelles devait être uniquement fondée sur les circonstances actuelles. Il soutient que le déménagement de la mère ne devait pas avoir pour effet de réduire le droit de visite du père, de sorte que la décision est contraire aux intérêts évidents des enfants.
8.1 Aux termes de l'art. 273 CC, le parent qui ne détient pas l'autorité parentale ou la garde et l'enfant mineur ont réciproquement le droit d'entretenir les relations personnelles indiquées par les circonstances. Dans chaque cas, la décision doit être prise de manière à répondre le mieux possible aux besoins de l'enfant (ATF 117 II 353 consid. 3 p. 354 ss; 115 II 206 consid. 4a p. 209 et 317 consid. 2 p. 319), l'intérêt des parents étant relégué à l'arrière-plan.
L'appréciation des circonstances de fait pour fixer le droit aux relations personnelles de l'art. 273 CC, c'est-à-dire la détermination de leur portée juridique, est une question de droit. Le Tribunal fédéral s'impose toutefois une certaine retenue en la matière. Le juge du fait qui, par son expérience, connaît mieux les parties et le milieu dans lequel l'enfant évolue, dispose d'un large pouvoir d'appréciation en vertu de l'art. 4 CC. Le Tribunal fédéral n'intervient donc que si la décision a été prise sur la base de circonstances qui ne jouent aucun rôle selon l'esprit de la loi: tel est le cas si le juge écarte, sans aucun motif, des critères essentiels pour la décision ou si, à l'inverse, il se fonde sur des éléments dépourvus d'importance au regard du bien de l'enfant ou contrevenant aux principes du droit fédéral (ATF 120 II 229 consid. 4a p. 235; arrêt 5C.17/1991 du 19 juin 1001 consid. 2 non publié à l'ATF 117 II 353).
8.2 Dans son appréciation de la situation, l'autorité cantonale s'est fondée sur le rapport du SPJ, dont les conclusions ont été confirmées en instance cantonale de recours, sur l'audition des parents et les pièces versées au dossier. L'autorité cantonale a d'emblée relevé que les modalités antérieures d'exercice du droit de visite n'étaient pas déterminantes, au contraire des circonstances actuelles et de l'intérêt des enfants. L'autorité précédente n'a pas violé le droit en retenant que la mère pouvait déménager et que le droit de visite devait être adapté en conséquence puisque la faculté de déterminer le lieu de domicile de l'enfant est une prérogative du parent titulaire du droit de garde (ATF 136 III 353 consid. 3.2 p. 356 s.). La Chambre des tutelles ne s'est par ailleurs écartée ni des règles jurisprudentielles, ni des conclusions du SPJ. La cour précédente a tenu compte du comportement du père, tel que décrit dans le rapport du SPJ, de la distance entre les domiciles des parents qui plaidait en faveur d'un droit de visite moins étendu et de l'intégration des enfants dans leur nouvelle commune de domicile, notamment à l'école. La Chambre des tutelles a aussi pris en considération les horaires et les plannings de travail des parents, en particulier du père. Il résulte de ces pièces que celui-ci n'est en principe pas disponible trois week-end au cours d'un mois, ce qui rend difficile l'exercice du droit aux relations personnelles revendiqué. La cour cantonale a rappelé que les conclusions de l'expertise précisaient que le droit de visite suggéré supposait que le père soit disponible pour l'exercice de son droit de visite, condition qui n'est en l'espèce pas satisfaite et qui justifiait de s'écarter du droit de visite maximal proposé de l'avis même de l'expert. En conclusion, les juges précédents n'ont pas abusé de leur pouvoir d'appréciation et le grief de violation de l'art. 273 CC est mal fondé.
9. Le recourant soutient enfin que la Chambre des tutelles a violé l'art. 243 de l'ancien Code de procédure civile du canton de Vaud du 14 décembre 1966 (ci-après: CPC-VD), les juges cantonaux ayant omis de donner dans leur jugement les motifs de s'écarter de l'expertise du SPJ.
La violation du droit cantonal n'est pas un motif de recours au Tribunal fédéral, sous réserve des hypothèses visées à l'art. 95 let. c et d LTF et de la mauvaise application du droit cantonal constituant une violation du droit fédéral, parce qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels (ATF 133 III 462 consid. 2.3 p. 466). Dans le cas d'espèce, le recourant ne démontre pas de manière claire et détaillée que la mauvaise application du CPC-VD constituerait une violation des droits fondamentaux, de sorte que ce moyen est d'emblée irrecevable (art. 95 et 106 al. 2 LTF; cf. supra consid. 2.1 in fine; ATF 134 III 349 consid. 3 p. 352). Au demeurant, cette critique se confond en substance avec le grief de violation du droit d'être entendu fondé sur l'absence de motivation, lequel a déjà été rejeté (art. 29 al. 2 Cst.; cf. supra consid. 4).
10. Vu ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité. Les conclusions du recourant étant dépourvues de chances de succès, sa requête d'assistance judiciaire ne saurait être agréée (art. 64 LTF). Les frais judiciaires seront mis à la charge du recourant qui succombe (art. 66 al. 1 LTF). Il versera en outre une indemnité de dépens à l'intimée, laquelle s'est déterminée sur la requête d'effet suspensif et a eu gain de cause à cet égard (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire du recourant est rejetée.
3. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
4. Le recourant versera à l'intimée une indemnité de 150 fr., à titre de dépens.
5. Le présent arrêt est communiqué aux parties, à la Chambre des tutelles du Tribunal cantonal vaudois et au Service de protection de la jeunesse.
Lausanne, le 7 mars 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Carlin