Faits:
A. A._ et dame B._ se sont mariés en 1995. Deux enfants sont issus de leur union: C._, née en 1996 et D._, né en 1999.
B. Par jugement du 15 décembre 2009, le Tribunal civil de l'arrondissement de l'Est vaudois a prononcé le divorce des époux, attribué l'autorité parentale et la garde des enfants à la mère et réglé le droit de visite du père.
A._ a recouru contre ce jugement auprès de la Chambre des recours du Tribunal cantonal vaudois. Dans ses dernières conclusions, il admettait l'attribution de la garde à la mère, mais demandait que l'autorité parentale soit conjointe.
Par arrêt du 9 février 2010, l'autorité saisie a rejeté le recours. Elle a relevé que l'autorité parentale conjointe nécessitait une requête commune, qui faisait défaut en l'espèce.
C. Par écriture du 1er juin 2010, A._ forme un recours au Tribunal fédéral. Il conclut au prononcé de l'autorité parentale conjointe. Il requiert en outre le bénéfice de l'assistance judiciaire pour la procédure fédérale.
La cour cantonale se réfère aux considérants de son arrêt. L'intimée propose principalement le rejet du recours, voire son irrecevabilité. Elle demande subsidiairement le renvoi de la cause pour complément d'instruction et nouvelle décision. Elle sollicite également le bénéfice de l'assistance judiciaire pour la procédure fédérale.
Considérant en droit:
1. 1.1 La présente cause, rendue en matière civile (art. 72 al. 1 LTF), a pour objet l'attribution de l'autorité parentale conjointe aux parents divorcés. Il s'agit d'une contestation non pécuniaire. Déposé en temps utile (art. 100 al. 1 LTF) contre une décision finale (art. 90 LTF) prise en dernière instance cantonale et sur recours par le tribunal supérieur du canton de Vaud (art. 75 LTF), le recours en matière civile est recevable.
1.2 Le recours en matière civile peut être formé pour violation du droit fédéral - qui comprend les droits constitutionnels (art. 95 let. a LTF; ATF 133 III 446 consid. 3.1 p. 447, 462 consid. 2.3 p. 466) -, ainsi que du droit international (art. 95 let. b LTF). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties (ATF 133 III 545 consid. 2.2 p. 550). Il ne connaît de la violation des droits fondamentaux - lesquels englobent non seulement les droits garantis par la Constitution fédérale elle-même (pour ceux garantis par les Constitutions cantonales: cf. art. 95 let. c LTF), mais aussi ceux garantis par la CEDH, voire d'autres conventions internationales (ATF 137 I 77 consid. 1.3.1 p. 79) - , que si ce grief a été soulevé et motivé par le recourant (art. 106 al. 2 LTF; ATF 134 I 83 consid. 3.2 p. 88; 133 II 249 consid. 1.4.2 p. 254). Si le recourant se plaint de la violation de tels droits, il doit ainsi satisfaire au principe d'allégation (Rügeprinzip, principio dell'allegazione), en indiquant précisément quelle disposition constitutionnelle ou légale a été violée et en démontrant, par une argumentation précise, en quoi consiste la violation (ATF 133 IV 286 consid. 1.4 p. 287; 133 II 249 précité). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (ATF 133 II 396 consid. 3 p. 399/400).
2. L'intimée relève que les conclusions du recourant ne correspondent pas à celles prises « en fin de procédure de première instance », s'étonnant que le Tribunal cantonal n'ait pas relevé ce point. Elle semble en déduire, de manière implicite, l'irrecevabilité du recours. L'objection est mal fondée. Non seulement le tribunal cantonal a relevé cet « élément de procédure », mais il l'a traité conformément au droit fédéral et à la jurisprudence en la matière (art. 145 al. 1 aCC; depuis le 1er janvier 2011: art. 296 CPC; ATF 128 III 411 consid. 3.2.1 p. 412), considérations que l'intimée ne discute par ailleurs pas.
3. Se référant d'une manière toute générale à un arrêt du 3 décembre 2009 rendu par la Cour européenne des droits de l'homme, le recourant reproche à l'autorité précédente d'avoir refusé de maintenir l'autorité parentale conjointe. Selon lui, « tout père doit pouvoir saisir la justice de son pays pour qu'elle statue sur l'attribution de l'autorité parentale, même si la mère s'y oppose, et cela dans l'intérêt supérieur de l'enfant ».
3.1 L'arrêt de la CourEDH dont se prévaut vraisemblablement le recourant a été rendu dans l'affaire no 22028/04 Zaunegger contre Allemagne, publié in FamPra.ch 2010 p. 213 et in EuGRZ 2010 p. 42. Horst Zaunegger était le père d'une fille, née en 1995, qui avait grandi auprès de ses deux parents non mariés jusqu'à la séparation de ceux-ci en 1998. La mère n'ayant pas donné son accord à un exercice conjoint de l'autorité parentale, le père avait demandé que celle-ci lui soit attribuée par le tribunal compétent. Sa demande avait été rejetée pour le motif que, en droit allemand, les parents non mariés ne peuvent obtenir l'autorité parentale conjointe que par une déclaration commune, en se mariant ou, avec l'accord de la mère, par une décision judiciaire. Examinant la question sous l'angle d'une prétendue violation de l'interdiction de discrimination (art. 14 CEDH) en relation avec le droit au respect de la vie privée et familiale (art. 8 CEDH), telle qu'elle était soulevée par Horst Zaunegger, qui faisait valoir que la législation allemande discriminait les pères non mariés aussi bien en raison de leur sexe que par rapport aux pères mariés, la CourEDH a jugé que l'exclusion générale de l'examen judiciaire de l'autorité parentale de la mère lorsque les parents ne sont pas mariés (et l'impossibilité de transférer l'autorité parentale au seul père) était discriminatoire par rapport à la situation de parents mariés. Elle a réfuté en particulier l'argument du gouvernement allemand, selon lequel l'exercice conjoint de l'autorité parentale contre la volonté de la mère serait, par principe, contraire à l'intérêt de l'enfant et a admis, par conséquent, une violation de l'art. 14 CEDH combiné avec l'art. 8 CEDH.
3.2 Pour autant que l'on admette que le recours, qui se limite à citer de façon toute générale l'arrêt susmentionné, respecte les exigences de motivation posées par l'art. 106 al. 2 LTF (cf. supra, consid. 1.2), force est de constater que l'état de fait de la présente affaire diffère de celui soumis à la CourEDH sur plusieurs points. D'une part, le recourant est le père divorcé des enfants, alors que, dans la cause Zaunegger, les parents n'étaient pas mariés. D'autre part, la jurisprudence invoquée tranche la question de la conformité du droit allemand, et non de celle du droit suisse, avec la CEDH. Le recourant se méprend ainsi lorsqu'il affirme que, dans cet arrêt, la CourEDH aurait demandé à la Suisse de revoir sa législation et de la rendre conforme à la jurisprudence. Par ailleurs, dans le droit suisse du divorce, en tant que père marié, le recourant peut non seulement prétendre que l'autorité parentale lui soit attribuée mais il est aussi sur pied d'égalité avec la mère. L'art. 133 al. 1 CC ne donne en effet pas la préférence à un parent plutôt qu'à l'autre. La mère ne dispose par ailleurs d'aucun privilège en raison de son sexe; elle n'a aucun droit de véto en la matière et, contrairement à ce que prévoit la législation allemande pour les parents non mariés, ainsi qu'il en était question dans l'affaire Zaunegger, un juge est appelé à trancher la question en se fondant sur l'intérêt de l'enfant (art. 133 al. 2 CC; ATF 117 II 353 consid. 3; 115 II 206 consid. 4a; 114 II 200 consid. 5).
Il en résulte qu'aucun argument en faveur de la thèse du recourant fondée sur une prétendue inégalité de traitement ne peut être tiré de l'arrêt Zaunegger qui se fonde sur un autre état de fait que celui soumis à la Cour de céans et dont l'objet était différent de celui de la présente procédure. Le recourant n'expose pas non plus quels motifs de la CourEDH justifieraient une application par analogie de son arrêt en l'espèce.
4. Cela étant, le recours doit être rejeté dans la mesure de sa recevabilité. Vu cette issue prévisible, la requête d'assistance judiciaire du recourant, qui n'a par ailleurs pas démontré son indigence à satisfaction de droit (ATF 125 IV 161 consid. 4a), doit être rejetée (art. 64 al. 1 LTF). Les frais et dépens de la présente procédure seront supportés par le recourant (art. 66 al. 1 et 68 al. 1 et 2 LTF). Dans cette mesure, la demande d'assistance judiciaire de l'intimée est sans objet. La requête était en outre insuffisamment motivée, dès lors que, représentée par un avocat, elle n'a pas établi d'emblée les conditions posées par l'art. 64 LTF. Sous cet angle, elle doit ainsi être rejetée.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire du recourant est rejetée.
3. La requête d'assistance judiciaire de l'intimée est rejetée dans la mesure où elle n'est pas devenue sans objet.
4. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
5. Une indemnité de 1'000 fr., à verser à l'intimée à titre de dépens, est mise à la charge du recourant.
6. Le présent arrêt est communiqué aux parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 11 août 2011
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Jordan