Faits:
A. A.a X._ et Dame X._, se sont mariés le 24 novembre 2006. Deux enfants sont issus de cette union: A._, né le *** 2006 et B._, né le *** 2010.
Par décision de mesures protectrices de l'union conjugale du 12 juillet 2011, le Tribunal civil des Montagnes et du Val-de-Ruz a, notamment, attribué à la mère le domicile conjugal, situé à C._ (NE), et la garde des enfants, sous réserve du droit de visite du père, enfin, condamné celui-ci à payer mensuellement, dès le 23 janvier 2011 et sous déduction des sommes déjà versées, des contributions d'entretien, indexées, de 980 fr. pour chaque enfant et de 590 fr. pour l'épouse, ce dernier montant étant porté à 1'880 fr. dès le 1er avril 2011.
A.b Par requête du 9 janvier 2012, le mari a sollicité que la garde des enfants lui soit attribuée à titre de mesures superprovisionnelles urgentes, alléguant que l'épouse avait, à son insu, retiré l'aîné de ses fils de l'école primaire de C._ pour la fin de l'année 2011 et qu'elle avait quitté l'ancien domicile conjugal avec les enfants.
Par ordonnance de mesures superprovisionnelles du 10 janvier 2012, rendue sans audition des parties, le Tribunal civil a attribué la garde des enfants au père, institué une curatelle au sens de l'<ref-law>, désigné un assistant social de l'Office de protection de l'enfance en qualité de curateur et fixé le droit de visite de la mère.
Après avoir procédé, le 30 janvier 2012, à l'audition des parties, ledit tribunal a, par décision de mesures protectrices de l'union conjugale du 31 janvier 2012, annulé les mesures précitées, sous réserve de celle relative à l'institution d'une curatelle.
B. Le mari a interjeté appel, le 26 août 2011, contre la décision du 12 juillet 2011, concluant à ce qu'aucune contribution d'entretien ne soit allouée à l'épouse et, le 2 février 2012, contre celle du 31 janvier 2012, en ce qui concerne l'attribution de la garde des enfants. Après avoir joint les dossiers, la Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel a, par arrêt du 17 avril 2012, partiellement admis le premier appel, rejeté le second et réformé la décision de mesures protectrices de l'union conjugale du 12 juillet 2011 en ce sens que le mari est condamné à verser à l'épouse une contribution d'entretien mensuelle de 590 fr. du 23 janvier au 31 mars 2011 et de 1'620 fr. - au lieu de 1'880 fr. - dès le 1er avril 2011.
C. Par acte déposé le 29 mai 2012, le mari exerce un recours en matière civile contre l'arrêt du 17 avril 2012. Il conclut principalement à sa réforme en ce sens qu'il est libéré de toute obligation d'entretien à l'égard de l'épouse dès le 23 janvier 2011. Subsidiairement, il demande le renvoi de la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants, y compris sur les frais et dépens des instances inférieures.
Le recourant sollicite par ailleurs le bénéfice de l'assistance judiciaire.
Des observations n'ont pas été requises.

Considérant en droit:
1. 1.1 Interjeté en temps utile (<ref-law>), par une partie qui a qualité pour recourir (<ref-law>), contre une décision finale (<ref-law>; <ref-ruling> consid. 4) rendue en matière civile (<ref-law>; <ref-ruling> consid. 2) par l'autorité de dernière instance cantonale statuant sur recours (<ref-law>), dans une affaire exclusivement pécuniaire dont la valeur litigieuse atteint 30'000 fr. (<ref-law>, <ref-law>), le présent recours est en principe recevable.
1.2 Dès lors que les mesures protectrices de l'union conjugale sont considérées comme des mesures provisionnelles au sens de l'<ref-law> (<ref-ruling> consid. 5), seule peut être invoquée à leur encontre la violation de droits constitutionnels. Le Tribunal fédéral n'examine un tel grief que s'il a été dûment invoqué et motivé (<ref-law>), à savoir exposé de manière claire et détaillée (<ref-ruling> consid. 3.2 et les arrêts cités). Lorsque le recourant se plaint d'arbitraire (art. 9 Cst.), il ne peut se borner à critiquer la décision attaquée comme il le ferait en instance d'appel, où l'autorité de recours dispose d'une libre cognition; il ne saurait se contenter d'opposer son opinion à celle de la juridiction précédente, mais doit démontrer, par une argumentation précise, que cette décision se fonde sur une application du droit ou une appréciation des preuves manifestement insoutenables (<ref-ruling> consid. 3.2 et les arrêts cités). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 2).
Dans le domaine de l'appréciation des preuves et de la constatation des faits, le Tribunal fédéral se montre réservé, vu le large pouvoir qu'il reconnaît en la matière à l'autorité cantonale (<ref-ruling> consid. 4b; <ref-ruling> consid. 1b et les références citées). Il n'intervient, pour violation de l'art. 9 Cst., que si le juge du fait n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans motifs objectifs de tenir compte de preuves pertinentes ou a opéré, sur la base des éléments recueillis, des déductions insoutenables (<ref-ruling> consid. 4.2; <ref-ruling> consid. 2.1). Sa retenue est d'autant plus grande lorsque, comme en l'espèce, le juge n'examine la cause que d'une manière sommaire et provisoire, avec administration restreinte des moyens de preuve et limitation du degré de la preuve à la simple vraisemblance (<ref-ruling> consid. 3.3; <ref-ruling> consid. 2b/bb).
2. Le recourant se plaint d'arbitraire (art. 9 Cst.) dans l'établissement des faits et l'application de l'<ref-law>. Il reproche à l'autorité cantonale de n'avoir pas imputé un revenu hypothétique à l'intimée, qui a renoncé à des indemnités de chômage en cours de procédure et a choisi d'arrêter de travailler après la séparation des époux. Dès lors qu'il résulte des pièces du dossier que, durant la vie commune, les époux exerçaient tous deux une activité lucrative et se partageaient les tâches relatives aux soins et à l'éducation des enfants, lesquels étaient d'ailleurs placés à la crèche, l'arrêt attaqué, qui ne tiendrait pas compte de cette répartition, serait par conséquent arbitraire.
2.1 L'autorité précédente a retenu que l'épouse avait travaillé à 70% jusqu'à la naissance de son fils cadet, pour un salaire mensuel de 3'600 fr., puis qu'elle avait perçu environ 3'000 fr. par mois de l'assurance-chômage. A fin décembre 2010, elle avait encore droit à 273 indemnités journalières. Celles-ci avaient cependant été suspendues en janvier 2011 car l'intéressée ne s'était pas présentée à un stage en entreprise prévu ce mois-là. Bien que reconnue apte au placement à 70% par décision du 7 mars 2011, elle avait renoncé à son inscription à l'assurance-chômage dès le 13 avril 2011, au motif que son fils aîné commencerait l'école obligatoire à la rentrée d'août 2011 et qu'aucune structure d'accueil parascolaire n'existait dans sa commune de domicile.
L'autorité cantonale a considéré que le choix de l'épouse de renoncer momentanément à exercer une activité lucrative pour se consacrer aux soins et à l'éducation de ses deux enfants, âgés respectivement de moins de quatre ans et demi et de moins d'un an et demi lorsque l'ordonnance de première instance avait été rendue, ne pouvait lui être reproché au regard de la jurisprudence du Tribunal fédéral en la matière. Selon les juges précédents, il ne s'agissait certes pas de son choix initial puisque, dans un premier temps, elle s'était inscrite à l'assurance-chômage à 70%, ce qui impliquait qu'elle s'estimait apte à travailler à ce taux; toutefois, les époux faisaient alors ménage commun, de sorte que son conjoint pouvait l'assister dans la prise en charge des enfants. Pour la cour cantonale, tel n'était plus le cas après la séparation des parties, d'autant que celles-ci entretenaient des relations particulièrement conflictuelles. Cette autorité a en outre estimé que l'arrêté communal du 11 avril 2011 produit par le mari, attestant d'une subvention pour la mise en place d'un accueil parascolaire dès la rentrée d'août 2011, ne suffisait pas à établir qu'une telle structure aurait effectivement pu être créée dans ce délai et que le fils aîné des parties y aurait obtenu une place; la fréquentation d'une crèche à Neuchâtel étant par ailleurs prévue pour le cadet, la situation aurait de toute manière été particulièrement difficile à gérer pour l'intimée parallèlement à une activité lucrative exercée à 70%. Toujours selon l'autorité précédente, la mère avait certes renoncé à percevoir le solde de ses indemnités de chômage. Toutefois, il ne fallait pas perdre de vue que de telles indemnités ne constituaient pas une prestation sans contrepartie, mais impliquaient au contraire que le bénéficiaire fût apte à se soumettre aux mesures de reclassement professionnel qui lui étaient proposées, ce qui n'était guère possible pour l'épouse qui assumait la garde de deux enfants en très bas âge. Les juges d'appel ont dès lors estimé que c'était à tort que le mari faisait grief au tribunal de première instance de n'avoir pas imputé de gain hypothétique à l'épouse.
2.2 Le recourant ne démontre pas que cette opinion serait insoutenable, compte tenu, en particulier, de la prise en charge par la mère de deux enfants de moins de cinq ans. En effet, on ne peut en principe exiger d'un époux la prise ou la reprise d'une activité lucrative à un taux de 50% avant que le plus jeune des enfants dont il a la garde n'ait atteint l'âge de dix ans révolus, et de 100% avant qu'il n'ait atteint l'âge de seize ans révolus (<ref-ruling> consid. 4.2.2.2; <ref-ruling> consid. 3c). Ces lignes directrices ne sont certes pas des règles strictes; leur application dépend des circonstances du cas concret (arrêt 5A_24172010 du 9 novembre 2010 consid. 5.4.3) et le juge du fait tient compte de ces principes dans l'exercice du large pouvoir d'appréciation qui est le sien (<ref-ruling> précité; <ref-ruling> consid. 4). Le recourant n'établit cependant pas que l'autorité précédente aurait tenu un raisonnement insoutenable sur ce point, le fait que l'épouse ait exercé une activité lucrative durant la vie commune, d'abord à 50% puis à 70% jusqu'à la naissance de son fils cadet, n'étant en l'occurrence pas décisif. En effet, comme le relève la cour cantonale, tant que les époux faisaient ménage commun, le mari pouvait l'assister dans la prise en charge des enfants, ce qui n'est plus le cas actuellement, d'autant que leurs relations sont particulièrement conflictuelles; l'entrée de l'aîné à l'école obligatoire, tandis que le cadet est encore en âge d'aller à la crèche, rend en outre plus difficile l'organisation de leur prise en charge. Au demeurant, le recourant entend substituer son appréciation à celle de l'autorité cantonale, ce qui ne suffit pas à démontrer l'arbitraire.
3. En conclusion, le recours se révèle mal fondé et ne peut donc être que rejeté, dans la mesure de sa recevabilité. Vu cette issue - prévisible - de la procédure, la requête d'assistance judiciaire du recourant ne saurait être agréée (<ref-law>). Celui-ci supportera dès lors les frais judiciaires (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimée, qui n'a pas été invitée à répondre.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire du recourant est rejetée.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 23 août 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Mairot