Faits: A. A.a X._ et Dame X._, se sont mariés le 24 novembre 2006. Deux enfants sont issus de cette union: A._, né le *** 2006 et B._, né le *** 2010. Par décision de mesures protectrices de l'union conjugale du 12 juillet 2011, le Tribunal civil des Montagnes et du Val-de-Ruz a, notamment, attribué à la mère le domicile conjugal, situé à C._ (NE), et la garde des enfants, sous réserve du droit de visite du père, enfin, condamné celui-ci à payer mensuellement, dès le 23 janvier 2011 et sous déduction des sommes déjà versées, des contributions d'entretien, indexées, de 980 fr. pour chaque enfant et de 590 fr. pour l'épouse, ce dernier montant étant porté à 1'880 fr. dès le 1er avril 2011. A.b Par requête du 9 janvier 2012, le mari a sollicité que la garde des enfants lui soit attribuée à titre de mesures superprovisionnelles urgentes, alléguant que l'épouse avait, à son insu, retiré l'aîné de ses fils de l'école primaire de C._ pour la fin de l'année 2011 et qu'elle avait quitté l'ancien domicile conjugal avec les enfants. Par ordonnance de mesures superprovisionnelles du 10 janvier 2012, rendue sans audition des parties, le Tribunal civil a attribué la garde des enfants au père, institué une curatelle au sens de l'art. 308 al. 2 CC, désigné un assistant social de l'Office de protection de l'enfance en qualité de curateur et fixé le droit de visite de la mère. Après avoir procédé, le 30 janvier 2012, à l'audition des parties, ledit tribunal a, par décision de mesures protectrices de l'union conjugale du 31 janvier 2012, annulé les mesures précitées, sous réserve de celle relative à l'institution d'une curatelle. B. Le mari a interjeté appel, le 26 août 2011, contre la décision du 12 juillet 2011, concluant à ce qu'aucune contribution d'entretien ne soit allouée à l'épouse et, le 2 février 2012, contre celle du 31 janvier 2012, en ce qui concerne l'attribution de la garde des enfants. Après avoir joint les dossiers, la Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel a, par arrêt du 17 avril 2012, partiellement admis le premier appel, rejeté le second et réformé la décision de mesures protectrices de l'union conjugale du 12 juillet 2011 en ce sens que le mari est condamné à verser à l'épouse une contribution d'entretien mensuelle de 590 fr. du 23 janvier au 31 mars 2011 et de 1'620 fr. - au lieu de 1'880 fr. - dès le 1er avril 2011. C. Par acte déposé le 29 mai 2012, le mari exerce un recours en matière civile contre l'arrêt du 17 avril 2012. Il conclut principalement à sa réforme en ce sens qu'il est libéré de toute obligation d'entretien à l'égard de l'épouse dès le 23 janvier 2011. Subsidiairement, il demande le renvoi de la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants, y compris sur les frais et dépens des instances inférieures. Le recourant sollicite par ailleurs le bénéfice de l'assistance judiciaire. Des observations n'ont pas été requises.