Faits : A. A._ et Dame A._i, se sont mariés en 1985. Ils ont eu deux fils, aujourd'hui majeurs. B. B.a. Statuant le 28 mars 2014 sur la requête de mesures protectrices de l'union conjugale introduite par l'épouse le 16 mai 2013, le Juge du Tribunal civil des Montagnes et du Val-de-Ruz a condamné l'époux à contribuer à l'entretien de son épouse par le versement d'une pension mensuelle de 1'140 fr. du 1er décembre 2012 au 30 avril 2013, de 850 fr. de mai à novembre 2013 puis de 1'140 fr. dès le 1er décembre 2013. B.b. Par arrêt du 1er juillet 2014, la Cour d'appel civile du Tribunal cantonal du canton de Neuchâtel a réformé cette décision s'agissant du montant de la contribution d'entretien, celle-ci étant fixée à 970 fr. du 1er décembre 2012 au 30 avril 2013, à 670 fr. de mai à novembre 2013, puis à 970 fr. à partir du 1er décembre 2013. C. Par mémoire du 28 juillet 2014, l'époux exerce un recours en matière civile au Tribunal fédéral. Il conclut à l'annulation de l'arrêt entrepris et principalement à la suppression de toute contribution d'entretien. Subsidiairement, il sollicite le renvoi de la cause à l'autorité précédente pour nouveau jugement. Il requiert aussi l'assistance judiciaire pour la procédure fédérale. Des réponses n'ont pas été requises.