Faits: A. Dame X._, née en 1946, et X._, né en 1961, se sont mariés le 24 septembre 1990. Aucun enfant n'est issu de cette union. B. Statuant sur action ouverte par le mari le 16 mai 2003, le tribunal civil du district de Neuchâtel a prononcé le divorce. Il a condamné le mari à verser à l'épouse une soulte de 29'600 fr. dans le cadre de la liquidation du régime matrimonial et a ordonné le partage par moitié des avoirs de prévoyance professionnelle accumulés par les parties durant le mariage. L'épouse a appelé de ce jugement en contestant le partage par moitié des avoirs de prévoyance professionnelle et en demandant le paiement de 35'821 fr. 70 fr. à titre de liquidation du régime matrimonial. Le mari a conclu au rejet de l'appel et a déposé un appel joint portant sur la liquidation du régime matrimonial. Statuant le 28 mai 2009, la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel a réformé le jugement attaqué en ce sens qu'elle a ordonné le partage des avoirs de prévoyance professionnelle accumulés durant le mariage à raison d'un quart en faveur du mari et de trois quarts en faveur de l'épouse. Elle a confirmé le premier jugement pour le surplus. C. Le 6 juillet 2009, le mari a déposé un recours en matière civile au Tribunal fédéral. A titre principal, il demande le partage par moitié des avoirs de prévoyance professionnelle accumulés durant le mariage. Subsidiairement, il sollicite le renvoi de la cause à l'autorité cantonale afin qu'elle détermine les montants d'acquêts consacrés par l'intimée au rachat de son deuxième pilier et qu'elle modifie la liquidation du régime matrimonial en conséquence. Invitées à se déterminer, l'épouse a conclu au rejet du recours dans la mesure de sa recevabilité, tandis que la cour cantonale s'est référée aux considérants de son arrêt.