Faits: A. R._ était employé en qualité d'aide-mécanicien par l'entreprise X._ SA. A partir du 6 décembre 2004, il s'est trouvé incapable de travailler en raison de problèmes dorsaux. Le 13 juin 2005, il a présenté une demande de prestations de l'assurance-invalidité. L'Office de l'assurance-invalidité du canton de Neuchâtel (ci-après : l'office AI) a recueilli des renseignements auprès des médecins traitants de l'assuré, les docteurs H._, rhumatologue, et C._. De leurs rapports respectifs, il ressortait que R._ souffrait de divers problèmes ostéo-articulaires : des lombalgies chroniques résiduelles dans le cadre d'un status après spondylodèse L5-S1, des douleurs à l'épaule (tendinopathie de la coiffe des rotateurs), des cervicalgies chroniques sur hyperlordose cervicale avec hernies discales para-médianes et forminales droites en C5-C6 et C6-C7, ainsi que des gonalgies droites (syndrome fémoro-patellaire). Pour les deux médecins traitants, leur patient n'était plus en mesure de travailler, ni dans son ancienne profession ni dans toute autre activité, eu égard à la pluralité des pathologies constatées. L'office AI a alors confié une expertise médicale au docteur G._, spécialiste en rhumatologie et en médecine interne. Celui-ci a conclu à une capacité de travail de 50 % dans l'activité d'aide-mécanicien, respectivement de 85 % dans une activité adaptée respectant les limitations fonctionnelles suivantes : pas de mouvements répétitifs en porte-à-faux du rachis, pas de travaux lourds, pas de ports de charge supérieurs à 15 kg et possibilité d'alterner la position assise et debout. Il a précisé que l'examen clinique et les radiographies ne permettaient pas d'expliquer l'ampleur des douleurs et du handicap fonctionnel exprimé par l'assuré et qu'il avait constaté des signes de surcharge révélateurs d'un syndrome douloureux persistant (rapport d'expertise du 27 juin 2006). L'assuré a contesté les conclusions de cette expertise en se référant à la prise de position de son médecin traitant rhumatologue (voir notamment les écrits du docteur H._ des 9 juin et 11 septembre 2006, ainsi que du 10 mars 2007). Après avoir soumis l'ensemble des pièces médicales à son Service médical régional (SMR), l'office AI a rendu le 4 avril 2007 une décision, par laquelle il a alloué à R._ dès le 1er décembre 2005 un quart de rente d'invalidité, fondée sur un degré d'invalidité de 43 %, assortie des rentes complémentaires pour ses deux enfants. B. L'assuré a déféré cette décision à la Cour des assurances sociales du Tribunal administratif du canton de Neuchâtel, qui a rejeté son recours (jugement du 9 juillet 2009). C. R._ interjette un recours en matière de droit public contre ce jugement cantonal, dont il requiert l'annulation. Il conclut à ce que l'office AI lui reconnaisse une incapacité de travail de 100 % et lui verse une rente d'invalidité en conséquence; subsidiairement, à ce que la cause soit renvoyée au tribunal cantonal pour instruction complémentaire sous la forme d'une contre-expertise. L'office AI et l'Office fédéral des assurances sociales ont tous deux renoncé à se déterminer sur le recours.