Faits: A. S._ a travaillé en qualité de maçon. Victime d'un accident professionnel sur un chantier le 25 octobre 2004, il a subi une déchirure de la coiffe des rotateurs de l'épaule droite, qui a été traitée par une acromioplastie. Il a été mis en arrêt de travail et a présenté une demande de prestations de l'assurance-invalidité le 5 avril 2005. Une expertise sollicitée par la Caisse nationale suisse d'assurance en cas d'accidents (CNA) a été menée par les docteurs M._, B._ et Z._ de la Clinique et Polycliniques de rhumatologie et immunologie clinique/allergologie de l'Hôpital X._. Ceux-ci ont conclu à l'incapacité de travail totale de l'assuré dans la profession de maçon et à une capacité de travail entière dans une activité légère à moyennement lourde (rapport du 20 juin 2007). Par décision du 29 octobre 2007, l'Office de l'assurance-invalidité du canton de Neuchâtel (ci-après: office AI) a refusé d'octroyer une rente à l'assuré, dès lors qu'il pouvait exercer une activité adaptée à plein temps et que son taux d'invalidité était inférieur à 40 %. Cette décision a été annulée pour violation du droit d'être entendu de l'assuré par arrêt du 18 mars 2008 du Tribunal administratif de la République et canton de Neuchâtel, Cour des assurances sociales, qui a renvoyé la cause à l'administration pour qu'elle fasse traduire le rapport des médecins de l'Hôpital X._ en français et donne l'occasion à l'intéressé de se prononcer. Dans ses observations du 18 août 2008, l'assuré a notamment requis de l'office AI qu'il pose deux questions complémentaires aux experts de l'Hôpital X._. Par la suite, l'intéressé a déposé une expertise du 28 novembre 2008 du docteur L._ qui retenait une incapacité de travail totale dans toute profession. S'écartant de ces conclusions, l'office AI a rejeté à nouveau la demande de rente par décision du 12 février 2009. B. L'assuré a déféré cette décision au Tribunal administratif de la République et canton de Neuchâtel, Cour des assurances sociales, qui l'a débouté par jugement du 6 mai 2010. C. S._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de frais et dépens, il conclut en substance à la reconnaissance de son droit à une rente d'invalidité et, subsidiairement, au renvoi de la cause à la juridiction cantonale, voire à l'office AI, pour instruction complémentaire et nouvelle décision. Il sollicite, par ailleurs, le bénéfice de l'assistance judiciaire. L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.