Faits:
Faits:
A. A.a F._, né en 1955, exerçait la profession de manoeuvre dans le bâtiment. Il a déposé une demande de mesures de réadaptation professionnelle de l'assurance-invalidité, le 21 janvier 2000, en alléguant souffrir de douleurs dorsales depuis janvier 1997. Son médecin traitant, le docteur B._, attestait une incapacité de travail variant de 50 à 100 % depuis le 3 avril 1998, en raison de lombalgies chroniques d'origine statique, avec hyperlordose (rapport du 5 mai 2000). Ce diagnostic a été posé précédemment par le docteur C._, médecin-chef à l'Hopital X._, après que l'assuré y eut séjourné du 20 mars au 7 avril 2000, pour traitement et réadaptation. Le docteur C._ a toutefois estimé que les atteintes organiques étaient modestes et n'entraînaient plus d'incapacité de travail dans la profession exercée jusqu'alors; il a proposé une reprise du travail à 50 % dès le 17 avril 2000, puis à 100 % dès le 1er mai suivant (rapport du 13 avril 2000).
Le 8 mai 2000, F._ a repris le travail à plein temps. Par décision du 15 août 2000, l'Office de l'assurance-invalidité du canton de Neuchâtel (ci-après : l'Office AI) a rejeté sa demande de prestations.
L'assuré a déféré cette décision au Tribunal administratif du canton de Neuchâtel, en alléguant la persistance de douleurs dorsales et en produisant un rapport médical établi le 13 septembre 2000 par le docteur B._, qui attestait une incapacité de travail de 50 % depuis le 28 août 2000. Par jugement du 8 décembre 2000, le Tribunal administratif du canton de Neuchâtel a annulé la décision litigieuse et renvoyé la cause à l'Office AI pour instruction complémentaire et nouvelle décision. D'après la juridiction cantonale, les documents médicaux figurant au dossier ne permettaient pas de déterminer s'il était exigible de l'assuré «qu'il s'efforce de se réadapter lui-même dans d'autres professions dites légères», ni si un tel reclassement professionnel était nécessaire.
A.b Après réception de ce jugement, l'Office AI a appris que La Bâloise Assurances, qui assurait F._ contre la perte de gain en cas de maladie, avait confié une expertise médicale au docteur O._, spécialiste en chirurgie orthopédique. Selon le rapport d'expertise du 29 mars 2001, dont l'Office AI a obtenu une copie, l'assuré souffre de «lombalgies chroniques sur importante hyperlordose constitutionnelle, entraînant une discopathie lombo-sacrée et secondairement L4-L5». Le docteur O._ soupçonnait un début de syndrome somatoforme douloureux chronique et posait encore les diagnostics de début de cervicarthrose basse et d'un «impingement» de l'épaule droite sur conflit sous-acromial. A l'époque de l'expertise, le médecin traitant de l'assuré attestait une incapacité de travail de 75 %. Le docteur O._ a, pour sa part, proposé une reprise du travail à 50 %, dans l'activité exercée jusqu'alors, en précisant toutefois qu'un changement de profession était nécessaire.
Du 11 au 28 mars 2002, F._ a suivi un stage d'observation au Centre Y._. Selon le rapport de stage, l'assuré a produit un travail de qualité, mais à un rythme lent; il décrivait des douleurs s'accentuant dans la journée, de sorte que les maîtres de stage n'ont proposé aucun plan de formation au Centre Y._ (rapport de stage du 17 avril 2002). Le conseiller en réadaptation de l'Office AI a alors proposé de renoncer à une mesure de réadaptation et d'étudier la question du droit à la rente, en se fondant sur une incapacité de travail de 50 % dans une activité adaptée; cette capacité de travail était au demeurant très théorique, notamment en raison du faible niveau de scolarisation de l'assuré, qui apparaissait usé et n'avait plus la possibilité de mobiliser d'autres ressources pour s'investir dans une nouvelle activité (rapport initial de réadaptation du 29 mai 2002).
Le 7 août 2002, l'Office AI a refusé l'octroi de mesures d'ordre professionnel à l'assuré, en précisant qu'il statuerait ultérieurement sur le droit à la rente. Il a ensuite confié au docteur S._ le soin de réaliser une expertise psychiatrique. Ce médecin a établi son rapport le 28 avril 2003 et constaté que l'assuré souffrait d'un état dépressif subclinique léger et d'un trouble douloureux associé à la fois à des facteurs psychologiques et à une affection médicale générale chronique. Il a nié toute incapacité de travail en raison d'une atteinte à la santé psychique.
Par décision du 6 août 2003 et décision sur opposition du 3 novembre 2003, l'Office AI a nié le droit de l'assuré à une rente d'invalidité. Il a considéré que celui-ci disposait encore d'une capacité de travail de 80 % au moins comme manoeuvre dans le bâtiment et de 100 % dans une activité dite «légère», ce qui excluait un taux d'invalidité ouvrant droit à une rente.
Par décision du 6 août 2003 et décision sur opposition du 3 novembre 2003, l'Office AI a nié le droit de l'assuré à une rente d'invalidité. Il a considéré que celui-ci disposait encore d'une capacité de travail de 80 % au moins comme manoeuvre dans le bâtiment et de 100 % dans une activité dite «légère», ce qui excluait un taux d'invalidité ouvrant droit à une rente.
B. L'assuré a recouru devant le Tribunal administratif du canton de Neuchâtel, en produisant notamment un rapport établi le 21 janvier 2004 par le docteur H._. Selon ce praticien, l'assuré souffre de «douleurs lombaires à caractère mécanique, depuis plusieurs années, dans le cadre de troubles dégénératifs radiologiquement modérés, mais invalidants, compte tenu d'un syndrome lombovertébral persistant, non amélioré par un traitement conservateur bien conduit.» Toujours selon le docteur H._, l'assuré souffre également de «douleurs cervicales à caractère mécanique dans le cadre de troubles dégénératifs et de douleurs de l'épaule droite avec, cliniquement, des signes de tendinopathie de la coiffe des rotateurs. [...] Si l'on voulait objectiver des lésions de la coiffe des rotateurs, il faudrait réaliser une IRM qui certainement montrerait une déchirure ou des signes de tendinite de la coiffe [...]». Le docteur H._ attestait que «d'un point de vue purement rhumatologique», les atteintes à la santé de l'assuré ne lui permettaient pas de reprendre son activité professionnelle antérieure, mais qu'une activité adaptée, sans mouvements répétitifs des membres supérieurs, sans port de charges, permettant la déambulation, sans position statique prolongée supérieure à 20 ou 30 minutes, pourrait être envisageable à 50 %. D'un point de vue global (psychologique et physique), une reprise d'activité professionnelle semblait toutefois utopique.
Par jugement du 29 juillet 2005, le Tribunal administratif du canton de Neuchâtel a annulé la décision sur opposition du 3 novembre 2003 et renvoyé la cause à l'Office AI pour instruction complémentaire et nouvelle décision. La juridiction cantonale a considéré que les pièces médicales figurant au dossier ne permettaient pas de se prononcer sur la capacité de travail résiduelle de l'assuré eu égard aux atteintes à sa santé physique.
Par jugement du 29 juillet 2005, le Tribunal administratif du canton de Neuchâtel a annulé la décision sur opposition du 3 novembre 2003 et renvoyé la cause à l'Office AI pour instruction complémentaire et nouvelle décision. La juridiction cantonale a considéré que les pièces médicales figurant au dossier ne permettaient pas de se prononcer sur la capacité de travail résiduelle de l'assuré eu égard aux atteintes à sa santé physique.
C. L'Office AI interjette un recours de droit administratif contre ce jugement, dont il demande l'annulation. L'intimé conclut au rejet du recours, sous suite de dépens, alors que l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
Considérant en droit:
1. Le litige porte sur le droit de l'intimé à une rente d'invalidité. Il s'agit en particulier de déterminer si les pièces médicales figurant au dossier permettent de statuer en connaissance de cause sur les atteintes à la santé physique de l'assuré et leur influence sur sa capacité de travail ou si, au contraire, un complément d'instruction sur ce point est nécessaire.
1. Le litige porte sur le droit de l'intimé à une rente d'invalidité. Il s'agit en particulier de déterminer si les pièces médicales figurant au dossier permettent de statuer en connaissance de cause sur les atteintes à la santé physique de l'assuré et leur influence sur sa capacité de travail ou si, au contraire, un complément d'instruction sur ce point est nécessaire.
2. 2.1 Selon l'art. 132 OJ, dans sa teneur en vigueur jusqu'au 30 juin 2006 (RO 1969 p. 801), en relation avec les art. 104 et 105 OJ, le pouvoir d'examen du Tribunal fédéral des assurances, dans la procédure de recours concernant l'octroi ou le refus de prestations d'assurance, n'est pas limité à la violation du droit fédéral - y compris l'excès et l'abus du pouvoir d'appréciation - mais s'étend également à l'opportunité de la décision attaquée. Le tribunal n'est pas lié par l'état de fait constaté par la juridiction inférieure et peut s'écarter des conclusions des parties à l'avantage ou au détriment de celles-ci.
La loi fédérale du 16 décembre 2005 portant modification de la loi fédérale sur l'assurance-invalidité est entrée en vigueur le 1er juillet 2006 (RO 2006 2003) et entraîne des modifications des art. 132 et 134 OJ. Toutefois, conformément aux dispositions transitoires figurant au ch. II let. c de la loi fédérale du 16 décembre 2005, la présente procédure reste soumise aux dispositions de l'OJ telles qu'en vigueur jusqu'au 30 juin 2006.
2.2 Le jugement entrepris expose les règles légales et la jurisprudence relatives à la notion d'invalidité, à l'échelonnement des rentes selon le taux d'invalidité, à la manière de fixer ce taux, y compris en ce qui concerne les aspects de droit transitoire. Il expose également les critères posés par la jurisprudence pour évaluer la valeur probante d'un rapport médical. Sur ces différents points, il convient d'y renvoyer.
2.2 Le jugement entrepris expose les règles légales et la jurisprudence relatives à la notion d'invalidité, à l'échelonnement des rentes selon le taux d'invalidité, à la manière de fixer ce taux, y compris en ce qui concerne les aspects de droit transitoire. Il expose également les critères posés par la jurisprudence pour évaluer la valeur probante d'un rapport médical. Sur ces différents points, il convient d'y renvoyer.
3. Les premiers juges ont considéré que le rapport établi par le docteur S._ permettait d'exclure une incapacité de travail en raison d'atteintes à la santé psychique. Les parties ne le contestent pas, à juste titre.
Toujours d'après la juridiction cantonale, aucun des médecins consultés n'aurait décrit de manière probante la capacité de travail résiduelle de l'assuré, eu égard aux atteintes à sa santé physique. Le recourant conteste ce point de vue et soutient qu'il ressort du rapport établi par le docteur O._ que l'intimé dispose d'une pleine capacité de travail dans une activité légère, sans port de charges.
Toujours d'après la juridiction cantonale, aucun des médecins consultés n'aurait décrit de manière probante la capacité de travail résiduelle de l'assuré, eu égard aux atteintes à sa santé physique. Le recourant conteste ce point de vue et soutient qu'il ressort du rapport établi par le docteur O._ que l'intimé dispose d'une pleine capacité de travail dans une activité légère, sans port de charges.
3.1 3.1.1 Parmi les différents médecins consultés, le docteur C._ a attesté une pleine capacité de travail comme manoeuvre dans le bâtiment. Les premiers juges ont déjà exposé de manière convaincante, dans le jugement du 8 décembre 2000 du Tribunal administratif du canton de Neuchâtel, pour quels motifs ils ont estimé que cet avis médical ne suffisait pas pour statuer en connaissance de cause sur le droit aux prestations litigieuses. Il n'y a lieu de revenir sur ce point, d'autant que le recourant n'a pas recouru contre ce jugement de renvoi et ne se réfère plus, dans la présente procédure, aux constatations émises par le docteur C._. Tout au plus précisera-t-on que le rapport établi par ce médecin remonte a plus de six ans et que depuis lors, l'assuré présente de nouveaux symptôme dont plusieurs médecins attestent l'origine organique, ou du moins partiellement organique. Le docteur H._, par ailleurs, s'était initialement prononcé dans le même sens que le docteur C._ (rapport du 6 août 1999), avant de modifier son appréciation de la capacité de travail de l'assuré.
3.1.2 Le docteur O._ a attesté, en date du 29 mars 2001, une capacité de travail de 50 % dans l'activité de manoeuvre, en précisant qu'un reclassement dans une nouvelle profession était nécessaire. Répondant aux questions de La Bâloise Assurances, qui assurait l'intimé contre la perte de gain en cas de maladie, il ne s'est pas prononcé sur sa capacité de travail résiduelle dans une activité adaptée. Contrairement à l'opinion du recourant, ses constatations ne peuvent donc pas revêtir un caractère décisif en l'espèce.
Pour sa part, le docteur H._ a expressément pris position sur la question de la capacité de travail de l'assuré dans une activité légère et a proposé de retenir une incapacité de travail de 50 % «d'un point de vue purement rhumatologique» (rapport du 21 janvier 2004). Il est vrai que cette affirmation est posée au terme d'un rapport dont la valeur probante est relativement faible, dès lors que le docteur H._ reste très vague quand aux constatations objectives sur lesquelles il fonde son appréciation; il n'explique que très sommairement, par ailleurs, ce qui motive son revirement par rapport aux constatations effectuées en 1999. Mais compte tenu des dernières constatations du docteur H._, on ne saurait reprocher aux premiers juges d'avoir tenu une instruction complémentaire pour nécessaire.
Pour sa part, le docteur H._ a expressément pris position sur la question de la capacité de travail de l'assuré dans une activité légère et a proposé de retenir une incapacité de travail de 50 % «d'un point de vue purement rhumatologique» (rapport du 21 janvier 2004). Il est vrai que cette affirmation est posée au terme d'un rapport dont la valeur probante est relativement faible, dès lors que le docteur H._ reste très vague quand aux constatations objectives sur lesquelles il fonde son appréciation; il n'explique que très sommairement, par ailleurs, ce qui motive son revirement par rapport aux constatations effectuées en 1999. Mais compte tenu des dernières constatations du docteur H._, on ne saurait reprocher aux premiers juges d'avoir tenu une instruction complémentaire pour nécessaire.
3.2 3.2.1 En l'absence d'autres constatations médicales claires, l'Office AI semble en réalité s'être surtout fondé sur les appréciations émises par son médecin conseil, le docteur E._. Après le jugement du 8 décembre 2000 du Tribunal administratif du canton de Neuchâtel, celui-ci a notamment pris position comme suit, le 12 décembre 2000 : «Pour autant que je me souvienne, F._ a des lombalgies sans notable substrat organique, ce qui a motivé à juste titre le Dr C._ a émettre un avis de spécialiste quant à la pleine exigibilité de l'activité antérieure [...]. Or, les conclusions [de ce médecin] tiennent compte aussi bien de la symptomatologie, de l'atteinte physique objective, [...] et des perspectives aléatoires de mesures professionnelles considérées comme le 'deus ex machina' par des thérapeutes mis en échec par une symptomatologie d'autant plus réfractaire au traitement qu'elle est garante de bénéfices secondaires. Le TA a le tort de confondre dans ce cas symptomatologie et maladie, exigibilité [...] et inaptitude revendiquée par un assuré et confirmée en vertu d'un lien de clientélisme.»
A réception de l'expertise réalisée par le docteur O._, le docteur E._ s'est encore exprimé comme suit, le 23 mai 2001 : «[...] la symptomatologie de F._ n'a pas seulement évolué vers la chronicité même au repos, mais elle a pris de l'ampleur, des cervicalgies et des douleurs de l'épaule droite venant s'ajouter aux lombalgies chez un sujet ne travaillant plus que de manière symbolique. Dans ce contexte, la nouvelle 'expertise' du Dr O._ vient encore apporter de l'eau au moulin de l'assuré par un ramassis de considérations incohérentes où la quasi absence d'anomalies organiques objectives d'une certaine importance et de notable limitation fonctionnelle fait bon ménage avec le diagnostic de 'syndrome somatoforme douloureux chronique' et une curieuse proposition de reclassement professionnel que tout psychiatre tant soit peu avisé considérerait avec le plus grand scepticisme [...]».
Enfin, dans une prise de position du 27 août 2002, le docteur E._ a ajouté : «L'expertise du Dr B._ est à la fois simpliste et incomplète dans la mesure où elle relève une symptomatologie quasiment 'sine materia' (simple hyperlordose lombaire sans notables troubles dégénératifs avec signes de Waddell positifs) à laquelle il est attribué une valeur invalidante, alors même qu'un syndrome somatoforme douloureux chronique est annoncé [...]. Prétendre reclasser sous l'égide de l'AI un tel assuré équivaut en effet à vouloir faire boire un âne qui n'a pas soif. Cette démarche à laquelle l'AI a été induite à l'instigation du TA s'est révélée un échec et cela était prévisible [...]».
3.2.2 Ces différentes prises de position du médecin conseil de l'Office AI témoignent de sa conviction personnelle de l'absence d'incapacité de travail de l'assuré en raison d'atteintes à la santé physique, mais ne convainquent pas. A cet égard, il est utile de préciser que le médecin conseil d'un office de l'assurance-invalidité doit procéder à un examen objectif des documents médicaux qui lui sont présentés et se déterminer de façon neutre et circonstanciée, en s'appuyant sur des constatations d'ordre médical plutôt que sur des jugements de valeur. D'un point de vue formel, il fera preuve d'une certaine retenue dans ses propos, nonobstant les controverses qui peuvent exister dans le domaine médical sur l'un ou l'autre sujet : par exemple, s'il est tenant de théories qui ne font pas l'objet d'un consensus, il est attendu de lui qu'il le signale et en tire toutes les conséquences quant à ses conclusions. Enfin, ses déterminations seront rédigées de manière sobre et libre de toute qualification dépréciante ou, au contraire, de tournures à connotation subjective (cf. arrêt S. du 26 juin 2003, I 671/02, consid. 5.2 et les références). A la lecture des déterminations du docteur E._, force est de constater qu'elles ne remplissent pas ces exigences et ne permettent donc pas de se forger une conviction sur la réalité des atteintes à la santé physique de l'intimé, ni sur sa capacité de travail résiduelle.
3.2.2 Ces différentes prises de position du médecin conseil de l'Office AI témoignent de sa conviction personnelle de l'absence d'incapacité de travail de l'assuré en raison d'atteintes à la santé physique, mais ne convainquent pas. A cet égard, il est utile de préciser que le médecin conseil d'un office de l'assurance-invalidité doit procéder à un examen objectif des documents médicaux qui lui sont présentés et se déterminer de façon neutre et circonstanciée, en s'appuyant sur des constatations d'ordre médical plutôt que sur des jugements de valeur. D'un point de vue formel, il fera preuve d'une certaine retenue dans ses propos, nonobstant les controverses qui peuvent exister dans le domaine médical sur l'un ou l'autre sujet : par exemple, s'il est tenant de théories qui ne font pas l'objet d'un consensus, il est attendu de lui qu'il le signale et en tire toutes les conséquences quant à ses conclusions. Enfin, ses déterminations seront rédigées de manière sobre et libre de toute qualification dépréciante ou, au contraire, de tournures à connotation subjective (cf. arrêt S. du 26 juin 2003, I 671/02, consid. 5.2 et les références). A la lecture des déterminations du docteur E._, force est de constater qu'elles ne remplissent pas ces exigences et ne permettent donc pas de se forger une conviction sur la réalité des atteintes à la santé physique de l'intimé, ni sur sa capacité de travail résiduelle.
4. Vu ce qui précède, le recours est mal fondé. L'intimé peut prétendre une indemnité de dépens à la charge du recourant (art. 159 al. 1 OJ), la procédure étant, par ailleurs, gratuite (art. 134 OJ, dans sa teneur en vigueur jusqu'au 30 juin 2006; cf. consid. 2.1 supra).
Par ces motifs, le Tribunal fédéral des assurances prononce:
Par ces motifs, le Tribunal fédéral des assurances prononce:
1. Le recours est rejeté.
1. Le recours est rejeté.
2. Il n'est pas perçu de frais de justice.
2. Il n'est pas perçu de frais de justice.
3. Le recourant versera à l'intimé la somme de 2'000 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens pour l'instance fédérale.
3. Le recourant versera à l'intimé la somme de 2'000 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens pour l'instance fédérale.
4. Le présent arrêt sera communiqué aux parties, au Tribunal administratif du canton de Neuchâtel et à l'Office fédéral des assurances sociales.
Lucerne, le 7 novembre 2006
Au nom du Tribunal fédéral des assurances
La Juge présidant la IVe Chambre: Le Greffier: