Faits:
A. Par décision du 14 novembre 2001 (confirmée par jugement du Tribunal cantonal valaisan des assurances du 2 septembre 2002), l'Office cantonal AI du Valais (ci-après: l'office AI) a rejeté la demande de prestations de l'assurance-invalidité présentée le 29 mars 1995 par M._ Invoquant une aggravation de son état de santé, celui-ci a déposé une nouvelle demande de prestations, le 14 novembre 2002, en demandant une rente à partir de juillet 2001. Entre autres mesures d'instruction, l'office AI a confié une expertise pluridisciplinaire au Centre d'observation médicale de l'assurance-invalidité (COMAI). Après des recours successifs jusqu'au Tribunal fédéral (arrêt I 199/04 du 10 février 2006), l'expertise a finalement été réalisée par les docteurs O._, spécialiste en chirurgie orthopédique et traumatologie de l'appareil locomoteur, et A._, spécialiste en psychiatrie et psychothérapie, de la Clinique X._. Ces médecins ont examiné l'assuré le 2 avril 2007 et rendu leur rapport le 19 septembre suivant. Ils ont diagnostiqué des lombalgies chroniques sur maladie discale dégénérative très évoluée au niveau de L5-S1 et d'hypoesthésie dans le territoire distal du dermatome S1 et baisse de la force musculaire à M4 de la même racine, mais n'ont retenu aucun diagnostic psychiatrique. Précisant les limitations présentées par l'assuré sur le plan somatique, les experts ont conclu à une incapacité de travail totale dans les anciennes activités de préparateur et négociant, respectivement d'agriculteur; dans une profession respectant les limitations décrites, la diminution du rendement était d'environ 40 %.
Entre-temps, le psychiatre traitant de l'intéressé, le docteur B._, a fait état, dans un avis du 24 août 2007, d'un épisode dépressif moyen et attesté d'une incapacité entière de travail dans toute activité. Ayant pris connaissance de cette appréciation, le docteur A._ a indiqué à l'office AI qu'il devait revoir l'assuré pour se prononcer sur l'aggravation annoncée par son confrère, si cela était requis. Aussi, un complément d'expertise a-t-il été mis en oeuvre et les docteurs A._ et O._, ainsi que le psychologue et neuropsychologue V._, ont rendu leurs conclusions le 7 février 2008. Diagnostiquant (avec répercussion sur la capacité de travail) un trouble de l'humeur persistant non spécifique, les experts ont indiqué que compte tenu de l'ensemble des limitations, psychiques et physiques, la capacité de travail ne dépassait pas un taux de 40 %, soit 4 heures par jour, avec une diminution de rendement supplémentaire de 10 %; en cas d'amélioration des troubles psychiques, mais avec persistance des douleurs, la capacité de travail pouvait être augmentée à 50 %, horaire et rendement confondus.
L'office AI a soumis le dossier à son Service médical régional (SMR), où les docteurs H._, E._ et I._ ont expliqué que les conclusions de l'expertise complémentaire ne pouvaient être suivies (rapports des 20 et 28 février 2008). Fort de cette appréciation, l'office AI a mis M._ au bénéfice d'une rente entière d'invalidité, fondée sur un taux d'invalidité de 100 %, du 1er juillet 2002 au 31 juillet 2005, puis d'une demi-rente fondée sur un taux d'invalidité de 51 % dès le 1er août 2005 (décision du 2 septembre 2008).
B. L'assuré a déféré cette décision au Tribunal cantonal, Cour des assurances sociales, du canton du Valais, qui l'a débouté par jugement du 22 février 2010.
C. M._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de frais et dépens, il conclut principalement à l'octroi d'une rente entière d'invalidité à partir du 5 août 2005. A titre subsidiaire, il demande le renvoi de la cause à l'office AI pour que soit mise en oeuvre une "nouvelle expertise indépendante".
L'office AI et l'Office fédéral des assurances sociales ont renoncé à se déterminer sur le recours.

Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit au sens des art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), n'examine en principe que les griefs invoqués (art. 42 al. 2 LTF) et fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF auquel cas il peut les rectifier ou les compléter d'office (art. 105 al. 2 LTF).
2. Le litige porte sur le droit du recourant au maintien de sa rente entière d'invalidité au-delà du 31 juillet 2005, en lieu et place de la demi-rente qui lui a été accordée dès cette date. A cet égard, le jugement attaqué expose correctement les règles légales et la jurisprudence qui sont applicables en l'espèce, si bien qu'il suffit d'y renvoyer.
3. Se fondant sur les conclusions des docteurs O._ et A._ du 19 septembre 2007, la juridiction cantonale a constaté que le recourant n'était plus en mesure, en raison des limitations induites par l'atteinte rachidienne sévère, d'exercer sa profession de préparateur et négociant, respectivement d'agriculteur, mais était capable, dès le mois d'avril 2005, de reprendre une activité adaptée aux limitations décrites par les experts à raison de 8 heures par jour, avec une diminution de rendement de 40 %. Examinant ensuite l'évolution de l'état de santé de l'assuré sur le plan psychique à partir de mars 2002 à la lumière des rapports des docteurs R._, médecin traitant, et B._, ainsi que de l'expertise complémentaire du 7 février 2008, les premiers juges ont constaté que l'état psychique du recourant n'avait jamais justifié d'incapacité de travail, malgré un état dépressif réactionnel noté dès mars 2002 et un épisode dépressif en avril 2007 qui s'était amendé par la suite. Ils ont considéré que l'évaluation complémentaire des docteurs O._ et A._ ne pouvait être suivie, dès lors qu'elle était entachée de contradictions et que ses conclusions étaient peu convaincantes, comme l'avait relevé le SMR dans son avis du 20 février 2008. En effet, malgré l'absence d'un diagnostic psychiatrique à caractère invalidant reposant sur des éléments objectifs, les experts avaient retenu que l'état de santé psychique justifiait à lui seul une diminution de rendement de 50 % dans toute activité.
En fonction de la capacité de travail résiduelle ainsi constatée, l'autorité cantonale de recours a confirmé la comparaison des revenus effectuée par l'intimé dont, entre autres éléments, le revenu hypothétique sans invalidité et l'abattement de 10 % sur le salaire statistique avec invalidité, ainsi que le résultat de celle-ci.
4. Invoquant l'arbitraire dans l'appréciation des preuves, le recourant reproche aux premiers juges de s'être écartés sans raison sérieuse de la seconde expertise de la Clinique X._ et des rapports de ses médecins traitants, alors qu'ils ont suivi les avis du SMR, entachés de "contradictions objectives". Il leur fait également grief d'avoir violé le droit à l'égalité des armes en tant qu'ils ont écarté par principe l'évaluation de ses médecins traitants et privilégié par principe celle des collaborateurs ayant un rapport de subordination avec l'intimé au détriment de l'avis des experts indépendants.
4.1 L'appréciation des preuves est arbitraire lorsque l'autorité ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.1 p. 9). L'appréciation des preuves doit être arbitraire non seulement en ce qui concerne les motifs évoqués par la juridiction cantonale pour écarter un moyen de preuve, mais également dans son résultat (<ref-ruling> consid. 1.3 p. 4 sv).
4.1 L'appréciation des preuves est arbitraire lorsque l'autorité ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.1 p. 9). L'appréciation des preuves doit être arbitraire non seulement en ce qui concerne les motifs évoqués par la juridiction cantonale pour écarter un moyen de preuve, mais également dans son résultat (<ref-ruling> consid. 1.3 p. 4 sv).
4.2 4.2.1 Dans le complément d'expertise du 7 février 2008, les docteurs O._ et A._ ont sur le plan psychique posé le diagnostic, avec répercussion sur la capacité de travail, de "autre trouble affectif de l'humeur persistant" (F34.8, CIM-10). Ils ont précisé que les critères de la dépression, présents en partie seulement, ne pouvaient être retenus, parce qu'ils n'avaient pas l'intensité nécessaire pour justifier un réel épisode dépressif ou une dysthymie. Au titre de diagnostics sans répercussion sur la capacité de travail, les experts ont retenu des troubles mentaux et troubles du comportement liés à l'utilisation d'alcool, actuellement abstinent, en rémission récente, ainsi qu'un trouble panique d'intensité légère. Ils ont également mentionné que le pronostic était favorable car le trouble de l'humeur pouvait être traité et avait déjà probablement répondu partiellement à la médication mise en place et que le trouble panique n'était pas limitatif en soi, alors que l'abstinence devait permettre une réduction des difficultés neurocognitives modérées. Répondant ensuite à la question de savoir quelle était l'influence des troubles constatés sur la capacité de travail, les docteurs O._ et A._ ont indiqué que la présence du trouble de l'humeur persistant et du trouble panique (non reconnu comme limitatif mais renforçant les autres troubles), la rémission récente du trouble mental et du comportement lié à l'alcool, ainsi que les difficultés mnésiques, certes peu limitatives dans les tâches habituelles, étaient susceptibles de réduire de moitié la capacité de travail résiduelle de l'exploré sur le plan purement psychiatrique.
4.2.2 Dans le rapport en cause, les experts ont certes expliqué, comme le fait valoir le recourant, les raisons pour lesquelles la situation était différente de celle qui prévalait au moment de leur première évaluation (l'intéressé avait osé s'exprimer et raconter ce qu'il n'avait pas pu évoquer quelques mois plus tôt). Leurs conclusions sur une incapacité de travail de 50 % sur le plan psychique seulement ne sont toutefois pas suffisamment étayées pour emporter la conviction. Dans la partie de leur expertise consacrée à l'appréciation du cas les médecins de la Clinique X._ s'emploient, d'une part, à mentionner les raisons pour lesquelles ils ne peuvent pas retenir un diagnostic de dysthymie ou d'épisode dépressif, plus sévère que celui posé d'autre trouble affectif de l'humeur (cf. DSM-IV-TR, Manuel diagnostique et statistique des troubles mentaux, 2003, p. 458 s.) et nient toute répercussion sur la capacité de travail du trouble panique et des troubles liés à l'utilisation d'alcool en rémission récente. D'autre part, ils attestent d'un degré relativement important d'incapacité de travail (50 %) sur le seul plan psychiatrique. On ne comprend cependant pas, faute d'explication sur ce point, les motifs pour lesquels l'atteinte psychique diagnostiquée, dont les experts ont mis en évidence le caractère peu sévère, serait susceptible de limiter la capacité de travail du recourant.
4.2.3 On ajoutera que selon la jurisprudence du Tribunal fédéral, une dysthymie - dont les symptômes n'étaient précisément pas réunis selon les experts, qui ont posé un diagnostic de la catégorie résiduelle - ne constitue en règle générale pas à elle seule une atteinte à la santé ayant un caractère invalidant. Cette conclusion, qui se fonde sur l'expérience médicale et relève dès lors d'une question de droit, n'a pas une valeur absolue; un trouble dystymique peut, dans un cas particulier, limiter la capacité de travail de l'intéressé, lorsqu'il survient avec d'autres atteintes, comme par exemple un grave trouble de la personnalité (arrêts du Tribunal fédéral I 649/06 du 13 mars 2007 consid. 3.3.1 et les arrêts cités, in SVR 2008 IV n° 8 p. 23; 9C_98/2010 du 28 avril 2010 consid. 2.2.2).
En l'occurrence, en l'absence de toute autre atteinte à la santé psychique dont les experts auraient reconnu les effets négatifs sur la capacité de travail - les autres troubles mentionnés ont été retenus au titre de diagnostics sans répercussion sur la capacité de travail -, la juridiction cantonale était en droit, quoi qu'en dise le recourant en lui reprochant en vain d'avoir discuté de l'application du CIM-10, de nier le caractère invalidant des troubles retenus par les experts dans leur complément d'expertise.
En conséquence, les raisons mentionnées par les premiers juges pour écarter les conclusions du complément d'expertise de la Clinique X._ ne sauraient être qualifiées d'arbitraires, sans qu'il soit nécessaire de mettre en oeuvre une nouvelle expertise, l'état de santé de l'assuré ne faisant l'objet d'aucune "incertitude" invoquée par le recourant.
4.3 En ce qui concerne le grief tiré de la violation du droit à l'égalité des armes, il doit également être rejeté. Contrairement à ce qu'affirme le recourant, la juridiction cantonale n'a en effet pas écarté "par principe" l'avis de ses médecins traitants (ce qui constituerait, en tant qu'un rapport médical serait écarté au seul motif qu'il est établi par le médecin traitant de la personne assurée, une violation du principe de la libre appréciation des preuves). Même s'ils ont mis en évidence l'origine des rapports (notamment) des docteurs R._ et B._ en rappelant la divergence consacrée par la jurisprudence entre un mandat thérapeutique et un mandat d'expertise, les premiers juges ont cependant aussi pris en considération les rapports des médecins traitants dans le cadre d'une appréciation globale de leur valeur probante. Ils ont en effet expliqué les raisons pour lesquelles ils ne pouvaient les suivre, compte tenu de l'absence de motivation de ces avis ou de toute indication quant à la capacité de travail de l'assuré dans une nouvelle activité adaptée.
4.4 Il résulte de ce qui précède que les griefs du recourant, qui ne conteste pas les autres aspects du jugement entrepris, sont mal fondés. Le recourant voit dès lors ses conclusions rejetées. Vu l'issue de la procédure, il supportera par ailleurs les frais de justice y afférents.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 10 septembre 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless