Faits:
A. Ebéniste de profession, A._ (né en 1952) exerce son métier à titre indépendant depuis 1978. Souffrant notamment de cervico-brachialgies, de lombalgies et d'un état dépressif récurrent, il a réduit son temps de travail, puis présenté une demande de prestations de l'assurance-invalidité tendant à l'octroi d'une orientation profession-nelle, en mars 2004.
Après avoir recueilli des renseignements médicaux et économiques, l'Office cantonal AI du canton du Valais (ci-après: l'office AI) a chargé le docteur M._, spécialiste FMH en chirurgie orthopédique, d'une expertise. Dans son rapport du 21 décembre 2005 - qui comprenait également une évaluation psychiatrique de la doctoresse D._ -, le médecin a indiqué que la poursuite de l'activité d'ébéniste n'était exigible qu'à 50 %; en revanche, une activité plus légère et mieux adaptée pouvait être exercée à 100 % par l'assuré depuis le mois de mars 2004. L'administration a alors examiné les possibilités d'une nouvelle orientation professionnelle de A._, qui lui a cependant indiqué vouloir poursuivre son activité habituelle. Le 13 juin 2006, l'office AI a rendu une décision par laquelle il a rejeté la demande de rente, au motif que l'assuré ne présentait qu'un taux d'invalidité de 20 %, insuffisant pour ouvrir le droit à une rente. Le lendemain, il a refusé une mesure de reclassement et une aide au placement, en considérant, entre autres raisons, que des mesures professionnelles - que l'intéressé ne souhaitait par ailleurs pas entreprendre - n'étaient pas susceptibles d'améliorer la capacité de gain de A._, compte tenu de son âge et de sa formation antérieure. L'assuré s'est opposé à ces décisions, en produisant un avis complémentaire de la doctoresse D._ daté du 11 septembre 2006, puis de la doctoresse U._, également psychiatre (du 20 novembre 2006). L'office AI l'a alors soumis à une expertise auprès du docteur R._, spécialiste en psychiatrie, qui a conclu à l'absence de limitation de la capacité de travail sur le plan psychique, en dehors de la révolte de l'assuré à l'encontre des institutions dont il sollicite de l'aide et de son opposition aux mesures professionnelles proposées (rapport du 28 janvier 2007). Le 8 mars 2007, l'office AI a confirmé le refus de prestations, en rejetant l'opposition de A._.
B. Statuant le 20 novembre 2007 sur le recours formé par l'intéressé contre la décision sur opposition, le Tribunal cantonal des assurances du canton du Valais l'a admis. Annulant la décision du 8 mars 2007, il a retourné la cause à l'administration "pour instruction complémentaire et nouvelle décision au sens du considérant 3c in fine".
C. L'office AI interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de frais, il conclut principalement au renvoi de la cause au Tribunal cantonal valaisan des assurances pour nouveau jugement, subsidiairement à la confirmation de sa décision du 8 mars 2007 et, plus subsidiairement encore, que la cause lui soit renvoyée pour instruction complémentaire et nouvelle décision.
Sous suite de frais et dépens, A._ conclut principalement à l'irrecevabilité du recours, subsidiairement à son rejet et, plus subsidiairement encore, à l'admission du recours en ce sens que lui soit allouée une demi-rente d'invalidité. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire. Tant le Tribunal cantonal des assurances du canton du Valais que l'Office fédéral des assurances sociales ont renoncé à présenter des déterminations.
Considérant en droit:
1. 1.1 Le dispositif du jugement entrepris a pour objet l'annulation de la décision du recourant du 8 mars 2007 et le renvoi du dossier à celui-ci pour instruction complémentaire et nouvelle décision "au sens du considérant 3c in fine". En tant qu'il renvoie le dossier à l'administration pour une nouvelle décision, le jugement entrepris doit être qualifié de décision incidente qui peut être attaquée aux conditions de l'art. 93 LTF.
Dans le considérant auquel renvoie le dispositif de l'arrêt entrepris, la juridiction cantonale a retenu que seule une activité d'ébéniste à 50 % était encore exigible de l'intimé, de sorte que des mesures d'ordre professionnel ou une aide au placement n'entraient pas en considération, seule une rente d'invalidité pouvant être allouée. Il appartenait à l'office AI de fixer le taux d'invalidité en appliquant la méthode extraordinaire d'évaluation, dès lors qu'il n'était pas possible de déterminer de manière fiable les revenus à comparer. La cause lui était par conséquent renvoyée à cette fin.
Il s'agit, en l'espèce, d'un arrêt de renvoi qui ne laisse plus de latitude de jugement à l'administration sur plusieurs aspects du droit litigieux à des prestations d'assurance: l'autorité cantonale de recours y détermine qu'un changement de profession n'est pas exigible de l'intimé et fixe le taux d'incapacité de travail dans l'activité d'ébéniste, de même que la méthode d'évaluation de l'invalidité à appliquer. Aussi, le recourant est-il tenu de rendre une décision qui, selon lui, est contraire au droit fédéral. En cela, il subit un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF (sur cette notion, voir ATF 134 I 83 consid. 3.1 p. 87, 134 III 188 consid. 3.1 et 2.2 p. 190 s., 133 V 477 consid. 5.2.1 p. 483, 645 consid. 2.1 p. 647). C'est en vain que l'intimé soutient le contraire, en se fondant sur l'arrêt 2P.277/2005 du Tribunal fédéral du 29 septembre 2005. L'existence d'un dommage irréparable pour la partie recourante avait certes été niée dans cet arrêt, mais celle-ci n'était pas, comme en l'espèce, l'autorité administrative de décision, mais les destinataires de la décision litigieuse, de sorte que la question du préjudice irréparable avait été appréciée du point de vue des justiciables et non de l'administration invitée à rendre une (nouvelle) décision. Il convient dès lors d'entrer en matière sur le recours de l'office AI.
On précisera toutefois qu'au regard du dispositif du jugement entrepris, la conclusion "plus" subsidiaire du recourant, qui demande que la cause lui soit renvoyée pour instruction complémentaire et nouvelle décision, n'a pas d'objet. Elle n'est par ailleurs pas motivée, de sorte qu'elle est irrecevable (art. 42 al. 1 et 2 LTF).
1.2 Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon l'art. 95 sv. LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF).
En ce qui concerne plus particulièrement l'évaluation de l'invalidité, conformément aux principes relatifs au pouvoir d'examen développés par le Tribunal fédéral (ATF 132 V 393 consid. 3 p. 397 ss), les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (ATF 132 V 393 consid. 3.2 p. 398).
1.3 Les modifications de la LAI du 6 octobre 2006 (5ème révision de la LAI), entrées en vigueur le 1er janvier 2008, n'ont pas à être prises en considération dans le présent litige, eu égard au principe selon lequel les règles applicables sont celles en vigueur au moment de la réalisation de l'état de fait dont les conséquences juridiques font l'objet de la décision (ATF 129 V 1 consid. 1.2 p. 4 et les arrêts cités).
2. 2.1 Dans le jugement entrepris, la juridiction cantonale a nié que les conditions du droit à des mesures de réadaptation d'ordre professionnel - rejetées par la décision administrative litigieuse - fussent remplies, le renvoi de la cause au recourant ne portant que sur la détermination du taux d'invalidité dans le cadre du droit à la rente. Les parties ne contestent pas ce point - l'intimé concluant (à titre subsidiaire) uniquement à l'octroi d'une demi-rente d'invalidité. Aussi, l'autorité cantonale de recours a-t-elle tranché de manière définitive la question du droit à des mesures de réadaptation d'ordre professionnel. En instance fédérale, le litige a donc pour objet le droit de l'intimé à une rente d'invalidité, singulièrement le taux d'invalidité qu'il présente.
2.2 Selon l'art. 8 al. 1 LPGA (et 4 al. 1 LAI), l'invalidité est l'incapacité de gain totale ou partielle, présumée permanente ou de longue durée, qui résulte d'une atteinte à la santé physique, mentale ou psychique, provenant d'une infirmité congénitale, d'une maladie ou d'un accident. Selon l'art. 28 al. 1 LAI, l'assuré a droit à une rente entière s'il est invalide à 70 % au moins, à un trois-quarts de rente s'il est invalide à 60 % au moins, à une demi-rente s'il est invalide à 50 % au moins, ou à un quart de rente s'il est invalide à 40 % au moins.
Chez les assurés actifs, le degré d'invalidité doit être déterminé sur la base d'une comparaison des revenus. Pour cela, le revenu du travail que l'assuré pourrait obtenir en exerçant l'activité qu'on peut raisonnablement attendre de lui, après les traitements et l'exécution éventuelle de mesures de réadaptation et compte tenu d'une situation équilibrée du marché du travail, est comparé au revenu qu'il aurait pu obtenir s'il n'était pas invalide (art. 16 LPGA et 28 al. 2 LAI). La comparaison des revenus s'effectue, en règle générale, en chiffrant aussi exactement que possible les montants de ces deux revenus et en les confrontant l'un avec l'autre, la différence permettant de calculer le taux d'invalidité. Dans la mesure où ces revenus ne peuvent être chiffrés exactement, ils doivent être estimés d'après les éléments connus dans le cas particulier, après quoi l'on compare entre elles les valeurs approximatives ainsi obtenues. Si l'on ne peut déterminer ou évaluer sûrement les deux revenus en cause, il faut, en s'inspirant de la méthode spécifique pour non-actifs (art. 27 RAI), procéder à une comparaison des activités et évaluer le degré d'invalidité d'après l'incidence de la capacité de rendement amoindrie sur la situation économique concrète. La différence fondamentale entre la procédure extraordinaire d'évaluation et la méthode spécifique réside dans le fait que l'invalidité n'est pas évaluée directement sur la base d'une comparaison des activités; on commence par déterminer, au moyen de cette comparaison, quel est l'empêchement provoqué par la maladie ou l'infirmité, après quoi l'on apprécie séparément les effets de cet empêchement sur la capacité de gain. Une certaine diminution de la capacité de rendement fonctionnelle peut certes, dans le cas d'une personne active, entraîner une perte de gain de la même importance, mais n'a pas nécessairement cette conséquence. Si l'on voulait, dans le cas des personnes actives, se fonder exclusivement sur le résultat de la comparaison des activités, on violerait le principe légal selon lequel l'invalidité, pour cette catégorie d'assurés, doit être déterminée d'après l'incapacité de gain (procédure extraordinaire d'évaluation; ATF 128 V 29 consid. 1 p. 30 et les arrêts cités).
3. 3.1 Il est constant que la capacité de travail de l'intimé est limitée à 50 % dans son activité habituelle d'ébéniste, mais qu'elle est en revanche entière dans une activité adaptée aux limitations fonctionnelles décrites par le docteur M._ (rapport du 21 décembre 2005). La juridiction cantonale a cependant considéré qu'on ne pouvait raisonnablement exiger de A._ qu'il changeât de profession. Il ressortait en effet du dossier médical qu'une reconversion professionnelle était contre-indiquée sur le plan psychique. De plus, l'assuré avait travaillé toute sa vie dans la menuiserie/ébénisterie, sans avoir d'expérience professionnelle dans un autre domaine, de sorte qu'il n'avait pratiquement aucune chance de trouver un emploi sur le marché du travail entrant en considération pour lui. Même si une telle possibilité lui était offerte, il était hautement vraisemblable qu'il ne pourrait la saisir, avant tout pour les raisons psychiques énoncées par les doctoresses D._ et U._.
3.2 Critiquant la constatation des premiers juges quant à la non-exigibilité de la reprise d'une activité adaptée, le recourant fait tout d'abord valoir qu'elle serait incomplète: la juridiction cantonale a retenu que l'intimé souffrait d'un trouble dépressif récurrent, sans avoir précisé qu'il s'agissait d'un épisode actuel léger (forme la plus légère de cette atteinte). On ne voit cependant pas - et le recourant ne l'explique pas - en quoi cette correction serait susceptible d'influer le sort de la cause (art. 97 al. 1 LTF), de sorte que son grief est mal fondé.
3.3 Le recourant invoque ensuite une violation du principe de la libre appréciation des preuves et reproche à la juridiction cantonale de ne pas s'être fondée sur le rapport du docteur R._. Contrairement à ce qu'elle a retenu, l'expert psychiatre aurait dûment motivé le diagnostic d'état réactionnel constitué de plaintes dépressives, de sorte qu'elle ne pouvait s'en écarter pour ce motif.
3.3.1 Examinant les rapports psychiatriques au dossier, les premiers juges ont constaté que les avis des docteurs O._, D._ et U._, d'une part, et du docteur R._, d'autre part, étaient contradictoires sur le point de savoir si une autre activité que celle d'ébéniste était exigible de l'intimé. Ils ont suivi l'appréciation des premiers, parce que le second retenait un trouble de l'adaptation et ne disait pas précisément en quoi le diagnostic de trouble dépressif récurrent retenu par ses confrères était erroné ou prêtait le flanc à la critique.
3.3.2 Dans son rapport du 12 décembre 2005, la doctoresse D._ est arrivée à la conclusion que pris isolément, le trouble dépressif récurrent ne justifiait pas une incapacité de travail, mais qu'il y avait vraisemblablement lieu de s'attendre à une aggravation de la problématique psychique qui revêtait déjà une composante chronique. Une reconversion professionnelle lui paraissait par ailleurs contre-indiquée, parce que l'assuré ne lui semblait pas psychiquement à même d'affronter une autre orientation en raison notamment de sa problématique narcissique et de ses troubles de la concentration liés à l'état dépressif. Le médecin a encore précisé qu'au vu des capacités adaptatives et des ressources de l'intimé, il existait un risque d'effondrement sur le plan narcissique et un risque accru de dépression s'il était contraint à une autre activité que celle d'ébéniste (avis du 11 septembre 2006). La doctoresse U._ partageait expressément cette appréciation et faisait état de l'incapacité psychique de son patient à se projeter dans une autre activité que celle qu'il avait toujours exercée, à la suite de son père et de son grand-père. De son côté, le docteur R._ a diagnostiqué des troubles de l'adaptation avec prédominance de la perturbation d'autres émotions (F43.23) et conclu à l'absence de limitation sur le plan psychique empêchant l'exercice d'une activité adaptée en dehors de la révolte et de l'opposition de l'assuré.
En l'espèce, au regard de l'expertise de la doctoresse D._, les conclusions du docteur R._ apparaissent, quoi qu'en dise le recourant, insuffisamment motivées. L'expert pose un diagnostic et une évaluation de la possibilité d'une reconversion professionnelle qui divergent de ceux des psychiatres qui se sont exprimés avant lui, sans toutefois expliquer ces différences. Il se réfère certes aux avis psychiatriques antérieurs, mais n'indique pas les raisons pour lesquelles il s'en écarte ou en quoi ils seraient erronés. Il mentionne, au contraire, que l'état de santé psychique de l'assuré ne s'est pas vraiment modifié depuis l'expertise de la doctoresse D._ du 12 décembre 2005, "seule la manière de l'interpréter ayant pu varier". Faute d'expliquer en quoi son interprétation de la situation serait plus correcte que celle de ses confrères, le docteur R._ ne motive pas suffisamment son appréciation, de sorte que la juridiction cantonale était en droit de s'en écarter pour suivre l'appréciation de la doctoresse D._, sans qu'on puisse y voir une violation des règles sur la libre appréciation des preuves.
3.4 Il en va de même de l'appréciation des premiers juges quant à la non exigibilité d'une reconversion professionnelle de l'intimé en tant que telle. Elle est en effet fondée sur les conclusions de la doctoresse D._, selon lesquelles une reconversion professionnelle paraissait contre-indiquée sur le plan psychique. Contrairement à ce que prétend le recourant, la psychiatre motive le risque d'aggravation de la dépression par la structure et les traits psychiques du recourant (réactivation de sentiments d'échec, traits de caractère [rigidité et absence de souplesse]) et non pas de manière prépondérante par les difficultés d'apprentissage. Par ailleurs, le principe de l'appréciation des preuves selon le degré de la vraisemblance prépondérante n'empêche pas de prendre en considération un pronostic futur, comme l'a fait l'autorité cantonale de recours. Ainsi, il convient d'admettre une incapacité de travail non seulement lorsqu'une personne n'est plus capable d'exercer totalement ou partiellement son activité habituelle en raison d'une atteinte à la santé, mais également lorsqu'une personne ne peut continuer son activité professionnelle qu'au risque d'une aggravation de son état de santé (ATF 130 V 343 consid. 3.1 p. 345 et les références). L'appréciation des premiers juges, qui ont, en plus du risque d'aggravation de l'état de santé du recourant en cas de changement de profession, pris en compte d'autres éléments que le recourant ne remet pas en question (par exemple, absence d'expérience professionnelle dans un autre domaine, atteintes somatiques limitant les possibilités d'engagement futur), n'apparaît ni insoutenable, ni contraire au droit.
3.5 En conséquence de ce qui précède, il n'y a pas à s'écarter de la constatation des premiers juges selon laquelle le recourant n'est plus apte à exercer une autre activité professionnelle que celle d'ébéniste à 50 %.
4. 4.1 En ce qui concerne les répercussions économiques de l'incapacité de travail de l'intimé, le recourant reproche à la juridiction cantonale de n'avoir pas examiné les éléments de calcul de l'incapacité de gain auquel il avait procédé "en application de la méthode extraordinaire d'évaluation" et de n'avoir pas fixé elle-même le taux d'invalidité. Il y voit une violation du droit d'être entendu - sous l'aspect du devoir de motivation -, une violation de la maxime d'office, ainsi qu'un déni de justice, le renvoi de la cause pour qu'il fixe le taux d'invalidité en fonction de la méthode extraordinaire d'évaluation apparaissant comme "un prétexte pour ne pas trancher l'affaire au fond".
4.2 Au regard de la décision initiale, puis de la décision sur opposition du 8 mars 2007, on constate que si l'office AI a considéré devoir appliquer la méthode extraordinaire d'évaluation de l'invalidité - ce que l'intimé ne conteste pas -, il a en réalité effectué une comparaison des revenus selon la méthode ordinaire d'évaluation, tout en recourant à des éléments relevant de la comparaison des champs d'activités. Une telle manière de procéder ne correspond pas aux modalités de calcul de la méthode extraordinaire (consid. 2.2 supra; voir la formule d'évaluation dans ATF 128 V 29 consid. 4c p. 33). Vu l'application erronée de la méthode d'évaluation par l'administration, la juridiction cantonale était en droit d'annuler la décision litigieuse et de lui renvoyer la cause pour qu'elle fixe le taux d'invalidité en application des règles d'évaluation propres à la méthode extraordinaire (et en fonction de la capacité de travail réduite de l'intimé dans sa profession), sans qu'on puisse lui reprocher un déni de justice ou une violation de la maxime d'office.
Par ailleurs, même si la motivation du jugement entrepris est relativement succincte sur ce point, il découle cependant du considérant 3c du jugement entrepris que la décision sur opposition reposait, de l'avis des premiers juges, sur une évaluation incorrecte de la capacité résiduelle de travail de l'assuré et une application erronée de la méthode d'évaluation de l'invalidité, ce qui justifiait d'ordonner au recourant de procéder à un nouveau calcul du taux d'invalidité. Quant à "l'instruction complémentaire" prononcée dans le chiffre 1 du dispositif de l'arrêt attaqué, elle revient à indiquer au recourant de reprendre l'examen de l'incapacité de gain de l'intimé, sans qu'il s'agisse, contrairement à ce que semble avoir compris l'office AI, de mettre (nécessairement) en oeuvre une nouvelle mesure d'instruction. Le grief tiré du défaut de motivation doit dès lors être rejeté.
5. Il résulte de ce qui précède que le jugement entrepris n'est pas critiquable et le recours se révèle mal fondé.
6. Compte tenu de l'issue du litige, les frais de justice seront supportés par le recourant, qui succombe (art. 66 al. 1 en corrélation avec l'art. 65 al. 4 let. a LTF). En outre, l'intimé a droit à des dépens à la charge du recourant (art. 68 al. 1 LTF), de sorte que sa demande d'assistance judiciaire est sans objet.
Par ces motifs, le Tribunal fédéral prononce:
1. Dans la mesure où il est recevable, le recours est rejeté au sens des considérants.
2. Les frais de justice, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimé la somme de 2500 fr. à titre de dépens pour la dernière instance.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal des assurances du canton du Valais et à l'Office fédéral des assurances sociales.
Lucerne, le 6 octobre 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
p. le Président: La Greffière:
Borella Moser-Szeless