Faits:
A. Y._ s'est annoncé à l'assurance-invalidité le 3 juin 2008 en invoquant une dépression nerveuse chronique et de la fibromyalgie.
L'Office de l'assurance-invalidité pour le canton de Vaud (l'office AI) a recueilli un rapport médical bidisciplinaire (rhumatologique et psychiatrique) du SMR établi par les docteurs R._ et V._ (du 1er septembre 2008), dont il ressortait en bref que l'assuré conservait une capacité de travail entière dans son activité habituelle (technicien supérieur ou laborant en biologie). De son côté, le docteur M._, spécialiste en psychiatrie et psychothérapie, médecin traitant, a attesté que son patient n'était pas en mesure d'assumer et de supporter psychiquement une activité professionnelle, en raison d'un trouble dépressif récurrent, d'une personnalité à traits paranoïaques et de troubles somatoformes douloureux (rapport du 3 mars 2009). Le docteur C._, du SMR, a estimé que ces diagnostics ne justifiaient pas une incapacité de travail de longue durée au sens de l'AI (avis du 9 avril 2009).
Par décision du 20 octobre 2009, faisant suite à un projet de décision du 20 janvier 2009, l'office AI a rejeté la demande.
B. Y._ a déféré cette décision à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud, en concluant au préalable à la mise en oeuvre d'une expertise psychiatrique, sur le fond au versement d'une rente entière d'invalidité dès le 1er septembre 2008. L'office AI a conclu au rejet du recours.
L'assuré a répliqué.
Par jugement du 3 juin 2010, la juridiction cantonale a rejeté le recours.
C. Y._ interjette un recours en matière de droit public contre ce jugement dont il demande principalement l'annulation, avec suite de frais et dépens, en concluant au renvoi de la cause au tribunal cantonal ou à l'office intimé pour nouvelle expertise, subsidiairement au renvoi de la cause aux premiers juges afin qu'il rendent un jugement motivé après la mise en oeuvre d'un second échange d'écritures.
L'office intimé conclut implicitement au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Le recourant ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été établis en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire arbitraire (cf. Message concernant la révision totale de l'organisation judiciaire fédérale du 28 février 2001, FF 2001 p. 4135), et si la correction du vice est susceptible d'influer sur le sort de la cause. La violation peut consister en un état de fait incomplet, car l'autorité précédente viole le droit matériel en n'établissant pas tous les faits pertinents pour l'application de celui-ci. L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier, ou contraire au sens de la justice et de l'équité ou lorsque l'autorité ne tient pas compte, sans raison sérieuse, d'un élément propre à modifier la décision, se trompe sur le sens et la portée de celui-ci ou, se fondant sur les éléments recueillis, en tire des constatations insoutenables (ATF 134 V 53 consid. 4.3 p. 62 et les références). Il appartient au recourant de démontrer le caractère arbitraire par une argumentation répondant aux exigences de l'art. 42 al. 2 LTF, respectivement de l'art. 106 al. 2 LTF (ATF 133 II 249 consid. 1.4.3 p. 254 s.).
2. Les premiers juges ont exposé correctement les règles applicables en matière d'appréciation des preuves, d'égalité des armes dans le procès, ainsi que celles qui se rapportent à la notion d'invalidité, si bien qu'il suffit de renvoyer aux consid. 2 et 3 du jugement attaqué.
3. Il s'agit de déterminer si le tribunal cantonal a violé le droit fédéral en admettant, sur la base des avis psychiatriques recueillis, que le recourant ne présentait pas d'invalidité ouvrant le droit à une rente. Ce dernier formule trois griefs à l'encontre du jugement.
3.1 En premier lieu, le recourant se plaint d'une violation de son droit d'être entendu car le tribunal cantonal aurait omis de procéder à un second échange d'écritures.
Ce moyen est infondé, car le recourant a eu l'occasion de répliquer et s'est exprimé en dernier lieu.
3.2 Le recourant soutient que son droit d'être entendu a également été violé par le fait que la juridiction cantonale n'a pas exposé les raisons qui l'ont conduite à fonder son jugement uniquement sur l'avis des médecins du SMR, sans prendre en considération les doutes exprimés par son médecin traitant, le docteur M._, qui le suit pourtant de longue date.
Ce moyen n'est pas mieux fondé que le précédent. En effet, le recourant paraît oublier que les juges cantonaux ont reproduit non seulement les passages essentiels du rapport d'expertise bidisciplinaire du SMR du 1er septembre 2008 et de l'appréciation du docteur C._ du 9 avril 2009, mais aussi ceux du rapport du docteur M._ du 3 mars 2009. Cela fait, les premiers juges ont discuté ces avis et ont dûment motivé leur choix de s'en tenir aux conclusions des médecins du SMR plutôt qu'à celles du psychiatre traitant (jugement attaqué, consid. 4 p. 14 ss, singulièrement consid. 4e p. 17).
3.3 En dernier lieu, le recourant rappelle qu'une expertise doit être mise en oeuvre lorsque les rapports du médecin traitant laissent subsister des doutes, mêmes faibles, quant à la fiabilité et la pertinence des constatations médicales effectuées par les médecins de l'assurance (cf. ATF 135 V 465). Dans son cas, le recourant soutient que le rapport du docteur M._ (du 3 mars 2009) a fait peser des doutes sur la pertinence de l'avis psychiatrique du docteur V._, qu'il qualifie non seulement de légers mais d'énormes. Il s'agit toutefois de critiques de nature appellatoire qui ne sont pas recevables (par ex. arrêts 9C_100/2009 du 28 août 2009 consid. 9.2, in SVR 2009 EL n° 7 p. 30, et 8C_235/2010 du 4 novembre 2010 consid. 6).
L'issue du litige ne serait pas différente si la Cour de céans disposait d'un pouvoir d'examen plus étendu, car le docteur M._ n'a pas fait état d'affections psychiatriques invalidantes dans son rapport du 3 mars 2009. D'une part, le trouble dépressif récurrent, épisode actuel léger (F33.1), que ce psychiatre avait diagnostiqué, ne présentait aucun caractère de gravité et le patient bénéficiait d'un suivi médical approprié. D'autre part, le docteur M._ n'a pas placé les troubles somatoformes douloureux (F45) en tête des diagnostics qu'il a retenus, ce syndrome ne pouvant être qualifié de grave à la lecture du rapport du docteur V._. En ce qui concerne finalement le diagnostic de personnalité à traits paranoïaques (T60.0) posé par le docteur M._, il convient de relever que le docteur C._ a précisé à cet égard que des "traits de personnalité" n'ont pas de valeur de maladie et qu'ils ne doivent pas être confondus avec un "trouble de la personnalité", lequel reflète un fonctionnement pathologique et doit répondre à des critères bien définis qui ne sont pas remplis dans le présent cas.
On ajoutera que le point de vue du docteur M._, qui estime que le recourant présenterait une incapacité de travail durable en raison du fait qu'il n'est jamais resté plus de quelques mois au service d'un même employeur, ne constitue qu'une pure hypothèse. Or celle-ci n'a pas été confirmée par un avis médical et ne présente pas un degré de vraisemblance prépondérante. L'administration ou le juge ne sauraient ainsi, en pareilles circonstances, statuer en faveur de l'assuré (cf. ATF 135 V 39 consid. 6.1 in fine p. 45 et la référence).
4. En résumé, le recourant n'a pas démontré en quoi l'appréciation des preuves aurait été manifestement insoutenable (cf. consid. 1 supra), au point de justifier l'annulation du jugement attaqué. Le recours se révèle infondé.
5. Le recourant, qui succombe, supportera les frais de la procédure (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 18 novembre 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Berthoud