Faits:
A. C._, soudeur de formation, a travaillé depuis l'année 2000 en qualité de préparateur logistique au service de X._ SA. Souffrant de douleurs chroniques de l'épaule droite sur troubles dégénératifs et post-traumatiques, il s'est annoncé à l'assurance-invalidité. L'état de santé de l'assuré et l'étendue de sa capacité de travail ont fait l'objet d'un examen pluridisciplinaire auprès du COMAI de Y._ (rapport du 27 avril 2007). Dans un rapport du 26 juin 2007, le docteur B._, médecin au SMR, a attesté que l'assuré présentait une capacité de travail de 60 % dans l'activité aménagée qu'il exerçait depuis 2005, tandis que la capacité était depuis toujours de 100 % dans une activité adaptée à ses limitations fonctionnelles (poste sédentaire en position assise, sans manipulation de charges supérieures à 3 kg, ni surélévation des bras au-dessus du plan horizontal). Par décision du 1er octobre 2007, l'Office de l'assurance-invalidité pour le canton de Vaud (l'office AI) a rejeté la demande de prestations après avoir arrêté le taux d'invalidité à 2 %. Celui-ci résultait de la comparaison d'un revenu d'invalide de 52'672 fr. (établi sur la base des statistiques salariales, en tenant compte d'un facteur d'abattement de 10 %), avec un revenu sans invalidité de 54'000 fr.
L'assuré est en arrêt de travail pour cause de maladie depuis le 19 octobre 2009. Le 9 avril 2010, il a déposé une nouvelle demande de prestations tendant à l'octroi d'une rente. L'instruction de la cause a mis en évidence une détérioration de l'état de santé depuis la décision du 1er octobre 2007, l'incapacité de travail étant désormais totale dans l'activité habituelle (de manutentionnaire) depuis le 16 octobre 2009. Une pleine capacité de travail restait toutefois exigible dans une activité adaptée aux limitations fonctionnelles (rapport du docteur B._, du 28 juillet 2010). Une nouvelle comparaison du revenu sans invalidité de 56'739 fr. avec un gain d'invalide de 52'177 fr. (établi sur la base des statistiques salariales, après application d'un facteur d'abattement de 15 %) a mis en évidence un degré d'invalidité de 8 %, ce qui a conduit l'office AI à rejeter la nouvelle demande, par décision du 21 janvier 2011.
B. C._ a déféré cette décision au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, en concluant à son annulation et à l'octroi d'une rente entière d'invalidité depuis le 1er octobre 2010. En bref, il a soutenu qu'il n'était plus en mesure de retrouver un emploi adapté à son handicap sur un marché équilibré du travail en raison de son âge.
L'office AI a conclu au rejet du recours, en rappelant qu'aucune modification des limitations fonctionnelles n'avait été mise en évidence dans le cadre de la nouvelle demande de prestations.
Par jugement du 6 janvier 2012, la juridiction cantonale a admis le recours et réformé la décision du 21 janvier 2011, en ce sens qu'elle a mis l'assuré au bénéfice d'une rente entière d'invalidité à compter du 1er octobre 2010, compte tenu d'une incapacité de travail totale à compter du 16 octobre 2009. En bref, les premiers juges ont considéré qu'il n'était pas réaliste qu'un employeur consente à offrir à l'assuré un emploi adapté à ses limitations fonctionnelles.
C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant au rétablissement de sa décision du 21 janvier 2011. Il sollicite par ailleurs l'attribution de l'effet suspensif au recours.
L'intimé a conclu au rejet du recours et de la requête d'effet suspensif, avec suite de frais et dépens. De son côté, l'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit:
1. Le litige porte sur le degré d'invalidité du recourant et son droit éventuel à une rente d'invalidité à partir du 1er octobre 2010, dans le cadre d'une nouvelle demande de prestations.
2. Aux termes de l'art. 87 al. 3 et 4 RAI, la nouvelle demande ne peut être examinée que si l'assuré établit de manière plausible que son invalidité s'est modifiée de façon à influencer ses droits. Ainsi, l'administration doit d'abord déterminer si les allégations de l'intéressé sont crédibles. Si tel n'est pas le cas, l'affaire est liquidée d'entrée de cause, sans investigations, par un refus d'entrer en matière. En revanche, si l'administration entre en matière, elle doit instruire la cause et déterminer si la modification de l'invalidité s'est effectivement produite. En cas de recours, cet examen matériel incombe au juge (<ref-ruling> consid. 3a).
3. A l'appui de ses conclusions, l'office recourant fait grief aux premiers juges d'avoir considéré que le simple fait que l'assuré prenne de l'âge constitue un motif d'octroi d'une rente entière. Il rappelle que si l'instruction du dossier médical a mis en évidence une aggravation de son état de santé excluant désormais l'exercice de son activité habituelle, il n'en demeure pas moins que ses limitations fonctionnelles ne font pas obstacle à l'exercice d'une activité adaptée à plein temps, la situation restant inchangée. Selon le recourant, la juridiction cantonale a éludé cette question en admettant que l'intimé avait un âge avancé au sens de la jurisprudence, aussi bien lorsque la décision du 21 janvier 2011 a été rendue qu'au moment hypothétique de la naissance du droit à la rente, ce qui justifiait l'octroi d'une rente entière à compter d'octobre 2010. Dans la mesure où l'on se trouve en présence d'une nouvelle demande de prestations, consécutive à un précédent refus, le recourant soutient que les premiers juges n'auraient pas dû évaluer l'invalidité d'un assuré proche de l'âge de la retraite, mais examiner si un changement important susceptible d'influencer le degré d'invalidité s'était produit depuis la décision du 1er octobre 2007. Le recourant allègue que l'intimé dispose toujours d'une pleine capacité de travail dans une activité adaptée, si bien que l'instance inférieure n'était pas légitimée à conclure que le simple écoulement du temps, qui n'est pas une atteinte à la santé, pouvait justifier l'octroi d'une rente entière.
De son côté, l'intimé estime que le recourant s'écarte librement de l'état de fait retenu par la juridiction cantonale, en déduisant à tort du jugement attaqué que sa capacité de travail n'aurait pas subi de modification dans une activité adaptée. A son avis, les premiers juges ont constaté qu'il ne dispose pas d'une pleine capacité de travail exigible dans une activité adaptée. De plus, il ne ressort pas du jugement que l'écoulement du temps pourrait justifier l'octroi d'une rente.
4. Contrairement à l'opinion que semble défendre l'office recourant, une administration ne saurait limiter son examen à la question de savoir si un changement important susceptible d'influencer le degré d'invalidité s'est produit, lorsqu'elle entre en matière sur une nouvelle demande au sens de l'art. 87 al. 3 et 4 RAI. En effet, dès lors que l'office AI se saisit du fond d'une nouvelle demande, il doit en instruire tous les aspects (médicaux et juridiques, notamment) et déterminer si la modification de l'invalidité s'était effectivement produite (<ref-ruling> consid. 4b p. 200 ; ULRICH MEYER, Bundesgesetz über die Invalidenversicherung, 2e éd., p. 399), comme s'il se prononçait pour la première fois sur le droit aux prestations. Ainsi, lorsqu'un assuré qui se trouve proche de l'âge de la retraite présente une nouvelle demande et que l'administration décide d'entrer en matière sur celle-ci, les principes jurisprudentiels concernant ce genre de situations (cf. arrêts 9C_444/2010 du 20 décembre 2010 consid. 2.3, 9C_437/2008 du 19 mars 2009 consid. 4.2 in SVR 2009 IV n° 35 p. 98) s'appliquent sans restriction.
En l'espèce, la juridiction cantonale a constaté que l'intimé n'a désormais plus de capacité de travail dans son ancienne activité de manutentionnaire, en raison de l'aggravation de son état de santé. Elle a cependant renoncé à fixer précisément la capacité résiduelle de travail de l'intimé dans une activité adaptée par une approche médicale (consid. 3b in fine du jugement attaqué, pp. 11 et 12), au motif que les possibilités de retrouver un tel emploi ne sont pas réalistes compte tenu des limitations fonctionnelles et de l'âge de l'intimé, ces facteurs justifiant en l'espèce l'octroi d'une rente entière (consid. 4b p. 13).
Depuis le refus signifié le 1er octobre 2007, les circonstances économiques et personnelles ont évolué, car - même en supposant que la capacité de travail soit demeurée inchangée dans un emploi adapté, ce qui est contesté - l'intimé n'a désormais plus aucune chance de retrouver un emploi en raison de ses limitations fonctionnelles et de son âge. Sur ce point, l'appréciation du tribunal cantonal n'apparaît pas insoutenable. Le recourant n'expose pas en quoi la juridiction cantonale aurait appliqué les règles jurisprudentielles relatives à l'évaluation de l'invalidité d'assurés proches de l'âge de la retraite de manière erronée. On observera aussi que le recourant, qui s'oppose à leur application, avait pourtant lui-même révisé le taux d'invalidité à la hausse (de 2 % à 8 %), dans sa décision du 21 janvier 2011, en appliquant les principes jurisprudentiels relatifs à l'abattement à porter sur le revenu d'invalide, notamment pour tenir compte de l'âge, lorsque celui-ci est établi à partir de statistiques salariales.
5. Le présent arrêt rend sans objet la requête d'effet suspensif.
6. Le recourant, qui succombe, supportera les frais de la procédure (<ref-law>) et les dépens de l'intimé (art. 68 al. 1LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimé une indemnité de dépens de 2'500 fr. (y compris la TVA) pour la procédure fédérale.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 9 juillet 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Berthoud