Faits: A. Saisi d'une demande de prestations de l'assurance-invalidité présentée le 19 mars 2003 par N._, ressortissant étranger né en 1951, l'Office de l'assurance-invalidité (ci-après: l'office AI) pour le canton de Vaud a recueilli des renseignements économiques et médicaux. En particulier, il a chargé le Service psychiatrique X._ d'une expertise psychiatrique, qui a été rendue le 23 février 2006 par les docteurs K._ et T._. Posant notamment les diagnostics de trouble dépressif récurrent, épisode actuel sévère sans symptômes psychotiques et de trouble somatoforme douloureux persistant, ces médecins ont conclu à une incapacité totale de travail dans toute activité. Mandatés à leur tour pour examiner l'assuré, les docteurs G._, rhumatologue, et V._, psychiatre, du Service médical régional AI (SMR) lui ont reconnu une incapacité de travail de 60% dans son ancienne activité de manutentionnaire et intendant en raison d'une périarthrite scapulo-humérale gauche avec conflit sous-acromial. Niant toute pathologie psychiatrique, ils ont en revanche conclu à une capacité entière de travail dans une activité adaptée respectant les limitations décrites (rapport du 16 octobre 2006). Fort de ses conclusions, l'office AI a, par décision du 19 avril 2007, refusé toute rente, au motif que le degré d'invalidité de 5,07% obtenu après comparaison des revenus déterminants était insuffisant pour ouvrir le droit à une telle prestation. B. Statuant le 3 juillet 2008 sur le recours formé par N._ contre cette décision, le Tribunal des assurances du canton de Vaud (aujourd'hui: Tribunal cantonal, Cour des assurances sociales) l'a admis. Annulant la décision administrative, il a renvoyé la cause à l'office AI "pour qu'il procède conformément aux considérants" (ch. III du dispositif). C. L'office AI interjette un recours de droit administratif contre ce jugement, dont il demande l'annulation. Il a par ailleurs sollicité l'effet suspensif à son recours, ce qui lui a été accordé par ordonnance du 23 mars 2009. N._ conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.