L'1 de desembre de 1990 Tauran va ser nomenat Secretari per a les Relacions amb els Estats de la Secretaria d'Estat i arquebisbe de Thelepte pel Papa Joan Pau II, rebent la seva consagració episcopal el 6 de gener de 1991 del mateix Joan Pau II, amb els arquebisbes Giovanni Battista Re i Justin Francis Rigali servint com a co-consagradors a la Basílica de Sant Pere. Com a Secretari, Tauran essencialment serví com a ministre d'exteriors del Vaticà. Davant del conflicte iraquià posà èmfasi en la importància del diàleg i les Nacions Unides, senyalant que «"una guerra unilateral d'agressió seria un crim contra la pau i contra la Convenció de Ginebra."»