与李鸿章建立起了友谊。格兰特向切斯特·艾伦·阿瑟总统引荐杨约翰，他也因此受命于1882年成为美国驻华公使。在这段任职期间，他为美中关系和法中关系的稳定起到了重要作用。1885年，他继续回到欧洲为《纽约先驱报》工作。1890年他回到费城。1897年威廉·麦金莱总统委任他为国会图书馆馆长，他也是第一个由国会任命的国会图书馆馆长。在他的任期中，国会图书馆从原先在美国国会大厦的办公地点搬到了他们自己的新建筑物中（主要由他的前任史邦福达成）。史邦福作为杨约翰手下的馆长总助理。杨约翰在此职位上任职直至去世。他的