他为男爵，使他进入上院并同时担任上议院领袖，去化解一场危机。对此格伦维尔感到受宠若惊，恐怕自己难以应付重任。格伦维尔的内政大臣任期很快结束。1791年，外务大臣利兹公爵（Duke of Leeds）派遣舰队到黑海一带，要求俄国撤出驻守在前土耳其堡垒奥恰基夫里的士兵，使得两国关系一度紧张，小皮特最后选择退让，召回舰队。利兹公爵不满小皮特向俄国示弱，辞去了外交大臣职务。小皮特最初选择亨利·邓达斯（Henry Dundas）为利兹公爵的继任人，但遭到前者拒绝，所以，他转向了亲信格伦维尔。格伦维尔考虑了一段时间