В іграх за молодіжну збірну Англії Грівз забив 13 м'ячів у 12 матчах. 1959 року дебютував в офіційних матчах у складі національної збірної Англії. Протягом кар'єри у національній команді, яка тривала 9 років, провів у формі головної команди країни 57 матчів, забивши 44 голи. У складі збірної був учасником чемпіонату світу 1962 року в Чилі та чемпіонату світу 1966 року в Англії. На груповому етапі ЧС-1966 футболіст зазнав травми і поступився своїм місцем в основі Джеффові Герсту, який і зіграв у фіналі. Англія виграла той чемпіонат, але за тодішніми правилами медаль отримували лише 11 футболістів, які перебували на полі наприкінці фінального матчу. Грівзу вручили медаль лише 2009 року, коли ФІФА змінила правила. Також виступив на чемпіонату Європи 1968 року в Італії, на якому команда здобула бронзові нагороди.