В качестве президента Военной коллегии (1763—1774) способствовал лучшему административно-хозяйственному управлению русской армией в войнах с Турцией и Барской конфедерацией. Ему удалось добиться проведения ряда мер, укрепивших централизм в военном управлении: были приняты новые штаты Военной коллегии, главной канцелярии артиллерии и фортификации, управления комиссариатских учреждений; при Военной коллегии учреждена типография. Были изданы положения, инструкции и учреждены штабы для полков. Самым важным мероприятием стало образование генерального штаба, и на З. Г. Чернышёва было возложено непосредственное высшее заведование этим учреждением. В 1772 году принято новое положение о генеральном штабе, расширившее его полномочия.