阿格纽生于巴尔的摩，父亲是希腊移民，母亲生于美国。他曾就读约翰斯·霍普金斯大学，后从马尔的摩大学法学院毕业，曾是马里兰州联邦众议员詹姆斯·德弗勒克斯的助手。1957年进入巴尔的摩县分区上诉委员会后，阿格纽于1962年当选巴尔的摩县县长，1966年又击败民主党对手乔治·马洪尼与独立候选人海曼·普雷斯曼，成为第55任马里兰州州长。阿格纽是知名中间派，美国此时正因民权运动混乱不堪，他抱持的法律与秩序立场颇得帕特·布坎南等人青睐，引起理查德·尼克松的注意。阿格纽在1968年共和党全国大会上接受尼克松的提议成为副