957年进入巴尔的摩县分区上诉委员会后，阿格纽于1962年当选巴尔的摩县县长，1966年又击败民主党对手乔治·马洪尼与独立候选人海曼·普雷斯曼，成为第55任马里兰州州长。阿格纽是知名中间派，美国此时正因民权运动混乱不堪，他抱持的法律与秩序立场颇得帕特·布坎南等人青睐，引起理查德·尼克松的注意。阿格纽在1968年共和党全国大会上接受尼克松的提议成为副总统候选人，竞选期间虽有不少失误，但共和党人对他的言谈举止很满意，许多关键州的选举结果可能就是因他改变。尼克松和阿格纽最后在大选中战胜民主党候选人、在任副总统