I 1951 var Ramsey trener og spiller for Cardinals før han ble Detroit Lions’ defensive coordinator i 1952. I sin stilling med Lions utviklet Ramsey 4-3 forsvaret, som er blitt standard i moderne amerikansk fotball. Han var også den første treneren som blitzet linebackere i en forsvarspakke som han selv kalte for «Red Dog». Med Ramsey som defensive coordinator vant Lions tre ligatitler på 1950-tallet. Han spilte en stor rolle i utviklingen av noen av lagets beste spillere, inkludert Yale Lary, Jack Christiansen og Jim David. I 1960 ble han den første hovedtreneren for American Football League-laget Buffalo Bills. Selv om han fikk sparken av eier Ralph C. Wilson Jr. etter 1961-sesongen har Ramsey fått æren for å ha lagt grunnlaget for det som skulle bli et av de beste forsvarene i AFLs historie. Fra 1962 til 1964 var han defensive coordinator for Pittsburgh Steelers.