Noll var en assistenttrener for American Football Leagues San Diego Chargers (da Los Angeles Chargers) fra 1960 til 1965. Han ble så assistent til hovedtrener Don Shula på NFLs Baltimore Colts fra 1965 til 1968, før han ble valgt til hovedtrener for Pittsburgh Steelers.