Etter åtte år som assistenttrener og deretter defensive coordinator for Buffalo Bills tok Johnson sin første stilling som hovedtrener i 1968 da Joe Collier fikk sparken etter to kamper. Under Johnson gikk Bills 1–10–1, og han ble erstattet av John Rauch etter sesongen var over. Johnson returnerte til sin rolle som defensive backfield coach for Bills i to år før han igjen ble hovedtrener i 1971. Etter et sesongresultat på 1–13 ble Johnson overført til speideravdelingen. I de to sesongene under Johnson gikk Bills sammenlagt 2–23–1. Han var også i Bills’ trenerstall da laget vant AFL-tittelen i 1965. Han fortsatte å jobbe som talentspeider for laget frem til han døde i 1983.