Han kom fra en politisk interessert familie, der faren Grover Lawrence Johnson var kongressmann. Selv ble han først kjent for mange californiere som påtalejurist i San Fransisco, der han slo ned på korrupsjon.