Der junge Johnson absolvierte ein Jurastudium, das er im Alter von 21 Jahren in Iowa erfolgreich abschloss. Im Juli 1849 unterbrach er seine juristische Laufbahn, der Kalifornische Goldrausch erfasste auch ihn. Er versuchte sich wenig erfolgreich als Goldgräber. Dann ließ er sich in Sacramento nieder und nahm seine juristische Laufbahn wieder auf. Im Alter von 25 Jahren (1850) wurde er zum Staatsanwalt des Bezirks Sacramento gewählt. Zwei Jahre später beschloss er politisch aktiv zu werden und kandidierte für die Parlamentswahlen 1852 für die Demokratische Partei. Nach gewonnener Wahl zog er dann als Abgeordneter für Sacramento in die California State Assembly ein.