ジョンソンはコネチカット州の初代上院議員の一人となり(1789-91)、連邦司法制度の詳細を確立する重要な法律、1789年の司法権法の形成に積極的に働いた。
作为一名参议院司法委员会（英语：SenateJudiciaryCommittee）成员，他在起草《1789年司法法案（英语：JudiciaryActof1789）》中扮演了重要角色（亲自撰写了法案前九章内容），并最终建立了美国联邦司法体制。