，但在当地的一名律师督促下，谢尔曼参加以准备律师执照考试，并于1754年取得康涅狄格州的律师执照。在此期间，他写下了《反对不公正的警告》，并于1755至1758年及1760至1761年间，代表新米尔福镇出任康涅狄格州众议院议员。1766年，他被选入康涅狄格州议会的参议院中任职，直至1785年。1762年，谢尔曼被任命为地方执法官，1765年出任民诉法院法官，1766年至1789年就任康涅狄格高级法院法官。在美国独立战争开始之初，他还曾被任命为康涅狄格军队执事官，这份经历在他被1774年选入大陆会议中发挥