第38届联邦国会议员要从1863年12月才开始工作。兰德尔从第一骑兵分队退役后，于这个月抵达哥伦比亚特区，走进共和党占据多数的国会工作。身为少数党的一员，兰德尔很少会有编撰法案的机会，但很快就因工作勤奋认真而闻名。同样在1862年当选的共和党议员詹姆斯·G·布莱恩之后称，兰德尔有“强烈的党性，拥有许多领导人的要素。他……从未疏忽自己的职责，也从未忘记民主党的利益”。兰德尔关注自己选区内制造商的利益，并且特别关注保护性关税。虽然民主党在国会中属少数党，但兰德尔经常发言，维护自己选民的利益。据豪斯记载：