Город назван в честь героя техасской революции генерала Сидни Шермана. 17 марта 1846 года был создан округ Грейсон, а сообщество Шерман получило статус центра округа. Изначально запланированный в самом центре округа, город был передвинут на 5 километров к востоку в 1848 году. Город располагался на пути почтовых дилижансов службы Butterfield Overland Mail. К 1852 году население Шермана составляло примерно 300 человек. Город состоял из центральной площади, деревянного здания окружного суда, нескольких предприятий, офиса клерка района и церкви.