Sherman County wurde am 20. September 1886 gebildet. Benannt wurde es nach William T. Sherman, einem der bekanntesten Generäle der Nordstaaten im Amerikanischen Bürgerkrieg und Kriegsminister in der Nachkriegszeit.