Da sørstatene brøt med unionen og utløste den amerikanske borgerkrigen, meldte tusener av menn fra Ohio seg til militærtjeneste. Blant dem var McKinley og fetteren William McKinley Osbourne, som vervet seg i juli 1861. De ble tilsluttet Ohios 23. infanteriregiment, ledet av oberst William Rosecrans, og de ble sendt på opptrening ved Columbus. McKinley tilpasset seg raskt soldatlivet, og skrev en serie brev til avisen hjemme, hvor han hyllet militæret og unionens sak. Han lot seg inspirere av lederstilen til major Rutherford B. Hayes. Det utviklet seg til et vennskap som varte livet ut.