Pochodził z rodziny oficerów wojskowych. Jego dziadek, John Sr. i ojciec, John Jr. byli admirałami Marynarki Wojennej USA. John S. McCain III urodził się w bazie lotniczej Coco Solo na terenie kontrolowanej przez Stany Zjednoczone Strefy Kanału Panamskiego. W związku z kolejnymi przydziałami służbowymi Johna McCaina Jr. rodzina często zmieniała miejsce zamieszkania. Młody John McCain wychowywał się m.in. w New London w Connecticut, Pearl Harbor na Hawajach oraz w wielu bazach wojskowych na Oceanie Spokojnym. Jego ojciec brał udział w walkach na Pacyfiku z flotą japońską jako dowódca okrętu podwodnego. Po zakończeniu II wojny światowej rodzina McCainów osiadła w Północnej Wirginii, gdzie John McCain uczęszczał do szkoły. W 1951 rozpoczął naukę w Episcopal High School w Alexandrii (Wirginia), a w 1954 wstąpił do Akademii Marynarki Wojennej w Annapolis.