卡特16歲中學畢業後，進入美國喬治亞州立西南大學讀了一年工科，然後轉入喬治亞理工學院。1943年父親的好友、眾議員斯芬·佩斯說情，把他保送進美國海軍在安那波利斯的美國海軍官校，從此開始了11年的海軍生涯。1946年以820人中的第60名獲理學學士畢業，被授予海軍少尉軍階。隨後與羅莎琳·史密斯結婚。1948年卡特轉入潛艇部隊，先去康乃狄克州的潛艇學校學習半年，然後到太平洋艦隊常規潛艇「鯧魚號」服役。1949年晉升海軍中尉軍階。此後一年多，他隨艦在太平洋海域執勤，並多次到達盟國港口。1951年，調入梭魚號潛艦，取得了潛艇艦長資格，擔任過副艦長。
卡特是經由哪一個人的幫助才得以進入在安那波利斯的美國海軍官校就讀?