父亲的好友、众议员斯芬·佩斯说情，把他保送进美国海军在安那波利斯的美国海军官校，从此开始了11年的海军生涯。1946年以820人中的第60名获理学学士毕业，被授予海军少尉军衔。随后与罗莎琳·史密斯结婚。
服役.1948年卡特转入潜艇部队，先去康乃狄克州的潜艇学校学习半年，然后到太平洋舰队常规潜艇「鲳鱼号」服役。1949年晋升军衔。此后一年多，他随舰在太平洋海域执勤，并多次到达盟国港口。1951年，调入梭鱼号潜舰 (SSK-1)，取得了潜艇舰长资格，担任过副舰长。1952年10月