他在战后返回美国，于1947年完成海军航空兵的培训，1950年又接受了试飞员课程，之后逐渐成为海军的顶级飞行员之一。1959年，美国国家航空航天局选中谢泼德成为最早一批宇航员，即水星计划7人之一。1961年5月5日，谢泼德参加水星计划的首次载人任务水星-红石3号，乘坐“自由7号”太空舱进入太空。此次飞行未能进入地心轨道，但足以使他成为第二位进入太空的人类，以及第一位在太空飞行的美国宇航员。任务中，谢泼德在舱内手动操纵了航天器的飞行姿态，是人类历史上首次完成这一成就。水星计划最后阶段中，谢泼德原定于1963年