尚工业学校就读，之后前往仁川发展。1948年代表仁川成为首届国会议员。之后由第2届至第5届国会都担任议员。1960年5月2日至1960年6月23日担任韩国国会议长。1960年4月19日，韩国爆发419革命，原总统李承晚落台并逃往夏威夷，并由外务部长官许政暂代总统权行。6月15日，国会通过《内阁责任制改宪案》期间，通过在审议新宪法期间，赋于国会议长郭尙勋暂时代行总统职务的权力，由6月17日开始，直至6月22日审议完毕，才交回原代总统许政继续，并从政坛引退。因此，郭尚勋成为了韩国历代任期最短的代总统。1