Jebsen var sønn av Kristian Stange Jebsen, som grunnla rederiet Kristian Jebsens Rederi AS i 1929. Jebsen ble først befrakter i dette rederiet i 1962. Da faren omkom i en togulykke i USA overtok Atle Jebsen som administrerende direktør og leder for rederiet fra 1967, bare 31 år gammel.