Abraham B. Jehoshua stammt aus einer Familie von Sephardim. Sein Vater war der Historiker Yaakov Jehoshua, seine Mutter Malka Rosilio. Von 1954 bis 1957 diente Jehoshua bei der israelischen Fallschirmjäger-Brigade und kämpfte im Sinai-Feldzug.