世界大战爆发后，拉宾放弃了原来的志向，于1941年加入哈迦纳的帕拉玛赫部队，并于1947年10月升任作战参谋长。在以色列独立战争中，他指挥了耶路撒冷防御战，并于内盖夫地区与埃及人作战。伊扎克·拉宾参加的帕拉玛赫部队是一支精英突击队，属于秘密军事组织哈迦纳（犹太自卫军，即日后的以色列国防军）。他曾在巴勒斯坦种族屠杀行动中担任副指挥。
军队任职.1964年，拉宾担任以色列国防军参谋长。他指挥以色列国防军在“六日战争”中以压倒性优势战胜了埃及、叙利亚和约旦。以色列国防军占领耶路撒冷古