Im Juli 1981 trat Atzmon in die israelische Armee ein. Als im Juni 1982 der erste Libanonkrieg ausbrach, empfand er diesen als einen israelischen Aggressionskrieg. Er wurde Mitglied im Musikkorps der Israelischen Luftstreitkräfte, das im Sommer 1984 eine Konzertreise bei den israelischen Truppen im Libanon durchführte. Eine Station war das israelische Internierungslager Ansar im Südlibanon. Bei einer Führung durch das Lager traf Atzmon auf Tausende internierter Palästinenser, die nach seiner Darstellung in der sengenden Hitze ausharren mussten. Die Ursache dieses Umgangs mit den Lagerinsassen vermutete er im Überlegenheitsgefühl der israelischen Gesellschaft, dessen Wurzeln er in den Besonderheiten der „jüdischen Identität“ sah. Er studierte Komposition und Jazz an der Rubin Academy of Music in Jerusalem. Dann tourte er mit seiner eigenen Band und arbeitete als Produzent und Arrangeur im Bereich der Rock-, Jazz- und Weltmusik, beispielsweise mit Ofra Haza, Jack DeJohnette oder Michel Petrucciani.