Kahane ble født i New York av jødiske foreldre med østeuropeisk bakgrunn. Han er også kjent som Martin David Kahane og som Michael King. Kahane var i tenårene en varm tilhenger av den sionistiske høyreideologen Vladimir Jabotinsky som flere ganger besøkte hans foreldre da han var barn. Han ble tidlig en aktivist for sionismen, og jobbet særlig for å sikre at russiske jøder kunne emigrere til Israel i tråd med Israels lov om retur.