Nacido en Belfast, Irlanda del Norte, hijo del notable rabino Yitzjak Halevi Herzog, que fue el principal rabino de Irlanda de 1919 a 1937, y posteriormente del Mandato Británico de Palestina e Israel).