Urodził się w ortodoksyjnej rodzinie żydowskiej w Tarnowie. Dorastał w Krakowie, gdzie ukończył szkołę handlową. W 1939 roku, w okupowanym przez Niemców Krakowie, został schytany i znalazł się w pociągu transportującym więźniów do KL Auschwitz. Udało mu się wyskoczyć z tego pociągu i uciec. Ukrywał się w czeskich lasach, w Budapeszcie i w Bratysławie, gdzie poznał swoją przyszłą żonę – Renatę Witelson, Żydówkę z Łodzi, która również uciekła przed nazistowskimi prześladowaniami. Po wojnie para zamieszkała u rodziny Renaty w Rzymie; pobrali się w 1947 roku, a w 1951 roku wyemigrowali do Kanady i osiedlili się w Montrealu. W 1957 roku otrzymali kanadyjskie obywatelstwo. Hornstein założył Federal Construction Ltd., przedsiębiorstwo zajmujące się nieruchomościami, dzięki któremu dorobił się fortuny i którego prezesem pozostał do śmierci.