Родился 27 октября 1899 года в уездном городе Староконстантинов Волынской губернии в семье приказчика Израиля Либерберга и корсетницы Розы. Был четвёртым ребёнком в семье. В 1913 году закончил четырёхклассную школу в Виннице, куда ранее переехала семья. В дальнейшем отец Иосифа нашёл работу в Киеве и семья переехала в предместье города Слободку, поскольку в самом Киеве евреи не имели права жить.