El fiscal o Procurador General Andrei Vishinski acusó a Rozengoltz de ser uno de los líderes de la organización clandestina trotskista, iniciando su trabajo de espionaje para el Estado Mayor alemán en 1923, y para la inteligencia británica en 1926.