Under første verdenskrig ble han kommunist, og etter revolusjonen i Russland var han en ivrig tilhenger av regimet i Sovjetunionen. I 1924 ble han midlertidig arrestert av ennå uoppklarte grunner i sammenheng med hans politiske legning. Etter å ha blitt sluppet fri forlot han Polen i 1925, og ble knyttet til Institut für Sozialforschung i Frankfurt am Main. Etter at Max Horkheimer overtok ledelsen av instituttet, ble Grossmann imidlertid kritisk til det han så som en degenerering til ikke-marxisme eller endog anti-marxisme innen Frankfurterskolen.