Ullmann var fra 1970-årene medlem av Arbeidernes Kommunistparti (AKP). På 1980-tallet var han sekretær i partiets internasjonale utvalg og jobbet blant annet med å bygge opp Afghanistan-komiteene i Norge. Ullmann meldte seg ut av AKP i 2001 i protest mot det han mente var voldsromantiske tendenser i partiet. Han fortsatte som aktivist i Rød Valgallianse (RV).