Katayama ble utdannet ved Det keiserlige universitet i Tokyo. Han var oppvokst i den kristne tro, og ble sterkt influert av den kristne sosialisme. Etter endt eksamen fra universitetet, åpnet han sitt eget advokatkontor hos den kristne organisasjonen KFUM, og han begynte å arbeide som advokat og jurist. Katayama sluttet seg til det japanske sosialistpartiet og han ble valgt inn i Representantenes hus, som representant for Kanagawa-prefekturet, i 1930. Han ble kjent som leder av den «sosialdemokratiske fløyen» innenfor partiet. I 1945 ble Katayama utnevnt til generalsekretær og formann for sosialistpartiet.