正民主思潮下成长的丸山于1931年昇入旧制第一高等学校，在校期间曾加入左派社团，以致于受到特别高等警察课的调查；1934年一高毕业后入东京大学法学部，先研究欧洲政治思想史，后则师从南原繁改习日本政治思想史。在第二次世界大战间皇国史观盛行的年代，丸山採用社会科学的方法，独树一帜。1936年，他完成一篇学生论文〈政治学中国家的概念〉，备获赏识而升任为法学部助手，后升助教授；一直到1944年，时因大日本帝国陆军教育召集的关系被送至平壤当二等兵才中断。第二次世界大战后，1946年，丸山发表了着名的论文〈超国家主