童年他一方面受身为基督徒的母亲的影响、一方面从父亲那里受到儒学思想的熏陶。经田边中学校、旧制第三高等学校（今京都大学），片山最后考入东京帝国大学法学部德法科。
成为政治家.自东京帝国大学毕业后，片山哲成为了一名律师，其间热心于社会运动。在帮助弱势者的过程中，片山逐渐感觉到有必要改变当时日本的司法不公与社会不公。1930年，片山以（日本战前的无产阶级政党之一，后改组为）党员身份参加众议院选举，当选为众议员。1940年，因反对将反战议员从社会大众党中除名，片山哲与西尾末广、安部矶雄