后考进上海晓光中学。1941年12月太平洋战争爆发后，日军侵入上海租界，晓光中学解散，刘大钧辍学。全家迁居南京。1944年，在汪精卫政权的国立中央大学学习艺术一年后，刘大钧弃艺从农。1945年抗日战争胜利后，刘大钧被分配至英士大学。不久，回南京考入金陵大学农学院。师从靳自重、王绶、章锡昌等教授。1949年，刘大钧自金陵大学农艺系毕业，留校任农艺系主任靳自重的助教。1950年成为中国新民主主义青年团团员。1955年，经罗春梅、王泰伦两位老师介绍，成为中国共产党预备党员。1955年9月，被选派留学苏联莫斯科