基督教之家庭中，幼年时期就读于太平境基督长老教会附属小学。1907年进入台南长老教会中学。于长荣中学期间，刘青云成绩优异，于1909年三年级下半年「总结考」时，以97分（及第分数70）之高分顺利成为四年级生。1910年前往日本求学。1912年丧母。自日本京都同志社中学普通部毕业后，于1915年进入庆应义塾大学就读。1920年圣诞节，刘青云在东京灵南坂基督教会，由小崎弘道牧师受洗入教。1921年，取得庆应义塾大学理财学士。留学期间，刘青云与妹妹刘秀琴的学姊本目贞认识，当时本目贞正就读于东京基督教所创办之青山女