家人返回俄罗斯后，由于他精通英文、俄文、德文、波兰文及意第绪语，因此在共产国际担任翻译员。1925到1926年间，费雪受训成报务员后在苏联红军的收报营工作。1927年，他到无线电研究所短暂工作，之后就被KGB的前身国家政治保卫总局募集。同年，他跟一位在莫斯科音乐学院学习竖琴的学生爱莲娜‧列别洁娃结婚，并于1929年11月8日生下女儿艾弗琳。费雪在会晤国家政治保卫总局时，总局认为他应该改成一个更有苏联味道的名字，因此他的名字从威廉‧奥古斯都‧费雪(William August Fisher)改为菲廉‧金立