的一个犹太人家庭，全家八位子女。母亲为制表匠的女儿。他的父亲为珠宝商，和雅科夫·米哈伊洛维奇·斯维尔德洛夫的父亲为表兄弟。后来，雅戈达娶了斯维尔德洛夫姐姐的女儿。出生后第二年全家迁往下诺夫哥罗德。他在1907年以无政府主义者的身份参与革命，并加入了俄国社会民主工党。1912年5月因盗窃和窝藏赃物在莫斯科被捕。一战期间应征入伍（他有一个哥哥因拒绝服役被处决）。1918年，雅果达进入契卡在彼得格勒的分支机构工作。1923年担任国家政治保卫局第二副主席，并开始与斯大林靠近。1929年，雅戈达曾被卷入布哈林事件