莫斯科同苏联进行交涉。翌年9月，「中华民国东三省自治政府与苏维埃社会主义联邦政府之协定」（「奉俄协定」）签订。1927年（民国16年），他任中东铁路督办。此后，因同苏联在中东铁路发生纠纷，张学良的东北军败退，吕丧失其职位。1931年（民国20年）九一八事变后，吕荣寰受土肥原贤二劝诱，参加满洲国建国工作。翌年，他就任哈尔滨市市政筹备所所长。满洲国成立后的1933年（大同2年）7月，他任哈尔滨特别市市长兼东省特别区公署长官。翌年1月，东省特别区公署改组为北满特别区公署，他任该公署行政长官。翌年11月，他