祖毕业于上海圣约翰大学化学系，1930年获硕士学位，留校任教。1937年，其堂兄、商业巨子倪树祖（“Peter倪”）投资创办上海中国生化制药厂，倪怀祖起初担任厂长，后来专门负责研制药品，任化学师、技术经理。他陆续发明、研制成功多种药品。1939年，胞兄倪柝声出任厂长。1950年，中国政府下令将生化制药厂并入沈阳东北制药总厂，倪怀祖担任技术总顾问，试制成功维生素C和DDT等。1952年回到上海，任教会所办翠华染料厂总工程师。上海市地方工业局接管翠华染料厂后，1954年倪怀祖改任永华樟脑厂（1960年并入桃