4年），刘裕起兵讨伐篡位的桓玄，沈林之亦参与其中，并在与刘裕攻下建康后就与兄沈田子东还吴兴报仇。二人在沈预于节日与宗族聚会时闯入，并斩杀沈预，屠其宗族，并以沈预的头颅到父祖墓前献祭。
屡次征战.沈林之当时得吴兴郡府任命，冠军将军刘毅又以其为参军，但沈林子见家门历尽艰辛困苦，已经没有仕宦的心思，故此都不应命；其后刘裕再三敦请仍不肯出仕。义熙四年（407年），刘裕受任扬州刺史，又再请沈林子为自己的属官，这回沈林子再推辞不了，只得受任，领建熙县令，又封资中县五等侯。义熙五年（408年