Premiärminister Narendra Modi beskrev överenskommelsen mellan hans regering och Nagalands nationalsocialistiska råd som "historisk".
Rebellerna i staten Nagaland har krävt ett självständigt hemland för två miljoner stammar i Naga.
Gruppen, i Indiens nordöstra del, har kämpat i mer än 60 år.
"Jag har den djupaste beundran för det stora Naga folket för deras utomordentliga stöd till fredsansträngningarna", sade Modi, efter att avtalet undertecknades på hans kontor i Delhi på måndag.
"Vår äldsta uppror blir löst, det är en signal till andra mindre grupper att ge upp vapen," tillade han.
Premiärministern sade tidigare att utvecklandet av Indiens nordöstra var en prioritet för hans regering. Samtal mellan Indiens regering och rebellerna hade ägt rum sedan 1997.
Korrespondenterna säger att många hoppas att avtalet kommer att bana väg för liknande avtal med andra rebellgrupper i regionen.
Avtalet undertecknades av dess ledare Thuingaleng Muivah, som en gång ledde rebellräder från grannlandet Myanmar i vad som ofta beskrivs som Indiens första etniska uppror.
Villkoren i fredsavtalet var inte omedelbart kända.
Naga bor främst i Nagaland och även i delstaten Manipur, Assam och Arunachal Pradesh.
Indiens regering har undertecknat ett fredsavtal med en ledande grupp av separatister från Naga, vilket gör slut på en av landets äldsta uppror.