Överenskommelsen kräver en omedelbar vapenvila och bildandet av en övergångsregering inför utarbetandet av en ny konstitution och nya val.
Konflikten i världens nyaste stat har gjort tusentals döda och mer än en miljon hemlösa.
Ett eldupphör som man enades om i januari kollapsade inom några dagar, och båda sidor anklagade varandra för att återuppta striderna.
USA:s utrikesminister John Kerry sade fredagens överenskommelse "kan markera ett genombrott för Sydsudans framtid".
"Den svåra resan på en lång väg börjar nu och arbetet måste fortsätta", tillade Kerry, som spelade en avgörande roll för att sammanföra de båda sidorna.
FN har anklagat både den sydsudanesiska regeringen och rebellerna för brott mot mänskligheten, inklusive massmord och gängvåldtäkt.
Konkurrenterna undertecknade avtalet i den etiopiska huvudstaden, Addis Abeba sent på fredag, efter deras första ansikte mot ansikte möte sedan fientligheterna började.
BBC:s Emmanuel Igunza i Addis Abeba säger att avtalet kräver att fientligheterna upphör inom 24 timmar efter undertecknandet. Ett permanent eldupphör kommer då att arbetas på.
Kiir och Makar kommer att utfärda omedelbara order om att trupperna skall upphöra med striderna och tillåta humanitärt bistånd.
Det var inte omedelbart klart vem som skulle bilda övergångsförvaltningen.
Avtalet undertecknades också av etiopisk premiärminister Hailemariam Desalegn, som var värd för samtalen.
Alastair Leithead rapporterar om våldtäkt och mord i Bentiu
Ledande medlare Seyoum Mesfin, från det regionala Igadblocket, gratulerade Kiir och Makar till "slutet på kriget".
Afrikanska unionens officiella Smail Chergui varnade emellertid för att "med tanke på den nuvarande krisen kommer det inte att bli lätt att återupprätta freden i Sydsudan".
I en FN-rapport som publicerades på torsdag sades det att "breda och systematiska" grymheter hade utförts av båda sidor i hem, sjukhus, moskéer, kyrkor och FN-föreningar.
Parlamentet kräver att de ansvariga skall ställas till svars.
Uppskattningsvis fem miljoner människor är i behov av hjälp, säger FN.
Våldet började när president Kiir anklagade sin avskedade ställföreträdare Makar för att ha planerat en kupp.
Mr Makar förnekade anklagelsen, men ställde sedan upp en rebellarmé för att bekämpa regeringen.
Striden utgick från etniska övertoner, där Makar i hög grad förlitade sig på soldater från sin Nuers etniska grupp och Kiir från sitt Dinka-samhälle.
FN har omkring 8 500 fredsbevarare i Sydsudan. Men de har kämpat för att begränsa konflikten.
Sydsudan blev självständigt 2011, som bröt sig loss från Sudan efter årtionden av konflikter mellan rebeller och Khartoums regering.
Det är fortfarande ett av världens fattigaste länder.
Sydsudans president Salva Kiir och rebellledaren Riek Machar har kommit överens om ett fredsavtal efter en fem månaders konflikt.