Separationsförhandlingar skulle kunna slutföras inom den tidsfrist på två år som anges i artikel 50, men ett framtida förhållande skulle ta längre tid att förhandla, berättade Sir Simon Fraser BBC Newsnight.
Sir Simon sa att "övergångsarrangemang" skulle vara nödvändiga.
Premiärminister Theresa May kommer att åberopa artikel 50 på onsdag.
"Det är säkert att vi inte kommer att ha löst allt i perioden innan slutet av artikel 50 processen," Sir Simon Fraser berättade BBC Newsnight.
"EU-sidan vill börja med att förhandla om villkoren för separationen... och den brittiska sidan vill dessutom snabbt gå vidare för att diskutera de framtida förbindelserna - både politiska och ekonomiska - mellan Storbritannien och EU. Och det är en mycket komplicerad andra förhandlingsomgång."
På grund av svårigheten att definiera de framtida förbindelserna anser sir Simon, som innehade högre befattningar i Bryssel och Whitehall innan han blev chef för diplomattjänsten, att samtalen snart kommer att övergå till "övergångsarrangemangens" karaktär. Detta innebär att viktiga frågor om hur Storbritannien gör affärer med EU kan lämnas olösta långt efter 2019.
Många Brexit-anhängare hade hoppats att informella förhandlingar med EU skulle kunna inledas innan klockan i artikel 50 börjar ticka denna vecka. Förhandlingarna är begränsade till två år.
Men Sir Simon sade att Europeiska kommissionen har omintetgjort sådana planer: "Det har funnits en mycket disciplinerad ståndpunkt i hela EU, och jag tror inte att det har varit så mycket informellt bakom kulisserna att diskutera dagordningen eller nyckelfrågorna ännu."
Sir Simon är också skeptisk till att Storbritannien kommer att kunna spela ut olika länder bland EU:s 27 länder.
"Förenade kungariket måste förhandla med EU som helhet genom EU:s utsedda förhandlare, som i huvudsak kommer att ledas av kommissionen."
Han tillade: "Jag tror att det skulle vara ett misstag att försöka splittra och härska eftersom jag inte tror att det kommer att fungera."
Medan artikel 50 tillåter upp till två år för att nå en överenskommelse, har EU:s chefsförhandlare, Michel Barnier, sagt att han vill att ett avtal ska vara klart till hösten 2018, i hopp om att det sedan kan gå till Europaparlamentet för ratificering och medlemsstater för överenskommelse i god tid innan tidsfristen är slut.
Men många diplomater, bland dem Sir Simon Fraser, tror att det inte kommer att bli några seriösa politiska diskussioner före hösten, efter det tyska valet.
Brexit dominerar den nationella debatten i Storbritannien, men det är en sekundär fråga för många europeiska regeringar.
Detta kan leda till förseningar i förhandlingarna med många regeringar som inte tar ställning förrän de måste. I kombination med komplexiteten i Brexit-diskussionerna tror många diplomater att Storbritannien skulle kunna befinna sig nära en "cliff edge" utan slutlig överenskommelse.
Sir Simon sade att det låg i båda sidors intresse att undvika ett sådant scenario, men det fanns en "risk för politisk ovilja och turbulens - både politisk och ekonomisk" om en överenskommelse inte nås inom ramen för artikel 50.
Det är av denna anledning som Michel Barnier kanske vill göra övergångsbestämmelserna beroende av en lösning på en av de första punkterna på EU:s skilsmässodagordning: att få Storbritannien att gå med på att betala en räkning på tiotals miljarder i kommissionens kassakistor.
Mark Urban är diplomat och försvarsredaktör för BBC Newsnight
Det framtida förhållandet mellan Storbritannien och EU kommer inte att förhandlas fram inom två år, säger den tidigare chefen för utrikesdepartementet.