Sydafrika behövde bara 14,4 overs för att nå sitt mål på 172, med AB de Villiers göra 71 på bara 29 bollar.
Det gav dem en 2-0 T20-serien seger att gå med sin 3-2 en dag serien seger.
"Första halvan av resan var mycket spännande", sade Bayliss. "Men vi blev sämre när serien fortsatte, och Sydafrika blev bättre."
England vann fyrmatch Test serie 2-1 och tog en 2-0 ledning i en dag internationell tävling, innan förlora de sista fem fixturer på turnén (tre ODIs och två T20s).
Deras slaganfall kollapsade dramatiskt vid Wanderers, med sju wickets faller för 14 körningar och bowlarna sedan utsattes för ett angrepp från De Villiers och Hashim Amla, som tog sitt team till 121-0 efter bara åtta overs.
Sydafrikanerna slog 16 fyror och nio sexor, med Amla obesegrad på 69 från 38 bollar.
Ett sådant eftertryckligt nederlag var olycksbådande för England, som inleder sin ICC World Twenty20-kampanj mot Västindien i Mumbai den 16 mars och möter Sydafrika två dagar senare.
"Det är lite av en påminnelse för folk hemma att inte komma för långt före sig själva," Bayliss medgav.
"Vi har spelat några bra cricket, men detta är en ung grupp av spelare och föreställningar som detta kommer att hända då och då."
Turisterna ändrade sitt lag för söndagens match på Wanderers, ta in fladderman Sam Billings för bowling allrounder David Willey.
"I Indien kommer vi definitivt att spela två spinnare, så vi ville bara prova att ha den extra smet, som vi har gjort tidigare, och bara fem bowlare," Bayliss tillade.
Han frågade om effekterna av en lång turné och tillade: " Jag är säker på att trötthet hade en mycket liten del att göra med den, förmodligen mer mental än något annat. Vi har varit borta i fem månader, med undantag för en vecka däremellan, när man räknar UAE.
"Men det är något dessa unga spelare måste vänja sig vid och om det är en del av inlärningskurvan för dessa unga killar, det finns något att lära av."
Englands skeppare Eoin Morgan, som var på väg ut vid den icke strejkandes slut för 38, klagade: " Helt enkelt, vi underpresterade.
"Majoriteten av vårt slag gick riktigt bra - vi var på rätt kurs för att få 185, 190, möjligen 200.
"Jag själv och Jos Buttler gick riktigt bra, sedan förlorade vi två wickets i två bollar, och sedan därifrån förlorade vi sex wickets på nolltid. Jag tror inte att vi var för långt efter spelet, men sättet vi började med bollen tillät Sydafrika att komma överst.
"Inkonsekvensen beror på att vi är oerfarna, och det kommer att komma. Med det kommer ett bra märke av cricket som är riktigt spännande och kan slå alla sidor i världen."
England tränare Trevor Bayliss medgav Sydafrikas nio-wicket 2020 thrashing av sitt team i Johannesburg var "män mot pojkar".