Andelen statligt ägda företag och dess enheter ökade med mellan 16 % och 42 %.
IPO var den största i världen i år och den största sedan Alibabas rekordaffär på 25 miljarder dollar 2014.
Det markerar också den japanska regeringens största försäljning av tillgångar på nästan tre decennier.
Börsnoteringen är en del av premiärminister Shinzo Abes planer på att öka den fladdrande ekonomin genom att uppmuntra konsumenterna att investera på aktiemarknaden.
Cirka 10 % av varje företag såldes till allmänheten i den största privatiseringen av ett statligt företag sedan Nippon Telegraph och Telefon 1987.
Regeringen tilldelade 80 % av aktierna till inhemska investerare, medan de återstående 20 % såldes till internationella institutionella investerare.
Japan Post Holdings öppnade på 1.631 yen per aktie, 16,5 % över börsintroduktionspriset på 1.400 yen. Bankenheten startade på 1 680 yen, en ökning med nästan 16 % från dess IPO-pris, medan försäkringsenheten var 33 % högre.
Detta kan jämföras med en ökning med över 2 % för referensindexet Nikkei 225.
Angus Nicholson, marknadsanalytiker på handelsföretaget IG, sade att "blockbuster" börsnoteringen hjälpte till att driva rallyt på japanska marknader när de återvände från en semester på tisdag.
"Det är ett viktigt ögonblick som privatiseringen av Japan Post hade varit ett rally rop under tidigare premiärminister Junichiro Koizumis regeringstid i början av 2000-talet", sade han.
Regeringen planerar att höja totalt 4tn yen i ytterligare försäljning av tillgångar under de kommande åren.
Det har sagts att medlen kommer att användas för att hjälpa till att återuppbygga områden som drabbades av jordbävningen 2011 och tsunamikatastrofen.
Aktierna i Japan Post och dess bank- och försäkringsenheter ökade på sin börsdebut i Tokyo efter den tredubbla initiala offentliga erbjudandet (IPO) höjde $12 miljarder pund (7,7 miljarder pund).