Efter en två timmars storm försening i Ipoh innan lördagens 2-2 dragning med Indien, söndagens kick-off sattes tillbaka en timme på grund av ytterligare dåligt väder.
GB slösade ingen tid när matchen började, mål från Barry Middleton, David Goodfield och Sam Ward sätta dem 3-1 framåt.
Med 11 minuter kvar var Japan bara 4-3 ner - Tom Carson poäng GB fjärde - men Alan Forsyth gjorde det.
Japan ansågs vara de outsiders som den lägsta-rankade laget - på 16: e - i händelse men hävdade en 1-1 dragning med värdar Malaysia på lördag.
GB har nu fyra poäng från två matcher, nivå med Indien, som spelade in en bekväm 3-0 seger över Nya Zeeland tidigare på söndag.
Sexlagsturneringen består av round-robin, fyrakvartsmatcher och för första gången finns videoremisser tillgängliga.
Försvarsmästare Australien, som drog med Nya Zeeland i deras öppningsmatch, slog Malaysia 6-1 och toppa bordet framför Storbritannien och Indien på målskillnad.
Storbritanniens nästa match är mot Malaysia på tisdag.
Den brittiska sidan kommer att återgå till enskilda nationer i juni för VM kvalturnering i London, med England och Skottland i aktion.
Ta reda på hur du kommer in i hockey med vår speciella guide.
Storbritannien slog Japan 5-3 vid Sultan Azlan Shah Cup i Malaysia.