就役後、「富士山丸」は初航海で海軍向けのオハ原油11,659トン積み取り、徳山に陸揚げした。以降、徴傭されるまでの11年間に海軍向け、民間向け合わせて100航海もの石油輸送を行い、その数量は1,128,852トンに及んだ。100航海のうち、海軍向けは63航海であった。1941年（昭和16年）11月22日付で日本海軍に徴傭され、12月10日付で特設運送船(給油船)として入籍する。12月2日から12月24日まで佐野安船渠で特設運送船としての艤装工事が行われた。特設運送船となった「富士山丸」は、同じく特設運送船(給油船)になっていた「東亜丸」や、特務艦「隠戸」とともに第六艦隊（清水光美中将）に補給部隊として配属される。1942年（昭和17年）2月10日以降は南方作戦に転用され、次いでアリューシャン方面の戦いに加わる。昭和17年7月5日にアメリカ潜水艦「グロウラー」 ("USS Growler, SS-215") の雷撃で大破した駆逐艦「霞」の曳航も行った。8月下旬にソロモン方面に転じ、12月10日にはショートランドで爆撃を受け、火災を起こす。1943年（昭和18年）以降は燃料輸送のほか、クェゼリン環礁への陸兵輸送なども行った。