Ushijima era nativo della città di Kagoshima nella Prefettura di Kagoshima sull'isola di Kyūshū nel Giappone meridionale. Nel 1908 egli si diplomò all'Imperiale Accademia d'Esercito Giapponese e poi al Collegio di Guerra dell'Esercito giapponese nel 1916. Poco dopo il diploma venne assegnato alla corpo di spedizione giapponese durante l'Intervento in Siberia alla base di Vladivostok contro le forze rivoluzionarie bolsceviche. Dal 1933 al 1936 ebbe incarichi amministrativi al ministero della guerra giapponese per poi essere nominato dal 1936 al ruolo di comandante del 1º reggimento di fanteria dell'esercito giapponese, carica che mantenne sino al 1937.