Shigetarō Shimada dilahirkan di Tokyo, Jepang pada 24 September 1883. Ia lulus dari angkatan ke-32 Akademi Angkatan Laut Kekaisaran Jepang pada 1904. Di kelasnya ia mendapat peringkat ke-27 dari 192 orang taruna. Salah satu teman sekelasnya adalah Laksamana Isoroku Yamamoto. Sebagai kadet, ia pernah ditugaskan di Kapal perawat kapal selam Karasaki dan Kapal penjelajah Izumi yang terlibat dalam Pertempuran Tsushima dalam Perang Rusia-Jepang. Selanjutnya ia juga pernah ditugaskan di Kapal penjelajah dan dan dipromosikan sebagai sub-letnan pada 28 September 1907. Pada 11 Oktober 1909, ia diangkat sebagai Letnan dan bertugas di Kapal penjelajah tempur Tsukuba dan Kapal tempur Settsu.