尽管美国陆军曾基于种族理由拒绝金永玉入伍，但在一份将亚裔美国人纳入征兵适用对象的法令由美国国会颁布后，金永玉才得以在1941年1月31日应召入伍，而其父则于3个月后逝世。
第二次世界大战.金永玉在陆军工兵队服役半年后，被选入乔治亚州本宁堡的（）。1943年1月毕业后，被分派到由夏威夷出身的日裔美国人所组成的，该营营长提供金永玉转调其他部队的机会，担心在日本对朝鲜实施殖民统治的当时，身为朝鲜裔尉官的他会与营上的日裔士官、士兵间相处紧张。然而金永玉表示：「部队里面没有日裔和朝鲜裔的区