I 1514 mistet han den litauiske byen Smolensk til Storfyrstedømmet Moskva, noe som styrket hans argumentasjon for at Polen-Litauen burde ha en stående hær. I 1515 allierte han Polen-Litauen med det tysk-romerske riket under Maximilian I av Det tysk-romerske rike, alliansen betydde at habsburgerne giftet seg inn i broren Ladislaus II av Ungarns familie. På grunn av dette giftermålet kom senere Bøhmen og Ungarn under habsburgerne i 1526 da Sigismunds nevø Ludvig II av Ungarn døde.