Za czasów króla Jana Olbrachta walczył z Tatarami, a później z Moskwą. W nagrodę za rozbicie czambułu tatarskiego w bitwie pod Oczakowem dowodzonego przez Mehmeda I Gireja otrzymał, jako pierwszy, tytuł wielkiego hetmana litewskiego. W roku 1500, w czasie wojny litewsko-moskiewskiej 1500–1503, po przegranej bitwie nad Wiedroszą, dostał się do niewoli, w której przebywał trzy lata. Idąc na udawaną współpracę z Iwanem Srogim, dostał swobodę poruszania się, którą wykorzystał do ucieczki. Król Zygmunt Stary przywrócił go na stanowisko hetmańskie. Wspomagany przez Mikołaja Firleja kontynuował wojnę z Moskwą. W 1512 wraz z hetmanem wielkim koronnym, Mikołajem Kamienieckim, pokonał Tatarów w bitwie pod Wiśniowcem.