В 16 лет покинул охваченную гражданской войной родину и поступил в Браунсбергскую иезуитскую коллегию (Бранево, Восточная Пруссия, ныне Польша), не окончив которой, в июле 1655 года записался рядовым рейтаром в конный полк герцога Саксен-Лауэнбургского в составе шведской армии короля Карла Х и храбро бился в Северной войне 1655—1660 годов. Взятый в плен после битвы под Варшавой, перешёл под знамена Польши, сражался с русскими и татарами и был произведён в капитан-лейтенанты. С отличием действовал против русских как командир лейб-драгун князя Ежи Любомирского в Чудновской кампании 1660 г. Русский посол в Варшаве З. Ф. Леонтьев узнал о способностях Гордона и уговорил его перейти в царскую службу.