En 1096, il répond à l’appel à la première croisade lancé par le pape , et suit Godefroid de Bouillon, après avoir organisé le conseil de régence du comté. Il est avec Hugues de Vermandois, Raymond de St-Gilles, Robert Courteheuse, , Bohémond de Tarente et son neveu Tancrède de Hauteville, l’un des principaux chefs de la croisade. Il participe au siège de Nicée, à la prise d’Antioche en octobre 1097 et à la prise de Jérusalem, le , lors de laquelle il se couvre de gloire en entrant dans Jérusalem parmi les premiers chevaliers vainqueurs. En , il refuse la royauté sur la ville sainte et rentre en Flandre avec le duc de Normandie, ramenant une précieuse relique, le bras de saint Georges, offerte par l’empereur ; c’est l’église abbatiale d'Anchin qui la reçoit.