W 1798 roku otrzymał nominację na brygadiera i wyruszył z Napoleonem na wyprawę do Egiptu. Sułkowski jako jeden z pierwszych wdarł się na mury twierdzy na Malcie. Brał udział w kilku bitwach (m.in. podczas oblężenia Aleksandrii i pod piramidami), odnosząc kilka ran. Za odwagę wykazaną podczas bitwy pod Salkeyeh Napoleon awansował go z szefa szwadronu na szefa brygady, co oznaczało zamianę szlifów kapitana na dystynkcje pułkownika. Po podleczeniu ran Sułkowski został przydzielony przez Napoleona do zadań cywilnych w Instytucie Egipskim, zajmując się organizacją sądów i oświatą. Sułkowski zginął 22 październiku 1798 roku, gdy wracając ze zwiadu, na przedmieściach Kairu został zaatakowany przez oddział powstańczy. Aby uczcić jego pamięć, Napoleon nazwał imieniem Sułkowskiego jeden z fortów pod Kairem. Jego nazwisko też zostało wpisane na kolumnie południowej Łuku Triumfalnego w Paryżu.