Organizacja łęczycka została wykryta przez władze carskie i rozbita w 1843 roku. Gralewski miał wtedy 17 lat, trafił do Cytadeli i został skazany na 12 lat służby wojskowej na Kaukazie, gdzie został wcielony do jednego z garnizonów stacjonujących w Dagestanie i walczących w wojnie kaukaskiej. W ciągu 12 lat służby awansował do stopnia oficerskiego. Pełnił prawdopodobnie funkcje kancelaryjne, dzięki czemu zjeździł niemal cały Kaukaz: Dagestan, Chanat Kubiński, Szyrwański (współczesny Azerbejdżan), Gruzję, Osetię, ziemie zamieszkane przez Czerkiesów. W czasie pobytu na Kaukazie zainteresował się etnografią.