Olaf Rye tilhørte en gammel norsk offiserslekt og var sønn av kaptein Mathias Rye og Elisabeth Johanne Lind. Han valgte den militære løpebane, og i 1808 ble han sekondløytnant hvoretter han kom på strandvakt mot britene under Napoleonskrigene. I 1809 avanserte han til premierløytnant. Han var med i et par mindre trefninger mot Sverige under Christian Frederik, hvoretter han sammen med sine to regimentskamerater Hans Helgesen og Friderich Adolph Schleppegrell fra , nektet å avlegge ed til den svenske konge.