Tidlig i 1953 forlot George Nelson, som hadde et alkoholproblem, Orioles. Han ble erstattet av John «Gregory» Carroll, tidligere medlem av en annen Baltimore gruppe, Four Buddies. I juni 1953 spilte de inn en versjon av Darrell Glenns countrylåt «Crying In the Chapel». Dette skulle bli Orioles' største hit, lå på førsteplass på R & B-lista i fem uker i august og september, og nådde # 11 på hitlistene. Det skulle også bli deres siste store hit, med bare en versjon av «In The Mission of St. Augustine» senere samme år nådde R & B-listene.