I 1978 gikk Fry sammen med John Williams, Francis Monkman, Kevin Peek samt Herbie Flowers og startet progrockbandet Sky. Dette bandet baserte seg i hovedsak på instrumentaler innen soft rock, klassisk musikk og jazz. Utover 1980-tallet var han studiomusiker for Cliff Richard, Camel, Keith Emerson og Francis Monkman. Han var også delaktig i soundtrack til Gandhi, Yentl, Dr. Who og James Bond-filmen Never Say Never Again, samt kjenningsmelodien til tv-seriene Yes Minister, To the Manor Born og Last of the Summer Wine.