Bereits 1950 gab Schaerf in der DEFA-Produktion "Semmelweis – Retter der Mütter" neben Karl Paryla und Camilla Spira sein Spielfilmdebüt. Zu seinen weiteren Filmen zählen Robert A. Stemmles Historiendrama "Rasputin" (Schaerf spielte den russischen Zaren), "Frühling auf Immenhof" und Viscontis Film-Biographie von "Ludwig II." Daneben spielte Schaerf zahlreiche Rollen in Fernsehsendungen wie dem Durbridge-Mehrteiler "Ein Mann namens Harry Brent", in der Krimireihe "Millionen nach Maß" (mit Curd Jürgens), in der Surminski-Verfilmung "Kudenow oder An fremden Wassern weinen" und in Wolfgang Staudtes Familiensaga "Die Pawlaks". Außerdem übernahm er Gastrollen in zahlreichen Fernsehserien wie "Hamburg Transit", "Percy Stuart", "Unter einem Dach", "Die Schwarzwaldklinik", und "Großstadtrevier". Im Straßenfeger "Die Gentlemen bitten zur Kasse" verkörperte Schaerf den britischen Posträuber "Thomas W. Wisbey" (Rollenname: "Andrew Elton"). Seinen letzten Fernsehauftritt hatte Schaerf in der ZDF-Vorabendserie "Der Landarzt", in der er von 1987 bis 1989 die Rolle des "Wilhelm Fletsch" spielte.