В 2005 году Шерф в третий раз возглавил сборную Израиля перед «турниром последней надежды», победитель которого получал путёвку на чемпионат Европы. Команда выиграла этот турнир и вышла в финальную часть первенства континента, где, в частности, победила сборную Испании, но в плей-офф уступила будущим чемпионам, грекам. В следующем розыгрыше чемпионата Европы команда Израиля неудачно сыграла в отборочной группе, но снова пробилась в финальную часть через турнир последней надежды, одержав затем победы над сербами (на первом этапе) и хорватами (на втором групповом этапе), однако в плей-офф не попав из-за поражения от португальцев. В 2009 году Шерф в третий раз подряд вывел сборную в финальную часть чемпионата Европы, но на этот раз побед на этом этапе не добился, и тренерский состав сборной был сменён.