при регистрации на рейс предъявляете паспорт сербии, при въезде в Сербию - его же. При выезде из Сербии паспорт РФ(если спросят, на каком основании находились в Сербии -опять паспорт Сербии покажете), при въезде в РФ - паспорт РФ. Масса народа так ездит, никаких проблем.