Йозеф Роземаєр привернув до себе увагу у 1895 році, коли на різноманітних німецьких трекових велоперегонах отримав три перших, два других та чотири третіх місць. У рейтингу аматорів він посів 23 місце та був запрошений до участі у Чемпіонаті світу з трекових велоперегонів 1895 року. Але він не зміг добитися успіху у цьому турнірі.