Йозеф Роземейер привлек к себе внимание в 1895 году, когда на различных немецких трековых велогонках получил три первых, два вторых и четыре третьих места. В рейтинге любителей он занял 23 место и был приглашен к участию на Чемпионате мира по трековым велогонкам 1895 года. Но он не смог добиться успеха в этом турнире.