1894년에 중국 보정부(保定府) 로 건너간 후, 1897년 조선에 돌아왔다. 1897년(건양 1년) 그는 서당에서 한학을 배우며 동몽선습, 명심보감을 속독했다. 그러나 그는 중국의 지식이 실생활에 도움되는 것이 무엇이냐며 얼마 못가 서당을 그만두었다. 이후 그는 각지를 유랑하며 날품팔이와 행상으로 생계를 이어가며 거주지가 정확하지 않았던 생활을 했다. 1898년(광무 1년) 이후 전라남·북도를 제외한 11도를 떠돌다가 1899년부터 일본으로 흘러들어가 일본인들과 사귀었고 일본어를 익혔다. 한때는 일본 후쿠오카 시에서 동아어학교 교사로 재직하기도 했다. 그는 동아어학교 교사 재직 시 이토 히로부미, 이노우에 카오루 등 지체높은 가문에 출입하고 있었다. 이를 두고 '당시 20세가 채 되지않았던 청년 민원식이 정계 요인과 어느 정도의 관계를 갖고 있었는지 의문이지만, 일본의 강력한 영향력 아래에 있던 조선에 돌아 왔을 때, 이러한 오랜 일본 체류 경험이 유리하게 작용했던 것은 사실일 것'이라 보는 시각도 있다. 일본 체류 중 그에게 관립한성외국어학교의 일본어 교사와 중국어 교사직이 추천되었지만 그는 답장을 거부하거나, 자신의 부족함을 이유로 번번히 거절했다. 1905년(광무 8년) 3월 2일 경무청 총순(警務廳總巡)에 임명되었으나 곧 사퇴했다.