Ketika Perang Tiongkok-Jepang Pertama (1894-1895) pecah, Ahn yang saat itu masih menjadi pelajar, mulai menyadari perlunya untuk memperkenalkan kebudayaan baru dan peradaban ke negaranya dan meningkatkan status dan kekuatan Korea sebagai negara independen. Ketika Jepang memenangkan perang dan mulai mengarahkan pandangannya ke Korea, tahun 1894 Ahn pergi ke Seoul untuk belajar. Pada tahun 1895 ia mengikuti pendidikan di Gusae Hakdang, lembaga pendidikan yang disponsori misionaris yang didirikan oleh Horace G Underwood dan masuk Kristen. Ketika Ahn masih berstatus pelajar di Gausae ia bekerja untuk Dr. Oliver R. Avison di Jejungwon, Institut medis pertama di Korea yang menjadi Severance Hospital dan sekarang bagian dari Pusat Medis Universitas Yonsei. Pada tahun 1897, ia bergabung dengan Asosiasi Kemerdekaan, sebuah lembaga sosial politik yang memfokuskan pada pentingnya kemandirian dan tidak bergantung pada pengaruh asing. Ia juga memulai kariernya sebagai aktivis kemerdekaan dan pengajar pada saat yang sama. Pada usia 22 tahun, ia mendirikan sekolah dasar swasta pertama di Korea.