Инь Жугэн был родом из уезда Пинъян (сейчас — территория уезда Цаннань городского округа Вэньчжоу) провинции Чжэцзян. В 1902 году богатый отец отправил его в Японию, где Инь Жугэн стал изучать японский язык и в 1905 году поступил в 1-ю высшую школу Токио (подготовительная школа Токийского императорского университета). На следующий год он поступил в 7-ю школу военной подготовки. Во время учёбы в Японии Инь Жугэн стал активным членом организации Тунмэнхой, а также женился на японке. По распоряжению лидера Тунмэнхоя — Хуан Сина — Инь Жугэн вернулся в Китай для руководства революционной деятельностью в провинции Хубэй. После образования Китайской Республики Инь Жугэн вступил в Гоминьдан. После участия во 2-й конференции Гоминьдана в 1913 году он решил вернуться в Японию, чтобы продолжить образование в университете Васэда.