中国とは異なる日本固有の美点を見出すこと、それは翻って故国との対比を促し価値観が多元化するきっかけとなった。その結果黄遵憲の中の中華思想は徐々に動揺させられ、中華はその文化・文明の影響を他国に及ぼすだけの一方通行的存在から相互に影響を受ける存在へと徐々に変化していく。また服装等の文化を一変させるような文明開化が明治維新と一体不可分であり、それによって日本が富国強兵を達成しているという眼前の事実を黄遵憲は認めざるを得なくなるのである。苦悩の末に彼は附会説を採用することにより中華思想と現実を融和させる。つまり彼は西欧の学問とは、墨子の学が西に伝播して発達したものだと考えることにより、そうした西欧に追随する日本の改革を是認する方向へと思考を改めるに至る。こうした理解を後世の我々が浅薄として笑うのは容易い。しかし当時いかに中華思想が強固なイデオロギーであったかを想起するとき、そして生まれた瞬間からその影響下で育ってきた黄遵憲の前半生を知るとき、そこから半歩足を踏み出すのにも多大な努力を要したことに思い至るであろう。その点で黄遵憲の思想的苦闘は評価されてよい。
以上のような認識の深化が明確に形を為すのは、日本を離れアメリカ駐在を経て得られたものであった。日本滞在中はまだ文化面における欧化主義に批判的な意識が残っていたようだ。そのため当時を代表する知識人であった中村正直（ベストセラー『西国立志編』や『自由之理』の著者）と交遊しながら、その思想に感銘を受けた様子はみられない。しかし日本が注目すべき国であるという認識はすでに滞在中から黄遵憲は抱いており、それに伴いあまりに明治日本の実情が中国に知られていないことを憂慮していた。また在日期間中特に黄遵憲の関心をもったのは、日本の富国強兵政策である。故国が内憂外患を抱えて四苦八苦する現状を憂えていた彼は、以前より如何に改革すべきかということが頭より離れなかったため、明治維新を参考にしようという使命感にとらわれた。そうした考えから日本の資料を友人の漢学者や宮島誠一郎に依頼して収集し、編纂したのが『日本国志』と『日本雑事詩』なのである。
『日本国志』の編纂.