意识到不可盲目崇拜西洋，并重新审视中国固有文化。主张以中国传统文化弥补西方文化之不足。1911年，开始兼任《东方杂志》主编。至1919年底的9年间，曾用“伧父”和“高劳”笔名，撰写论文、杂感和译着约300余篇，涉及内容范围包括哲学、政治、经济、法律、外交、文化、伦理、教育等。使杂志成为民国初年的重要刊物。其文章从实际出发，有尖锐的批评，也有切合国情的建议，高瞻远瞩。如在《中国之新生命》一文中提到：其政论也常有独到的见解，给人以启迪。但其思想较为保守，道德深层留恋于陈旧观念，也提出了一些固步自封的主张。