位主人是以如此不礼貌的方式邀请辜，就自己写了一封非常谦逊的信交送，询问是否可去拜访。两小时后，辜就回信答应。一进屋，辜就强力表达他对之前那张便条纸邀请的不满：袁世凯出身行伍，喜欢强调自己没学问但是善于实干。他曾经向德国公使吹嘘説：“张中堂（张之洞，是探花出身） 是讲学问的；我是不讲学问的，我是讲办事的。”袁世凯的幕僚将这件事得意地告诉辜鸿铭。辜鸿铭不假思索地回答：“老妈子倒马桶，固用不着学问；除倒马桶外，我不知天下有何事是无学问的人可以办得好。”后袁世凯死，全国举哀三天，辜鸿铭却特意请来一个戏班，在家大