腐败行为而被压制，愤而辞官归隐。阮秉谦在自己的家乡开办学校，教授儒学。冯克宽（外交官）、梁有庆（Lương Hữu Khánh）、阮屿（Nguyễn Dữ，《传奇漫录》的作者）都是阮秉谦的学生。在南北朝动盪的年代，阮秉谦成为了各路势力的拉拢目标。随着莫朝在内战中的垮台，阮主和郑主分别控制了越南的南北部，郑检和阮潢在争权夺利中都曾征求过他的意见。对于郑主，阮秉谦建议他重建后黎朝并挟持黎皇号令天下；而对于阮主，他则建议在未开发的越南南部地区建立一个根据地。郑检和阮潢都听从了他的意见，使得双方的政治和军事实力