时家贫辍学。十九岁时随父王守庵经商至山东。在山东曲阜曾谒孔庙而叹曰：“夫子亦人也，我亦人也”。十九岁后“常衔《孝经》、《论语》、《大学》袖中，逢人质难，久而信口谈解，如或启之”，因善经营，“自是家道日裕”，成为富户。三十八岁时，远赴江西，师从江西巡抚王阳明，是王阳明的重要弟子之一，阳明一开始觉得他个性高傲，因此把他的名字改成带有静止意思的“艮”字；王艮经常与师争论，“时时不满师说”，坚持自己的观点，既“反复推难、曲尽端委”，又“不拘泥传注”、“因循师说”，于是自创“淮南格物说”。有一次坐“招摇车”（