观点出现以前，人类就已在没有统治或政治阶级的自治社会中生活了数千年。直到阶级制度确立之后，才有思想家提出跟无政府主义有关的理念，籍其批判或反对具有强制性的政治体制及阶级式社会。一些学者认为起源于古代中国的道家跟无政府主义理念有关。同属道家学派的老子及庄子立足于「反政体」的立场，反对参与任何政治组织及运动。并于《道德经》及《庄子》中主张「无为而治」。道家的追随者认为人应顺应自然而活。「劝告统治者『无为』是否属于无政府主义」这点至今仍存有争议。到了被混乱吞噬的晋朝，当时的道家思想家同样具有无政府主义的倾向。