Durant la révolte des Turbans Jaunes, il acquit un prestige et une reconnaissance de la part du pouvoir impérial. Commencée en 184, cette révolte populaire aux considérations religieuses de très grande ampleur mobilisa les ressources militaires de l'Empire. En effet des rébellions éclatèrent dans toutes les plaines centrales, mais échoua à Luoyang, la capitale impériale. Trois armées furent envoyées pour écraser cette révolte commandée par les généraux Huangfu Song et Zhu Jun. Ce dernier originaire de Kuaiji, demanda l'aide de Sun Jian, et le recommanda au titre temporaire de "Commandant des Forces détachées". Les batailles furent dures, notamment dans la région de Runan. Mais vers , Huangfu Song et Zhu Jun combinèrent leurs forces, Sun Jian suivant ce dernier pour vaincre Bo Cai, un des chefs de la révolte et reprirent Runan, en . Sun Jian participa à ces batailles et selon Pei Songzhi, fut blessé dans une embuscade. Il mena l’attaque contre Wan, l'un des principaux sièges de la révolte, en étant selon sa biographie, le premier sur les remparts. La capture de cette ville fut un coup dur pour la révolte qui commença à s’essouffler, bien qu'elle continua. En effet une nouvelle révolte éclata dans la province de Liang en 185. Sun Jian fit partie de l'armée impériale menée par le vainqueur des Turbans Jaunes, Huangfu Song. Il servit sous le commandement de Zhang Wen et incita ce dernier à punir Dong Zhuo pour insubordination, ce dernier peu enclin à exécuter les ordres de son supérieur hiérarchique, mais d’un rang supérieur, et meilleur général de Zhang Wen. Pour ces services, il obtint la gouvernance de Changsha en devenant grand administrateur de cette commanderie en 187.