佔庐江城之后，丁汝昌参加太平军，成为程学启部将，1860年（清咸丰十年），清军攻打安庆，丁汝昌随程学启投入湘军，1861年随程学启改入淮军。1862年，丁汝昌即参加刘铭传的铭军水师营并参与攻克常州、广德等战役。1864年太平天国败亡，丁汝昌随刘铭传北上与捻军作战，原水师营改编为马队，丁汝昌即为马队军官。1866年，丁汝昌取得寿光大捷。1868年，东捻军失败，丁汝昌授总兵，加提督衔，赐协勇巴图鲁勇号。1877年，朝廷拟调任丁汝昌往甘肃，途经天津时，因伤病复发而滞留。后为李鸿章看中，调往新购的蚊子船“飞霆”号熟