861年随程学启改入淮军。1862年，丁汝昌即参加刘铭传的铭军水师营并参与攻克常州、广德等战役。1864年太平天国败亡，丁汝昌随刘铭传北上与捻军作战，原水师营改编为马队，丁汝昌即为马队军官。1866年，丁汝昌取得寿光大捷。1868年，东捻军失败，丁汝昌授总兵，加提督衔，赐协勇巴图鲁勇号。1877年，朝廷拟调任丁汝昌往甘肃，途经天津时，因伤病复发而滞留。后为李鸿章看中，调往新购的蚊子船“飞霆”号熟悉海军知识。
筹建水师.1879年，丁汝昌在李鸿章的举荐下，先留用北洋海防，后出任北洋海