随叔父陈承瑢参加金田起义，洪秀全“见其忠勇”，特地赐名为玉成。1854年陈在第二次攻破武昌的战事中立功，升殿右三十检点，并受命统陆军后十三军，水师前四军。次年随天官正丞相秦日纲收复武昌，其后转战庐州、芜湖，所向披靡，累官至冬官正丞相。1856年，随燕王秦日纲驰援镇江，破清江北大营，歼清江苏巡抚吉尔杭阿军，配合翼王石达开部击溃江南大营，后追击江南大营残部至丹阳负伤。1857年，陈玉成与李秀成在桐城大破清军，封成天豫，任又正掌率。1858年升前军主将，9月与李秀成再破江北大营，11月取得三河大捷，1859年