Carney rejoint le 54e régiment d'infanterie du Massachusetts en en tant que sergent. Il prend part à l'assaut du contre fort Wagner à Charleston, en Caroline du Sud. Ses actions lui valent la "Medal of honour" (médaille d'honneur) . Lorsque le porte-drapeau est tué, Carney récupère le drapeau américain et continue de marcher malgré de graves blessures. Lorsque les troupes de l'Union sont forcées de battre en retraite, il traverse le champ de bataille pour retourner finalement dans ses propres lignes. Il remit le drapeau à un autre survivant du 54e, en disant: "Les gars, je n'ai fait que mon devoir; ce bon vieux drapeau n'a jamais touché le sol! " . En , il est dispensé de service en raison du handicap causé par ses blessures .