1861年に南北戦争が起きると、カーニーはアメリカに戻り、准将に任官されて第1ニュージャージー旅団の指揮を執って、部隊を効果的に訓練した。軍隊はカーニーが障害者なので彼に任務を課することを躊躇ったが、第一次ブルランの戦いでの北軍の敗北に衝撃を受けて、年季の入った戦闘指揮官の重要性を認識するようになった。カーニーの旅団は彼が師団の指揮を離れた後でも、特にグレンデイルの戦いで華々しい戦果を残した。カーニーは1862年4月30日、第3軍団の第3師団の指揮官となった。カーニーはこの師団を率いてウィリアムズバーグの戦いとフェアオークスの戦いを行った。ウィリアムスバーグでは、戦場に部隊を率いていくと、「私は片腕でジャージーの銃の息子だ、私に続け！」と叫んだ。ここで再び、片手に剣、歯に手綱の勇敢な将軍の突撃が再現された。カーニーは「心配するな諸君、敵は皆私を目掛けて撃ってくる」と宣言して部隊を前に押し出したことでも有名である。半島方面作戦の時のカーニーの軍功は軍隊や上官からの尊敬を集めることになった。しかし、カーニーはポトマック軍の指揮官ジョージ・B・マクレラン少将をひどく侮蔑しており、その命令を（特に後から来たときは）しばしば無視した。北軍が勝ったマルバーンヒルの戦いの後で、マクレランは撤退を命令したので、カーニーは次のように書き残した。