De oorsprong van het leger gaat terug tot 1861. Het leger was maar één korps groot en had de naam Army of Northeastern Virginia meegekregen. Het werd aangevoerd door brigadegeneraal Irvin McDowell. Het was dit leger dat de eerste grote slag van het conflict, de Eerste Slag bij Bull Run, uitvocht en verloor. Toen generaal-majoor George B. McClellan in Washington D.C. arriveerde, werd een grote reorganisatie doorgevoerd. McClellan had in eerste instantie het bevel gekregen over de Division of the Potomac waaronder het Departement of Northeast Virginia van McDowell en het Departement of Washington van brigadegeneraal John K. Mansfield ressorteerde. Op 26 juli 1861 werd het Departement of Shenadoah, onder leiding van generaal-majoor Nathaniel P. Banks, samengevoegd met dat van McClellan. Diezelfde dag hield McClellan de Army of the Potomac boven de doopvont. Alle eenheden van de verschillende departementen werden opgenomen in dit nieuwe leger. De soldaten van Banks werden omgevormd tot een infanteriedivisie in het leger. Het leger werd ingedeeld in vier korpsen. Tijdens de Schiereilandveldtocht werden er nog twee korpsen gecreëerd. Na de Tweede Slag bij Bull Run werden de eenheden van generaal-majoor John Pope opgenomen in de Army of the Potomac.