Franklin se convirtió en coronel de la 12ª Infantería de EE.UU. el 18 de junio de 1861. Comandó una brigada en Bull Run y luego se convirtió en comandante de división en el recién creado Ejército del Potomac. Franklin fue ascendido a brigadier general de voluntarios el 20 de agosto (con fecha del 17 de mayo). En marzo de 1862, el ejército se convirtió en cuerpo, y Franklin fue nombrado jefe del VI Cuerpo, que luego dirigió en la Campaña de la Península. El VI Cuerpo no vio combates extensos en las Batallas de los Siete Días, aparte de su 2da División que reforzó al V Cuerpo en Gaines Mill. Franklin fue uno de los dos comandantes del cuerpo (junto con Erasmus Keyes del IV Cuerpo) que abogó por la retirada de Richmond en lugar de un contraataque. Fue ascendido a Mayor General el 4 de julio de 1862. Su comando estaba con el ejército principal y no participó en la Campaña del Norte de Virginia.