Heintzelman var den øverste ansvarlige for 2. Michigan infanteri regiment, som foretog et raid, ransagning og ødelæggelse af Pohick Church i Lorton, Virginia den 12. november 1861. Den historiske kirke var blevet bygget i 1769 af bl.a. George Washington, George Mason og George William Fairfax, og var blevet restaureret efter Krigen i 1812 af præsidenterne Martin Van Buren og John Quincy Adams foruden Francis Scott Key med flere. Ransagningen betød tab af en stor mængde uerstattelige kulturgenstande.