В сражении в Глуши Рамсер снова находился в резерве. 7 мая 1864 года его бригада была послана в атаку на IX корпус Бернсайда. Однако самое известное достижение бригады Рамсера — это её оборона «подковы мула» в бою 12 мая под Спотсильвейни. Когда федеральная бригада Хэнкока ворвалась в траншеи конфедератов и уничтожила дивизию Джонсона, бригада Рамсера была послана в контратаку вместе с бригадами Гордона. Федералов удалось оттеснить на север, но в этот момент с запада пошёл в атаку корпус генерала Райта. Силами целого корпуса Райт атаковал участок, вошедший в историю как «Кровавый Угол», который обороняли бригады Рамсера и Макгоуэна. Бой продолжался 20 часов, Рамсер снова получил пулю в правую руку и упал с лошади, но отказался покинуть поле боя.