Poco después de su promoción a "Generaloberst", Mackensen fue transferido a Italia como comandante del 14º Ejército. En marzo de 1944, Mackensen fue el primero oficial senior en ser informado por Kurt Mälzer, el comandante de la ciudad de Roma, de un ataque partisano contra el Regimiento de Policía SS Bolzano donde 32 soldados alemanes resultaron muertos. Mälzer había solicitado el inmediato rodeo y ejecución sumaria de los residentes italianos en la "Via Rasella", la calle donde se había producido el ataque. Mackensen era un superior de Mälzer y supuestamente rechazó su solicitud por ser "excesiva". Sin embargo la orden provenía directamente de Adolf Hitler, consultada con el Mariscal de Campo Albert Kesselring y el "Generaloberst" Alfred Jodl. La materia fue entonces referida a Kesselring, quien era un superior de Mackensen, y discutida con el Mariscal de Campo Wilhelm Keitel, resultando en órdenes que llamaban a la ejecución de diez italianos por cada soldado alemán muerto. Según se reportó, unidades a las órdenes de Mackensen y miembros del Regimiento de Policía Bolzano rechazaron participar en la ejecución, mientras según otras fuentes, el propio Mackensen dio la orden de los disparos. La responsabilidad finalmente cayó en el servicio de seguridad de las SS en Roma, bajo el comando de Herbert Kappler, quien aprobó la acción. Mälzer entonces organizó el escuadrón de fusilamiento liderado por Erich Priebke, un SS "hauptsturmführer" a las órdenes de Kappler, desencadenando la masacre de las fosas Ardeatinas.