Afzelius studerte historie og latin ved Københavns Universitet under Erik Arup og William Norvin. I 1935 fikk han doktorgraden for en avhandling om . I 1946 ble han den første professoren i antikkens historie ved Århus universitet, og i 1956 ble han utvnevnt til direktør for Det danske institut i Rom. Han ligger begravet på .