Et annet hovedverk, eller  begynte han å skrive etter at han i 410 hørte at barbaren Alarik hadde plyndret Roma. Her hevdet Augustin at Romerrikets oppsmuldring var Guds straff for volden og fordervelsen blant romerne. Augustin ventet at fra dette kaoset ville et kristent samfunn grunnlagt på kjærlighet og rettferdighet komme. Samtidig mente Augustin at det var skadelig å ta feil om den katolske tro, og at staten om nødvendig måtte bruke harde midler for å stanse dem som på ulike måter ledet folk bort fra Guds by. Dette påvirket tenkesettet da man utvidet kjetterbegrepet på 1200-tallet.