唐绍仪任内主张内阁制，袁世凯则相反。有一次袁世凯打算向英美法德四国银行贷款，四国银行提出的条件非常苛刻，例如要求派人监督国家财政。但这项贷款未得内阁同意。唐绍仪得知以后，立即向一些规模较小的外国银行商讨贷款问题。袁世凯得知以后，以将士反对内阁同意任命的王芝祥继任直隶都督为由，转调王芝祥主持南京军务，打击内阁的威信。6月27日，唐绍仪因为袁世凯政见不合而辞职。