首次下野.下野后，大隈为10年后开启的国会做准备，明治15年（1882年）3月与一道成立立宪改进党，并延揽尾崎行雄、犬养毅、等人。10月，小野梓、高田早苗等人鼓吹「学问独立」、「活用学问」、「造就模范国民」，在位于当时东京郊外的早稻田的开设东京专门学校（今早稲田大学）。明治17年（1884年），同河野敏鎌等脱离改进党。明治20年（1887年），敍勋伯爵。
从外务大臣到总理大臣.伊藤看重大隈的外交能力，挑选政敌大隈出任外务大臣，以图修改不平等条约。明治21