总理大臣必须是国会议员，但未必是衆议院议员。现任的众议院议员担任首相者，在大日本帝国宪法下的33位首相之中，最早的是原敬，还有滨口雄幸、犬养毅，共3人。另一方面，现任的贵族院议员担任首相者以伊藤博文为开端，有松方正义、大隈重信、桂太郎、西园寺公望、高桥是清、清浦奎吾、加藤高明、若槻礼次郎、近卫文麿、东久迩宫稔彦王、币原喜重郎、吉田茂等多人。