ヤキーノとマルツェリーネの2人が舞台にいる。ヤキーノはマルツェリーネに「もし結婚してくれるなら」と頼む。しかし彼女は「絶対結婚しない、フィデリオに夢中だから」と返事する。フィデリオはレオノーレの扮装した姿である。（「ねえ、俺たちだけ。」Jetzt, Schätzchen, jetzt sind wir allein）ヤキーノは退出し、マルツェリーネはフィデリオの妻になりたいと歌う。（「もし私があなたと結ばれていたら」O wär ich schon mit dir vereint）ロッコとヤキーノが、フィデリオを探しながら登場する。フィデリオは、修理したばかりの鎖の重い荷物を運びながら入ってくる。ロッコはレオノーレの技術を褒めるが、彼の控えめな返答は、自分の娘の気を惹くためではないかと誤解する。マルツェリーネ、レオノーレ、ロッコおよびヤキーノは四重唱で、マルツェリーネのフィデリオへの愛について歌う。（「不思議な感情が私を満たす」Mir ist so wunderbar この歌はカノンの四重唱である）ロッコはレオノーレに、知事がセビリャに出発したらすぐマルツェリーネと結婚して良い、と言う。彼はさらに、金が無ければ幸せになれないと言う。（「もし、余分な金がないなら」Hat man nicht auch Gold beineben）レオノーレは金と同様に重要なものが欲しいと言う。そして、ロッコがある牢屋に立ち入る時は、絶対自分の手伝いを許さず、戻ってくる時は息も絶え絶えなのは何故か、知りたい、と尋ねる。ロッコは、特別の牢屋にいる囚人には会わせられない、その囚人は権力をもつ敵のせいで牢屋で2年間を無駄に過ごしているのだと言う。マルツェリーネは自分の父親に、レオノーレがそのような恐ろしい有様を見ないですむようにして欲しいと言う。対して、ロッコとレオノーレは勇気について歌う。じきにマルツェリーネも歌に加わる。（「大丈夫だ、息子よ」Gut, Söhnchen, gut）ロッコを除く人々が退出する。ドン・ピツァロが護衛と共に登場し，行進曲が演奏される。ロッコはピツァロにメッセージを渡す。それには、ピツァロが暴君であるという告発の調査のために、大臣が抜き打ちで明日来所すると警告されていた。ピツァロは、監禁されているドン・フロレスタンは死んだと思われているし、大臣が見つけられるはずはない、と叫ぶ。代わりにピツァロがフロレスタンを殺してやると歌う。（「は! なんだって」Ha, welch ein Augenblick!）ピツァロは大臣の到着の時にトランペットを鳴らすように命令する。彼はロッコに金を渡し、フロレスタンを殺すように言うが、ロッコは断る。（「ちょっとだんな。オレは急がないと」Jetzt, Alter, jetzt hat es Eile!）かわりにピツァロは牢獄の中の古井戸の中に墓穴を掘るように命令する。墓穴ができたらロッコは音を出して知らせ、ピツァロは偶然を装って牢獄に入って自分でフロレスタンを殺す、と。レオノーレはピツァロが筋書きを立てる様子は見ていたが、声は聞こえていなかった。彼女の心は波立つが、夫のことを考えて冷静を取り戻す。（「人間の屑! 何をしているつもり? かかってきなさい、希望は捨てないわ、最後には星が出る」Abscheulicher! Wo eilst du hin? ... Komm, Hoffnung, lass den letzten Stern）ヤキーノはマルツェリーネに結婚を申し込むが、彼女は断る。レオノーレはフロレスタンを見つけたいと思い、哀れな囚人たちが気持ちの良い天気を楽しめるよう、庭を散歩させてはどうか、とロッコに提案する。マルツェリーネも同様に頼み、ロッコも囚人たちを少し自由にするためにピツァロの手を煩わせることに同意する。囚人たちはつかの間の自由を非常に喜び、嬉しそうに歌う。しかし囚われの身であることを思い出して、間もなく静まってしまう。（「なんて嬉しいことか」O welche Lust）ロッコが再び登場し、ピツァロの了解を取り付けたとレオノーレに語る。ピツァロは結婚を許し、ロッコの牢獄の巡視にレオノーレの同行も許されたと。（「どうだったのか，話そう」Nun sprecht, wie ging's?）ロッコが1時間以内に殺さないければならないと言っている囚人の独房に行くために、彼らは準備する。レオノーレは震えているので、ロッコは残るように言ったが、彼女は行くと言い張る。彼らが出かける準備が整った頃、ヤキーノとマルツェリーネが駆け込み、ロッコに急いで来てほしいと言う。ピツァロが、囚人たちの自由を見て怒り狂っていると言う。（「お父さん，お父さん，急いで」Ach, Vater, Vater, eilt!）彼らが動く前、ピツァロが登場し、説明を求めた。ロッコは、王の命名日を祝っているのだと作り話をして、ピツァロに怒りを収めるように言う。ピツァロは墓穴掘りを急ぐように言い、囚人を再び牢屋に入れるように言う。ロッコ、レオノーレ、ヤキーノ、マルツェリーネは渋々囚人たちを牢屋に戻す。（「さようなら，暖かな日光」Leb wohl, du warmes Sonnenlicht）
紀元前44年5月6日にオクタウィアヌスがローマに戻った時点で、この年カエサルとともに執政官であったマルクス・アントニウスとカエサルを殺した元老院派との間で既に不戦条約が結ばれており、カエサル暗殺の首謀者は各自恩赦により3月17日付で国外に退去、マルクス・ブルトゥスとカッシウスはギリシアに赴任し、デキムス・ユニウス・ブルトゥス・アルビヌスはガリア・キサルピナ属州（現在の北イタリアの一部であるが、当時は本土イタリアの内と考えていなかった）を支配下に押さえていた。ローマに戻ったオクタウィアヌスは、軍団兵の支持厚い名将、民衆派の政治家として人気の高かったカエサルの葬儀を執り行った。カエサルの財産の4分の3を相続するはずだったオクタウィアヌスだが、下記のようにアントニウスの妨害にあってそれを入手できないでいた。しかし借金などの金策に努めてカエサル配下の軍団に給与を支払い、ローマ市民にも遺言に従って一時金を支給するなどして、支持を取り付けた。次第に頭角を現すオクタウィアヌスに対して、カエサルの死後、単独の執政官として事実上権力を掌握していたアントニウスは危機感を募らせた。当時アントニウスはカエサルの公的遺産を着服していたため、これを譲り渡すようオクタウィアヌスが説得した。アントニウスはこれを拒否し、オクタウィアヌスは説得には失敗するものの、多数のカエサル支持者から同情を買うこととなった。同年9月には、アントニウスと対立していたキケロがオクタウィアヌスと接近し、協力するようになる。オクタウィアヌスはキケロら元老院派と手を組んでアントニウスを論難、アントニウスは元老院の脅威となっていると弾劾した。次第にアントニウスは元老院で孤立してゆき、さらに1年間である執政官の任期も迫ってきたため窮地に陥った。この窮地に対してアントニウスは防衛策を打つ。執政官の任期が切れる前に、自分の身柄を保護する場所として属州ガリア・キサルピナに注目したのである。この属州は、上述のとおり当時デキムス・ブルトゥスが統治していたが、彼に代わり自らの統治を認める法案を元老院で成立させる。この間、オクタウィアヌスはカエサルの古参兵を招集して自らの軍隊を着々と編成、加えて10月28日にアントニウス配下の2個軍団も指揮下に入れる。12月31日に執政官の任期を終えたアントニウスは、翌紀元前43年1月1日にガリア・キサルピナへと逃れた。