Jose Beltrame avstod en dag efter en hög profil sammandrabbning mellan polisen och misstänkta knarklangare i några av stadens mest kända stadsdelar.
Skottlossningen orsakade panik och tvingade butiker att stänga sina dörrar på måndag.
Polisen säger att tre män dödades och flera arresterades i razzian på Pavao-Pavaozinho kåkstaden.
Dramatiska bilder på nätet visar att en av de misstänkta brottslingarna föll från ett berg efter att ha blivit skjuten av polisen.
Pavao-Pavaozinho är byggd på kullar och granit berg som delar Copacabana, Ipanema och Lagoa områden.
Beltrame ledde ett kontroversiellt program där polisen ockuperade dussintals av Rios favelas.
Invånarna välkomnade initialt "pacification plan", och firade gripandet eller flykten av narkotika lorders som kontrollerade livet i sina samhällen.
Men många vände sig så småningom emot programmet efter att ha anklagat polisen för att missbruka sina befogenheter.
Mer än 260 favelas har använts sedan programmet inleddes 2010.
Rios pacification program syftade till att förbättra säkerheten och rättsstatsprincipen inför Brasiliens värdskap för fotbolls-VM 2014 och Rios iscensättning av OS och Paralympics, som ägde rum i augusti och september.
Rioborna säger att säkerheten har minskat kraftigt sedan slutet av spelen.
Beltrame sade att den första fasen i hans "pacification program" var att återställa lag och ordning i stadens fattigaste samhällen.
Men han klagade över att det inte fanns några pengar till den andra etappen av programmet, som bestod av sociala förbättringar för invånarna, med byggandet av skolor och fritidsanläggningar.
Brasilien står inför en allvarlig ekonomisk och politisk kris och situationen i Rio de Janeiro har drabbats särskilt hårt av nedgången.
Säkerhetschefen för den brasilianska staten Rio de Janeiro har avgått efter nästan tio år efter en ökning av våldet nyligen.