Agrippa deltok i mindre militære kampanjer i 35 og 34 f.Kr., men ved høsten 34 f.Kr. hadde han dratt tilbake til Roma. Han begynte raskt med å engasjere i offentlige reparasjoner og forbedringer, inkludert renovasjon av akvedukten kjent som Aqua Marcia og en utvidelse av dens løpe for å dekke flere områder av byen. Ved hans handlinger etter å ha blitt utnevnt som edil, ansvarlig for Romas bygninger og festivaler, ble gatene reparert og kloakkene rensket opp samtidig som overdådige offentlige framføringer ble arrangert. Agrippa viste sin dyktighet i posisjonen ved å komme med store forbedringer i Roma, restaurerte og bygde akvedukter, forstørret og renset kloakksystemet Cloaca Maxima, bygde bad og porticoer, og konstruerte hageanlegg. Han ga også stimulanser til offentlige utstillinger av kunstverker. Det var uvanlig for en tidligere konsul å holde posisjonen som edil, men Agrippas suksess førte til et brudd med denne tradisjonen. Som enehersker kunne Octavianus, som nå hadde tatt tittelen augustus (som ble hans navn), senere skryte av at «han kommet til en by i murstein, men etterlatt den i marmor», takket være den store innsatsen som Agrippa hadde utført som byggherre i hans tjeneste.