De 10 km stora bostadshusen på fyra kilometer blev förbjudet område för allmänheten som en säkerhetsåtgärd i kölvattnet av den amerikanska ockupationen 2003.
Det är det senaste i en rad steg av Abadi för att lindra sekteristiska spänningar och bekämpa korruption.
Bagdad har under flera veckor protesterat mot dålig service och maktmissbruk.
Tidigare denna månad stödde det irakiska parlamentet, i en sällsynt enighetsuppvisning, Abadis program för att avskaffa höga regeringsposter och minska utgifterna.
På fredag gav premiärministern instruktioner om att häva restriktionerna för den gröna zonen. Det är oklart när planen kommer att genomföras.
Anläggningen, i Karkh-distriktet på Tigris västra strand, är omgiven av betongväggar och är tungt bevakad av vägspärrar och stridsvagnar.
Den hyser före detta irakiska ledaren Saddam Husseins palats och var det administrativa högkvarteret för de amerikanska ockupationsmyndigheterna. Flera utländska ambassader, bland annat amerikanska och brittiska ambassader, ligger där.
De flesta irakier har uteslutits från den gröna zonen om de inte har särskilt tillstånd, och stora mutor har betalats för att få runt stränga inträdesförfaranden, enligt AFP nyhetsbyrå.
Zonen har varit måltavla för bombningar och raketer under årens lopp, och förstärkningsåtgärderna syftade till att göra den säkrare, även om attackerna i Bagdad fortfarande är vanliga.
Umberto Abadi beordrade också att man skulle avlägsna hinder och kontrollstationer som upprättats på huvudvägar och trottoarer i Bagdad och på andra håll av framstående personer och miliser.
Ordningen att häva restriktionerna är en del av en rad åtgärder för att avväpna spänningar och utrota korruption. En panel kommer också att inrättas för att återvinna statlig egendom som tillhör eliter som påståtts ha förvärvats olagligt.
Under de senaste veckorna har tusentals irakier tagit sig ut på gatorna i Bagdad och andra städer för att protestera mot misslyckandet med att tillhandahålla grundläggande tjänster och mot korruption.
De har fått stöd av Iraks främsta shia-premientiösa Grand Ayatollah Ali al-Sistani och den mäktiga shia-milisledaren Moqtada Sadr.
Iraks premiärminister Haider al-Abadi har beordrat tjänstemän att öppna sig för civila det kraftigt befästa området Bagdad, känt som den gröna zonen.