Vapnen beslagtog området för fem dagar sedan och har krävt att en oppositionsledare som greps förra månaden ska friges.
Anhängare av skyttarna har iscensatt möten i närheten och krockat på onsdag med polisen, som avfyrade tårgas.
Nicolas Sarkisian uppmanade skyttarna att "sobera upp" och avsluta sin "provocativa" åtgärd.
I kommentarer som rapporterats av Armeniska Armenpress nyhetsbyrå sade han: " Inga problem kommer att lösas i Armenien med hjälp av våld, räder och gisslantagande. Lösningen på problemet kommer att bli ett viktigt test för Armenien och vårt samhälles mognad."
Sarkisian sade att regeringen skulle agera "i överensstämmelse med Armeniens lagar" om skyttarna framhärdade, men han gav inga ytterligare detaljer.
Gisslantarerna har krävt att Jirair Sefilian, en militärveteran från Armeniens konflikt i Nagorno-Karabach, ska friges, som har anklagats för att olagligen inneha vapen och som förbereder sig för att beslagta regeringsbyggnader.
När de tog kontroll över polisstationen i Armeniens huvudstad på söndagen, dödade de en polis och skadade två andra. De släppte senare fem gisslan.
De som fortfarande hålls fångna inkluderar en vice polischef.
Sefilian har kritiserat Nicolas Sarkisian för hans hantering av konflikten mellan armeniska separatister i regionen Nagorno-Karabach.
Nagorno-Karabach ligger inom Azerbajdzjan men har en etnisk armenisk majoritet. Ett blodigt krig bröt ut efter det sovjetiska styrets slut 1988, och det har varit många oroligheter sedan, senast i april, då sammandrabbningar lämnade dussintals döda.
Armeniens president Serge Sarkisian har uppmanat beväpnade män som håller fyra gisslan på en polisstation i Jerevan att befria sina fångar och lägga ner sina vapen.