Paže třímající meč v městské bráně se poprvé objevila na znaku Starého města pražského v roce 1648. Byl to dar od císaře Ferdinanda III. na oslavu hrdinné obrany před švédským obléháním Prahy. Do roku 1784, kdy byla spojena čtyři pražská města - Staré Město, Nové Město, Hradčany a Malá Strana) v jeden celek, užívalo každé z nich vlastní městský znak. Po sjednocení převzala Praha znak Starého Města jako sídla Magistrátu. Znak se během doby poněkud měnil. Po vzniku Československé republiky se po dlouhých jednáních dospělo roku 1926 k nové podobě znaku se lvem z malého znaku ČSR a stuhou s nápisem PRAHA MATKA MĚST (schválen 1927). V období Protektorátu se od roku 1941 na popud Josefa Pfitznera používal pouze malý znak města (štít velkého znaku). Po válce se opět začala používat prvorepubliková verze velkého znaku. V roce 1964 nahradila korunu prostředního lva rudá hvězda. Změněn byl rovněž štítek se slovenským znakem na jeho hrudi - dvojkříž byl nahrazen vatrou. Současná podoba znaku byla přijata dne 21. března 1991.