Nach Einsicht
in die Verfassungsbeschwerde gegen den Beschluss vom 26. April 2011 des Obergerichts des Kantons Zürich, das auf eine Beschwerde des Beschwerdeführers gegen die erstinstanzliche Erteilung der provisorischen Rechtsöffnung an den Beschwerdegegner für Fr. 16'724.-- (nebst Zins und Kosten) nicht eingetreten ist,

in Erwägung,
dass gegen den in einer vermögensrechtlichen Angelegenheit ergangenen Beschluss des Obergerichts mangels Erreichens der Streitwertgrenze (<ref-law>) und mangels Vorliegens einer Ausnahme gemäss <ref-law> allein die subsidiäre Verfassungsbeschwerde nach <ref-law> offen steht, weshalb die Eingabe des Beschwerdeführers als solche entgegengenommen worden ist,
dass in einer subsidiären Verfassungsbeschwerde die Rüge der Verletzung verfassungsmässiger Rechte vorzubringen und zu begründen (Art. 117 i.V.m. <ref-law> sowie <ref-law>), d.h. anhand der Erwägungen des kantonalen Entscheids klar und detailliert darzulegen ist, welche verfassungsmässigen Rechte und inwiefern sie durch diesen Entscheid verletzt sein sollen (<ref-ruling> E. 3.1 S. 399), ansonst auf die Beschwerde nicht eingetreten wird (Art. 117 i.V.m. <ref-law>),
dass das Obergericht im Beschluss vom 26. April 2011 erwog, die Beschwerde des Beschwerdeführers enthalte keine Rechtsbegehren, weshalb auf die Beschwerde nicht einzutreten sei, selbst im Falle des Eintretens wäre es beim vorinstanzlichen Entscheid geblieben, weil sich der Beschwerdeführer in seiner Beschwerde in keiner Weise mit den vorinstanzlichen Erwägungen auseinandersetze,
dass der Beschwerdeführer in seiner Eingabe an das Bundesgericht nicht auf die entscheidenden obergerichtlichen Erwägungen eingeht,
dass seine Vorbringen vielmehr wirr und unverständlich sind,
dass der Beschwerdeführer ebenso wenig eine Verletzung verfassungsmässiger Rechte geltend macht,
dass der Beschwerdeführer erst recht nicht anhand der obergerichtlichen Erwägungen nach den gesetzlichen Anforderungen, d.h. klar und detailliert aufzeigt, welche verfassungsmässigen Rechte und inwiefern sie durch den Beschluss des Obergerichts vom 26. April 2011 verletzt sein sollen,
dass somit auf die - offensichtlich keine hinreichende Begründung enthaltende - Verfassungsbeschwerde in Anwendung von Art. 117 i.V.m. <ref-law> nicht einzutreten ist,
dass der unterliegende Beschwerdeführer kostenpflichtig wird (<ref-law>),
dass in den Fällen des Art. 117 i.V.m. <ref-law> das vereinfachte Verfahren zum Zuge kommt und die Abteilungspräsidentin zuständig ist,

erkennt die Präsidentin:
1. Auf die Verfassungsbeschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 7. Juni 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Füllemann