Sachverhalt:
Mit Verfügung vom 26. Juli 2005 verneinte die IV-Stelle des Kantons Zürich einen Anspruch des 1964 geborenen S._ auf eine Invalidenrente mit der Begründung, der Versicherte könne bei dem aus medizinischer Sicht zumutbaren Arbeitspensum von 80 % in einer leidensangepassten Tätigkeit bei einem Invaliditätsgrad von 33 % ein rentenausschliessendes Erwerbseinkommen erzielen. Sie stützte sich dabei vorab auf das beim ärztliches Begutachtungsinstitut X._ eingeholte Gutachten vom 17. Mai 2005. Daran hielt sie mit Einspracheentscheid vom 23. Februar 2006 fest.
Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 25. Februar 2008 ab.
S._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, es sei ihm mit Wirkung ab 1. September 2003 eine Invalidenrente auf der Basis eines Invaliditätsgrades von 46 %, mindestens aber von 42 % zu gewähren.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 und Art. 96 BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2. Streitig und näher zu prüfen ist nur noch die Frage nach der Gewährung eines leidensbedingten Abzugs vom hypothetischen Invalideneinkommen. Die Frage, ob ein Abzug nach Massgabe der Grundsätze von <ref-ruling> vorzunehmen sei, ist rechtlicher Natur, die Bestimmung eines solchen Abzuges dagegen Ermessensfrage, die im Gegensatz zum früheren Recht (vgl. Art. 104 lit. c OG) nicht zu prüfen ist (Art. 95 und 97 BGG). Gerügt werden kann nur die Höhe des Abzuges im Hinblick auf Ermessensüberschreitung oder -missbrauch als Formen rechtsfehlerhafter (<ref-law>) Ermessensbetätigung (<ref-ruling> E. 3.3 S. 399).
3. Die Verwaltung hat im Einspracheentscheid einen leidensbedingten Abzug vom statistischen Durchschnittslohn mit der Begründung ausgeschlossen, ein solcher sei in dem aus psychischen Gründen reduzierten Pensum von 80 % inbegriffen. Die frühere Schwerarbeit sei dadurch berücksichtigt, dass das damit erzielte Einkommen nun mit dem durchschnittlichen Einkommen eines Hilfsarbeiters verglichen werde. Für die Vorinstanz sind keine Anhaltspunkte dafür ersichtlich, dass ein Arbeitgeber bei leichten oder mittelschweren Tätigkeiten zusätzlich zu der psychisch bedingt verminderten Leistungsfähigkeit des Beschwerdeführers gesundheitsbedingte Einschränkungen zu gewärtigen hätte; zudem wirkten sich weder die ausländische Herkunft des Niedergelassenen noch sein Alter in dem in Betracht fallenden Arbeitssegment lohnmindernd aus. Da eine leichte oder mittelschwere Tätigkeit in einer Vollzeitstelle zumutbar sei, rechtfertige sich auch kein Abzug wegen Teilzeitbeschäftigung (vorinstanzliche E. 5.3). Dem hält der Beschwerdeführer substanziell lediglich entgegen, eine reduzierte Leistungsfähigkeit von 80 % in Vollzeittätigkeiten wirke sich in gleicher Weise auf den erzielbaren Lohn aus wie eine Teilzeitbeschäftigung von 80 %, weshalb entsprechend ein Abzug zu gewähren sei.
4. Ob dies zutrifft, ist als Rechtsfrage durch das Bundesgericht frei überprüfbar (<ref-ruling> E. 3.2 S. 398 f. und E. 3.3 S. 399). Indem das Eidgenössische Versicherungsgericht unter dem Titel des Beschäftigungsgrades bei Teilzeittätigkeit einen leidensbedingten Abzug anerkannte, wollte es unter anderem dem Umstand Rechnung tragen, dass Teilzeitbeschäftigte in der Regel überproportional weniger verdienen als Vollzeitangestellte (<ref-ruling> E. 3b/aa S. 322 f.; vgl. überdies <ref-ruling> E. 5a/cc S. 78 und S. 79 in fine; AHI 1998 S. 175 E. 4b). Erfasst werden sollte mit diesem Abzug nur die eigentliche Teilzeitarbeit, nicht aber eine vollzeitliche Tätigkeit mit eingeschränkter Leistungsfähigkeit (vgl. Urteile I 292/05 vom 19. Oktober 2005, E. 5.3, und I 2/01 vom 24. Januar 2002, E. 2b/ee). Es besteht keine rechtsgenügliche Grundlage, um bei vollzeitlich mit reduzierter Leistungsfähigkeit tätigen Versicherten regelmässig eine über die Einschränkung der Leistungsfähigkeit hinaus gehende, überproportionale Lohneinbusse anzunehmen und beim leidensbedingten Abzug - oder mit einem solchen - zu berücksichtigen (vgl. Urteil I 69/07 vom 2. November 2007, E. 5). Die erhobene Rüge einer willkürlichen und rechtsungleichen Behandlung des früher als Flachdachisolateur tätigen und damit "praxisgemäss auf einen solchen Abzug Anspruch" habenden Versicherten zielt deshalb daneben, weil nach der dargelegten Rechtsprechung der Abzug nicht automatisch, sondern dann zu erfolgen hat, wenn im Einzelfall Anhaltspunkte dafür bestehen, dass die versicherte Person wegen eines oder mehrerer der dafür relevanten Merkmale ihre gesundheitlich bedingte (Rest-)Arbeitsfähigkeit auf dem allgemeinen Arbeitsmarkt nur mit unterdurchschnittlichem erwerblichem Erfolg verwerten kann. Dass solche Attribute beim Beschwerdeführer nicht gegeben sind, hat die Vorinstanz rechtlich einwandfrei erwogen. Darauf wird verwiesen. Dass der Beschwerdeführer nicht mehr die frühere Arbeit als Bau-Facharbeiter verrichten kann, wird bereits dadurch berücksichtigt, dass anstelle des in jenem Beruf erzielten Einkommens das wesentlich tiefere Median-Einkommen des gesamten privaten Sektors zugrunde gelegt wurde. Zudem würde selbst bei einem vom Beschwerdeführer angenommenen Abzug von ca. 9 % wegen der Leistungseinschränkung (analog zu einer Teilzeitbeschäftigung) kein rentenbegründender Invaliditätsgrad erreicht.
5. Die Beschwerde hatte keine Aussicht auf Erfolg, weshalb sie im vereinfachten Verfahren nach <ref-law> als offensichtlich unbegründet, ohne Schriftenwechsel und mit summarischer Begründung erledigt wird.
6. Die Gerichtskosten werden dem Beschwerdeführer als unterliegender Partei auferlegt (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Schweizerischen Baumeisterverbandes und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 5. Juni 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Schmutz