Sachverhalt:
A. Mit Verfügung vom 19. Mai 2004 und Einspracheentscheid vom 23. Mai 2005 verneinte die IV-Stelle des Kantons Zürich einen Anspruch des 1969 geborenen U._ auf eine Invalidenrente mangels eines genügenden Invaliditätsgrades. Das wurde letztinstanzlich mit Urteil I 1/06 des Bundesgerichts vom 30. Mai 2007 bestätigt. Im Juli 2007 meldete sich U._ erneut bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich holte nebst weiteren Sachverhaltsabklärungen ein Gutachten des Dr. med. K._, Facharzt FMH für Psychiatrie und Psychotherapie, vom 2. Juni 2008 ein. Sie ermittelte einen Invaliditätsgrad von 39 % und verneinte erneut einen Rentenanspruch (Verfügung vom 18. Januar 2010). Zwischenzeitlich hatte das Bundesgericht ein von U._ unter Hinweis auf das Gutachten K._ eingereichtes Gesuch um Revision des Urteils I 1/06 mit Urteil 8F_14/2008 vom 15. Dezember 2008 abgewiesen.
B. U._ führte Beschwerde gegen die Verwaltungsverfügung vom 18. Januar 2010. Das Sozialversicherungsgericht des Kantons Zürich gewährte ihm die unentgeltliche Rechtspflege und wies die Beschwerde mit der Begründung ab, der Invaliditätsgrad belaufe sich auf lediglich 37 % (Entscheid vom 28. Juni 2010).
C. U._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben mit dem Rechtsbegehren, in Aufhebung des kantonalen Entscheids vom 28. Juni 2010 und der Verwaltungsverfügung vom 18. Januar 2010 sei ihm rückwirkend ab 17. Juli 2007 eine halbe Invalidenrente zuzusprechen. Weiter wird um Gewährung der unentgeltlichen Rechtspflege für den letztinstanzlichen Prozess ersucht. In der Beschwerdebegründung wird u.a. geltend gemacht, die IV-Stelle habe im kantonalen Verfahren eine Stellungnahme eines Arztes des Regionalen Ärztlichen Dienstes (RAD) nur unvollständig aufgelegt (bundesgerichtliches Verfahren 8C_763/2010).
D. Mit Gesuch vom 11. Oktober 2010 beantragte U._ dem Sozialversicherungsgericht des Kantons Zürich, dessen Entscheid vom 28. Juni 2010 in Revision zu ziehen. Er begründete dies mit dem nur unvollständig aufgelegten RAD-Arzt-Bericht. Das Bundesgericht verfügte hierauf am 27. Oktober 2010 die Sistierung des Verfahrens 8C_763/2010 bis zum Entscheid des Sozialversicherungsgerichts über das Revisionsbegehren. Mit Entscheid vom 19. April 2011 wies das kantonale Gericht das Revisionsgesuch ab. Es erhob keine Kosten und gewährte U._ die unentgeltliche Verbeiständung.
E. U._ lässt hiegegen ebenfalls Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und nebst dem Antrag auf Aufhebung der vorinstanzlichen Entscheide vom 28. Juni 2010 und 19. April 2011 sowie der Verwaltungsverfügung vom 18. Januar 2010 sein Leistungsbegehren gemäss Verfahren 8C_763/2010 erneuern. Weiter lässt er um Gewährung der unentgeltlichen Rechtspflege auch für diesen letztinstanzlichen Prozess ersuchen (bundesgerichtliches Verfahren 8C_446/2011).
Die IV-Stelle beantragt die Abweisung der Beschwerde, ohne sich weiter zur Sache zu äussern. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.
Erwägungen:
1. Der Beschwerdeführer ficht einerseits den Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 28. Juni 2010 und anderseits denjenigen vom 19. April 2011 betreffend ein gegen den Entscheid vom 28. Juni 2010 gestelltes Revisionsbegehren an. Die Rügen gegen beide Entscheide beschlagen den Anspruch auf eine Invalidenrente. Unter diesen Umständen rechtfertigt es sich, die beiden Verfahren zu vereinigen (vgl. Urteil 9C_774/2009 vom 16. August 2011 E. 1).
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (BGE 134 V 250 E. 1.2 S. 252 mit Hinweisen). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (vgl. BGE 133 II 249 E. 1.4.1 S. 254; Urteil 8C_934/2008 vom 17. März 2009 E. 1 mit Hinweisen, nicht publ. in: BGE 135 V 194, aber in: SVR 2009 UV Nr. 35 S. 120).
Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Von diesen tatsächlichen Feststellungen kann es nur dann abweichen, wenn sie offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (Art. 105 Abs. 2 BGG) und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Als vom Bundesgericht zu korrigierende Rechtsverletzung gilt auch eine unvollständige Sachverhaltsfeststellung (statt vieler: SVR 2011 BVG Nr. 24 S. 91, 9C_610/2010 E. 1.2 mit Hinweis).
3. 3.1 Das kantonale Gericht hat im Entscheid vom 28. Juni 2010 die für den streitigen Leistungsanspruch massgeblichen Bestimmungen und Grundsätze zutreffend dargelegt. Das betrifft namentlich die Begriffe Invalidität (Art. 8 ATSG in Verbindung mit Art. 4 Abs. 1 IVG) und Erwerbsunfähigkeit (Art. 7 ATSG), den nach dem Grad der Invalidität abgestuften Anspruch auf eine Invalidenrente (Art. 28 Abs. 1 IVG in der bis Ende 2007 in Kraft gestandenen und Art. 28 Abs. 2 IVG in der seit Anfang 2008 geltenden Fassung), die Bestimmung des Invaliditätsgrades bei Erwerbstätigen mittels Einkommensvergleich (Art. 16 ATSG), die bei einer Neuanmeldung nach rechtskräftiger Verneinung eines Rentenanspruchs zu beachtenden Regeln (Art. 17 Abs. 1 ATSG; Art. 87 Abs. 3 und 4 IVV; BGE 130 V 71; vgl. auch BGE 133 V 108 und SVR 2010 IV Nr. 54 S. 167, 9C_899/2009 E. 2.1) sowie die Anforderungen an beweiswertige ärztliche Berichte und Gutachten (BGE 134 V 231 E. 5.1 S. 232; 125 V 351 E. 3a S. 352; vgl. auch BGE 135 V 465 E. 4.4 S. 470). Darauf wird verwiesen.
3.2 Die Vorinstanz ist zum Ergebnis gelangt, der Beschwerdeführer sei aus somatomedizinischer Sicht in einer leichten Arbeitstätigkeit weiterhin zu 100 % arbeitsfähig. Unter Berücksichtigung seines psychischen Gesundheitszustandes sei von einer 70%igen Arbeitsfähigkeit in einer behinderungsangepassten Tätigkeit auszugehen.
Davon ausgehend hat das kantonale Gericht einen Einkommensvergleich vorgenommen. Mangels verlässlicher Einkommenszahlen aus früherer und/oder aktueller Erwerbstätigkeit des Versicherten bestimmte es das ohne gesundheitliche Beeinträchtigung mutmasslich erzielte Einkommen (Valideneinkommen) und das trotz gesundheitlicher Beeinträchtigung zumutbarerweise noch erzielbare Einkommen (Invalideneinkommen) anhand von Tabellenlöhnen, wobei es beim Invalideneinkommen einen leidensbedingten Abzug von 10 % vornahm. Dies führte zu einem Invaliditätsgrad von 37 %. Der für eine Invalidenrente mindestens erforderliche Invaliditätsgrad von 40 % (Art. 28 Abs. 1 IVG in der bis Ende 2007 in Kraft gestandenen Fassung; Art. 28 Abs. 2 IVG in der seit Anfang 2008 geltenden Fassung) wird damit nicht erreicht.
3.3 Umstritten ist die psychisch bedingte Einschränkung der Arbeitsfähigkeit. Der Beschwerdeführer macht geltend, die Restarbeitsfähigkeit betrage lediglich 50 %.
3.3.1 Das kantonale Gericht stützt sich bei der Annahme einer 70%igen Restarbeitsfähigkeit auf das psychiatrische Gutachten des Dr. med. K._ vom 2. Juni 2008. Dieses sei als beweiswertig zu betrachten. Die übrigen medizinischen Akten führten zu keiner anderen Betrachtungsweise. Das gelte auch für den am 2. Dezember 2008 erstatteten Bericht des Dr. med. H._, Facharzt FMH für Psychiatrie und Psychotherapie, vom Regionalen Ärztlichen Dienst (RAD) über die am 6. November 2008 vorgenommene Untersuchung des Versicherten.
3.3.2 Der Beschwerdeführer wendet ein, die IV-Stelle habe im kantonalen Verfahren nicht den vollständigen Untersuchungsbericht des Dr. med. H._ eingereicht. Das kantonale Gericht habe daher über unvollständige Beurteilungsgrundlagen verfügt.
Der Einwand trifft zu. Wie nunmehr unbestrittenermassen feststeht, fehlt in der Fassung des Untersuchungsberichts H._, welche die IV-Stelle im vorinstanzlichen Verfahren eingereicht hat, eine von der Verwaltung entfernte Passage der Originalversion, in welcher sich der RAD-Psychiater zur Arbeitsfähigkeit äussert. Dieses Vorgehen der IV-Stelle ist offensichtlich unzulässig. Für das vorliegende Verfahren folgt daraus, dass die im angefochtenen Entscheid getroffene Sachverhaltsfeststellung insofern als unvollständig gilt, weshalb das Bundesgericht nicht daran gebunden ist (E. 2 in fine hievor). Unter den gegebenen Umständen rechtfertigt sich, wie dies auch der Beschwerdeführer postuliert, dass das Bundesgericht die notwendigen Sachverhaltsfeststellungen unter Berücksichtigung der nunmehr vorliegenden vollständigen Kopie des Untersuchungsberichts H._ selber trifft. Die dafür nötigen Beurteilungsgrundlagen liegen vor.
3.3.3 Gemäss Gutachten K._ vom 2. Juni 2008 liegt aus psychiatrischer Sicht eine leicht ausgeprägte posttraumatische Belastungsstörung bei Status nach Unfall vor, welche die Arbeitsfähigkeit in einer körperlich angepassten Tätigkeit zu 30 % beeinträchtige.
Diese fachärztliche Beurteilung beruht auf einer eingehenden Untersuchung des Versicherten. Der Experte hat die geklagten Beschwerden sowie die medizinischen Vorakten berücksichtigt und seine Folgerungen überzeugend begründet. Das Gutachten K._ ist daher mit der Vorinstanz als beweiswertig im Sinne der Rechtsprechung (vgl. die in E. 3.1 erwähnten Präjudizien) zu betrachten.
Das kantonale Gericht hat sich mit den übrigen medizinischen Akten auseinandergesetzt und ist zum Ergebnis gelangt, diese begründeten keine Zweifel am Gutachten K._. Das ist lediglich mit Blick auf die Ausführungen des RAD-Psychiaters Dr. med. H._ umstritten. Darauf wird nachfolgend eingegangen.
3.3.4 Dr. med. H._ hat im - vollständigen - Untersuchungsbericht vom 2. Dezember 2008 zwar die Auffassung vertreten, es bestehe eine hälftige Arbeitsunfähigkeit. Am 3. Dezember 2008 nahm er aber nochmals Stellung und führte nach einleitenden Bemerkungen zum psychischen Gesundheitszustand aus: "Es ist deshalb nachvollziehbar, dass der Versicherte gesamthaft zu 30 % in seiner Arbeitsfähigkeit seit 2000 eingeschränkt ist. Mein Untersuchungsbericht vom 2. Dezember 2008 hat bei der versicherungsmedizinischen Beurteilung die Diagnostik nachvollzogen und zur Prognose und Behandlung Stellung genommen. Ich gehe mit der Beurteilung des Dr. med. K._ bezüglich Einschätzung der Arbeitsfähigkeit insofern einig, dass ich eine 70%ige Arbeitsfähigkeit feststelle. Das heisst, dass der Versicherte in einer Tätigkeit, welche Rücksicht auf die Fussbeschwerden nimmt, zu 70 % arbeitsfähig ist."
Dr. med. H._ hat sich somit, wenn auch nach anfänglich abweichender Auffassung, der fachärztlichen Beurteilung des Dr. med. K._ ausdrücklich angeschlossen. Eine klare fachärztliche Aussage, welche dieser Beurteilung widerspricht, liegt damit nicht vor. Auch aus den weiteren Ausführungen des RAD-Psychiaters und den übrigen medizinischen Akten ergeben sich keine Anhaltspunkte, welche Zweifel am Gutachten des Dr. med. K._ zu begründen vermöchten. Das kantonale Gericht hat somit zu Recht auf eine 70%ige Restarbeitsfähigkeit in einer körperlich angepassten Tätigkeit geschlossen.
3.4 Die vorinstanzliche Invaliditätsbemessung wird im Übrigen nicht beanstandet und gibt keinen Anlass zu weiteren Bemerkungen. Es bleibt damit bei der Feststellung eines nicht rentenbegründenden Invaliditätsgrades. Das führt zur Abweisung der Beschwerde im Verfahren 8C_763/2010.
4. 4.1 Im Entscheid vom 19. April 2011 hat das kantonale Gericht die gesetzlichen Grundlagen für die Revision seiner Entscheide dargelegt.
Danach muss die Revision von Entscheiden wegen Entdeckung neuer Tatsachen oder Beweismittel oder wegen Einwirkung durch Verbrechen oder Vergehen gewährleistet sein (Art. 61 lit. i ATSG). Das Verfahren bestimmt sich nach kantonalem Recht (Art. 61 Ingress ATSG; UELI KIESER, ATSG-Kommentar, 2. Aufl. 2009, N. 134 zu Art. 61). Rechtsprechungsgemäss können nur erhebliche resp. entscheidende neue Tatsachen oder Beweismittel zu einer Entscheidsrevision führen (vgl. SVR 2010 IV Nr. 55 S. 169, 9C_764/2009 E. 3.1 mit Hinweis auf BGE 127 V 353 E. 5b S. 358). Nach § 29 lit. a des kantonalzürcherischen Gesetzes über das Sozialversicherungsgericht vom 7. März 1993 (GSVGer) kann gegen rechtskräftige Entscheide des Gerichts von den am Verfahren Beteiligten Revision verlangt werden, wenn sie neue erhebliche Tatsachen erfahren oder Beweismittel auffinden, die sie im früheren Verfahren nicht beibringen konnten.
4.2 Die Vorinstanz hat erkannt, die Kenntnis des vollständigen Berichts des RAD-Arztes führe nicht zu einer anderen Beurteilung der Restarbeitsfähigkeit. Es verweist dabei u.a. auf die oben erwähnte zweite Stellungnahme des RAD-Arztes vom 3. Dezember 2008.
Es ist - schon nach dem zuvor Ausgeführten - nicht ersichtlich und wird vom Beschwerdeführer auch nicht dargetan, inwiefern diese Beurteilung bundesrechtswidrig sein soll.
4.3 Das kantonale Gericht hat weiter erwogen, damit könne offenbleiben, ob überhaupt ein Revisionsgrund im Sinne von § 29 GSVGE vorliege.
Führt der vollständige RAD-Bericht nach dem Gesagten zu keiner abweichenden Beurteilung der Restarbeitsfähigkeit - und damit der Rentenfrage -, fehlt es jedenfalls an seiner Erheblichkeit, womit er als Revisionsgrund nicht in Frage kommt. Daran vermögen die Vorbringen des Beschwerdeführers nichts zu ändern. Demzufolge ist auch die Beschwerde im Verfahren 8C_446/2011 abzuweisen.
5. 5.1 Gemäss Art. 66 BGG werden die Gerichtskosten in der Regel der unterliegenden Partei auferlegt. Wenn die Umstände es rechtfertigen, kann das Bundesgericht die Kosten anders verteilen oder darauf verzichten, Kosten zu erheben (Abs. 1). Unnötige Kosten hat zu bezahlen, wer sie verursacht (Abs. 3).
Das Bundesgericht bestimmt im Urteil, ob und in welchem Mass die Kosten der obsiegenden Partei von der unterliegenden zu ersetzen sind (Art. 68 Abs. 1 BGG).
Nach Art. 64 BGG befreit das Bundesgericht eine Partei, die nicht über die erforderlichen Mittel verfügt, auf Antrag von der Bezahlung der Gerichtskosten und von der Sicherstellung der Parteientschädigung, sofern ihr Rechtsbegehren nicht aussichtslos erscheint (Abs. 1). Wenn es zur Wahrung ihrer Rechte notwendig ist, bestellt das Bundesgericht der Partei einen Anwalt oder eine Anwältin. Der Anwalt oder die Anwältin hat Anspruch auf eine angemessene Entschädigung aus der Gerichtskasse, soweit der Aufwand für die Vertretung nicht aus einer zugesprochenen Parteientschädigung gedeckt werden kann (Abs. 2). Die Partei hat der Gerichtskasse Ersatz zu leisten, wenn sie später dazu in der Lage ist (Abs. 4).
5.2 Im Verfahren 8C_763/2010 sind die Gerichtskosten dem Prozessausgang entsprechend vom Beschwerdeführer zu tragen. Dem Gesuch um unentgeltliche Rechtspflege (im Sinne der vorläufigen Befreiung von den Gerichtskosten und der unentgeltlichen Verbeiständung) kann entsprochen werden.
Im Verfahren 8C_446/2011 ist der Beschwerdeführer zwar ebenfalls unterlegen. Der Prozess wurde aber wesentlich durch das Verhalten der IV-Stelle mitverursacht. Es ist daher gerechtfertigt ist, dieser in Anwendung von Art. 66 Abs. 1 und 3 BGG die Gerichtskosten zu überbinden und sie zur Bezahlung einer Parteientschädigung an den Beschwerdeführer zu verpflichten. Damit ist dessen Gesuch um unentgeltliche Rechtspflege in diesem Verfahren gegenstandslos.
Bei der Bemessung der Entschädigung für den unentgeltlichen Beistand (Verfahren 8C_763/2010) und der Parteientschädigung (Verfahren 8C_446/2011) ist dem durch Synergieeffekte der beiden Verfahren verminderten Aufwand des Rechtsvertreters Rechnung zu tragen.
Demnach erkennt das Bundesgericht:
1. Die Verfahren 8C_763/2010 und 8C_446/2011 werden vereinigt.
2. Die Beschwerden werden abgewiesen.
3. Im Verfahren 8C_763/2010 wird dem Beschwerdeführer die unentgeltliche Rechtspflege gewährt.
4. Im Verfahren 8C_763/2010 werden die Gerichtskosten von Fr. 500.- dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
5. Im Verfahren 8C_763/2010 wird Rechtsanwalt Dr. Domenico Acocella als unentgeltlicher Anwalt des Beschwerdeführers bestellt, und es wird ihm für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 1'500.- ausgerichtet.
6. Im Verfahren 8C_446/2011 werden die Gerichtskosten von Fr. 500.- der IV-Stelle des Kantons Zürich auferlegt.
7. Im Verfahren 8C_446/2011 hat die IV-Stelle des Kantons Zürich dem Beschwerdeführer eine Parteientschädigung von Fr. 1'500.- auszurichten.
8. Im Verfahren 8C_446/2011 wird die Sache zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
9. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. September 2011
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Der Gerichtsschreiber: Lanz