Sachverhalt:
A. Der 1956 geborene K._ arbeitete seit 1986 als Strassenreiniger (Chauffeur Kategorie B). Am 26. August 2002 fiel er beim Schneiden eines Baumes von der Leiter und zog sich dabei eine Fussfraktur rechts zu, die am 3. September 2002 operativ versorgt wurde. Für die Folgen dieses Ereignisses richtet ihm der Unfallversicherer seit 1. August 2003 gestützt auf einen Invaliditätsgrad von 29 % eine Invalidenrente aus.
Im Januar 2004 meldete sich K._ bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich klärte die medizinischen und erwerblichen Verhältnisse ab, wozu sie auch die Akten des Unfallversicherer beizog, und lehnte mit Verfügung vom 9. November 2004 das Gesuch um Ausrichtung einer Invalidenrente ab. Daran hielt sie auf Einsprache des Versicherten hin fest, wobei sie gleichzeitig auch den Anspruch auf berufliche Massnahmen verneinte (Entscheid vom 3. Januar 2007).
B. Beschwerdeweise liess K._ beantragen, der Einspracheentscheid sei aufzuheben und es sei ihm eine ganze Rente zuzusprechen. Eventualiter sei er von Amtes wegen beruflich wieder einzugliedern und es sei der Fall zur üblichen IV-Abklärung zurückzuweisen. Subeventualiter sei die Sache zur medizinischen und beruflichen Abklärung und zur Einholung eines Gutachtens an die IV-Stelle zurückzuweisen. Mit Entscheid vom 20. November 2007 wies das Sozialversicherungsgericht des Kantons Zürich die Beschwerde ab.
C. K._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben mit dem Rechtsbegehren, der kantonale Entscheid sei aufzuheben und es sei ihm eine "behinderungsangepasste Rente" zuzusprechen. Eventualiter sei die Sache zur weiteren Abklärung zurückzuweisen. Das in der Beschwerde gestellte Gesuch um unentgeltliche Rechtspflege (Prozessführung, Verbeiständung) zog er im Verlaufe des Verfahrens zurück (Schreiben vom 28. Januar 2008).

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann nach <ref-law> die Verletzung von Bundesrecht gerügt werden. Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
2. Streitig und zu prüfen sind der Anspruch des Beschwerdeführers auf eine Rente der Invalidenversicherung und auf berufliche Massnahmen.
3. Da der Einspracheentscheid vom 3. Januar 2007 datiert, sind die am 1. Januar 2008 in Kraft getretenen Änderungen des IVG vom 6. Oktober 2006 und der IVV vom 28. September 2007 (5. IV-Revision) nicht anwendbar (<ref-ruling> E. 1 S. 356).
Im Einspracheentscheid werden die Bestimmungen über die Invalidität (<ref-law>, <ref-law>), die Invaliditätsbemessung bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (<ref-law>; vgl. <ref-ruling> E. 3.4 S. 348 f.) sowie die Voraussetzungen und der Umfang des Rentenanspruchs (vgl. <ref-law>) zutreffend dargelegt. Die Vorinstanz hat die Einheitlichkeit des Invaliditätsbegriffs (<ref-ruling> E. 3.3.3 S. 123 f.), die Ermittlung des ohne Invalidität erzielbaren Einkommens (Valideneinkommen; vgl. auch <ref-ruling> E. 4.3.1 S. 224 mit Hinweis) sowie die Bestimmung des trotz Gesundheitsschädigung zumutbarerweise noch erzielbaren Einkommens (Invalideneinkommen) nach den vom Bundesamt für Statistik in der Lohnstrukturerhebung (LSE) ermittelten Tabellenlöhnen (vgl. <ref-ruling> E. 4.2.1 S. 475 und E. 4.2.3 S. 481) richtig dargestellt. Gleiches gilt für die Ausführungen zur subjektiven und objektiven Eingliederungsfähigkeit als Anspruchsvoraussetzung für berufliche Massnahmen (AHI 1997 S. 79 E. 2b/aa; ZAK 1991 S. 178 E. 3). Darauf wird verwiesen.
4. 4.1 In tatsächlicher Hinsicht hat die Vorinstanz - für das Bundesgericht unter Vorbehalt von <ref-law> verbindlich - festgestellt, gemäss den übereinstimmenden medizinischen Beurteilungen sei der Beschwerdeführer einzig aufgrund der erlittenen Fussfraktur, mithin allein aufgrund von Unfallfolgen, in seiner Arbeitsfähigkeit eingeschränkt; es fehlten Anhaltspunkte für weitere gesundheitliche Beeinträchtigungen, namentlich solche psychischer Natur. In einer mehrheitlich sitzenden, den rechten Fuss nicht belastenden Tätigkeit, welche nicht die Einnahme einer Zwangshaltung erfordere, sei der Beschwerdeführer im Umfang von 100 % arbeitsfähig.
Unter Zugrundelegung dieser Prämisse ermittelte die Vorinstanz das trotz Gesundheitsschaden hypothetisch erzielbare Einkommen (Invalideneinkommen) auf der Basis der LSE 2002 unter Berücksichtigung einer durchschnittlichen wöchentlichen Arbeitszeit im Jahr 2003 und der Nominallohnentwicklung von 1,4 % für das Jahr 2003 mit Fr. 57'806.- ([Fr. 4'557 x 41.7/40 x 12] x 1.014), welchen Betrag sie in Würdigung der konkreten Umstände um einen leidensbedingten Abzug von 10 % auf Fr. 52'025.- kürzte. Für das Valideneinkommen ging sie von den Angaben des Arbeitgebers aus, wonach der Beschwerdeführer im Jahr 2003 einen Jahreslohn von Fr. 71'982.- (exklusive Zulagen) erzielt hätte, und trug den Zulagen mit einer Erhöhung um Fr. 1'514.- Rechnung, womit sie zu einem Einkommen von Fr. 73'496.- gelangte. Unberücksichtigt liess sie dabei die Treueprämie mit der Begründung, diese sei nicht jährlich ausgerichtet worden.
Nach einer Gegenüberstellung der beiden hypothetischen Vergleichseinkommen ermittelte die Vorinstanz einen rentenausschliessenden Invaliditätsgrad von (gerundet) 29 %.
4.2 Der Beschwerdeführer behauptet zu Unrecht, er leide nicht nur an Unfallfolgen, sondern an zusätzlichen Leiden, welche sich aus dem vertrauensärztlichen Gutachten der Dr. med. L._, Spezialärztin FMH für Innere Medizin, vom 11. Juni 2003 und dem vor Bundesgericht neu aufgelegten Bericht der Dres. med. M._ und G._, Facharzt für Allgemeinmedizin FMH, vom 16. August 2007 ergäben. Denn die Vorinstanz hat nach umfassender, sorgfältiger, objektiver und inhaltsbezogener Würdigung der medizinischen Aktenlage (<ref-ruling> E. 4.1 S. 400) mit überzeugender Begründung dargelegt, dass keine Anhaltspunkte für zusätzliche gesundheitliche Beeinträchtigungen mit Einfluss auf die Arbeitsfähigkeit bestehen. Wenn es auch zutrifft, dass Dr. med. L._ weitere Diagnosen ("Adipositas" und "Nikotinabusus") aufführte, verneinte sie doch einen Einfluss derselben auf die Arbeitsfähigkeit des Versicherten, wie sich aus dem Abschnitt "Beurteilung" ihres Gutachtens vom 11. Juni 2003 ergibt. Ebenso wenig in Frage gestellt wird die vorinstanzliche Sachverhaltsfeststellung durch den Bericht der Dres. med. M._ und G._ vom 16. August 2007 (wobei die Zulässigkeit dieses Beweismittels offen gelassen werden kann [<ref-law>]), weil dieser mehr als ein halbes Jahr nach dem Einspracheentscheid - welcher in zeitlicher Hinsicht die Grenze der richterlichen Beurteilung bildet (<ref-ruling> E. 1 S. 169 mit Hinweis) - erstellt worden ist und eine aktuelle Diagnosestellung beinhaltet, aus welcher sich für die massgebenden Verhältnisse bis zum Einspracheentscheid nichts ableiten lässt.
4.3 Hinsichtlich des Einkommensvergleichs rügt der Beschwerdeführer vergeblich, die Vorinstanz habe im Rahmen des Valideneinkommens zu Unrecht die Treueprämie nicht berücksichtigt. Denn im angefochtenen Entscheid wird zutreffend davon ausgegangen, dass der Beschwerdeführer mit der Treueprämie, da diese unregelmässig ausgerichtet wurde (im Jahr 2001 erhielt er eine solche in der Höhe von Fr. 5'632.-, im folgenden Jahr keine und im Jahr 2003 eine Teil-Prämie von Fr. 1'200.-), nicht rechnen konnte. Dass der Beschwerdeführer geltend macht, nur wegen seines unfallbedingten Arbeitsausfalles sei ihm die Treueprämie im Jahr 2002 nicht und im Jahr 2003 gekürzt ausgerichtet worden, überzeugt nicht, denn diese Behauptung steht nicht im Einklang mit der Tatsache, dass sich die Folgen des am 26. August 2002 erlittenen Unfalles erst im letzten Trimester 2002 auswirkten und der Beschwerdeführer im Jahr 2003 seine Tätigkeit überhaupt nicht mehr aufgenommen hat. Zudem würde auch die Berücksichtigung der Prämie am Ergebnis nichts ändern.
In Bezug auf das (mittels Tabellenlöhnen ermittelte) Invalideneinkommen ist - entgegen der Auffassung des Beschwerdeführers - nicht zu beanstanden, dass die Vorinstanz den in Tabelle TA1 angegebenen, einer 40-Stunden-Woche entsprechenden Wert (Fr. 4'557.-) auf die durchschnittliche wöchentliche Arbeitszeit im Jahr 2003 von 41,7 Stunden hochgerechnet hat. Denn die der LSE zugrunde liegenden Werte basieren (um den Vergleich zwischen Vollzeit- und Teilzeitbeschäftigung zu ermöglichen) auf standardisierten Monatslöhnen, d.h. auf einer einheitlichen Arbeitszeit von 4 1/3 Wochen zu 40 Stunden (LSE 2002, S. 11 Ziff. 1.3), welcher Schritt im Rahmen der Ermittlung des Vergleichseinkommens durch Aufrechnung von 40 auf die durchschnittliche Anzahl von 41,7 Wochenstunden rückgängig zu machen ist, um zum massgebenden Durchschnittslohn zu gelangen (vgl. auch <ref-ruling> E. 3b/bb S. 77).
Der Versicherte beanstandet zwar die Höhe des leidensbedingten Abzuges, macht jedoch zu Recht nicht geltend, die Vorinstanz habe diesen in Überschreitung, Unterschreitung oder Missbrauch ihres Ermessens festgesetzt, was allein letztinstanzlicher Korrektur zugänglich wäre (<ref-ruling> E. 3.3 S. 399). Indem die Vorinstanz einen Abzug von 10 % gewährt hat, um dem Umstand Rechnung zu tragen, dass der Beschwerdeführer den rechten Fuss nur bedingt belasten, nur geringe Gehstrecken zurücklegen und geringe Gewichte tragen oder heben kann, hat sie ihr Ermessen nicht fehlerhaft ausgeübt.
5. Den vom Versicherten erneut geltend gemachten Anspruch auf berufliche Massnahmen (namentlich Arbeitsvermittlung im Sinne von <ref-law>) haben die Vorinstanz und die IV-Stelle für den massgebenden Zeitraum zu Recht mangels subjektiver Eingliederungsbereitschaft (vgl. dazu auch AHI 2002 S. 108 E. 3b; SVR 2005 IV Nr. 30 S. 113 E. 3.3, I 605/04) verneint. Es bleibt darauf hinzuweisen, dass es dem Beschwerdeführer offen steht, bei anspruchserheblicher Veränderung der Verhältnisse bei der IV-Stelle ein neues Gesuch um die von ihm anbegehrte Arbeitsvermittlung einzureichen.
6. Die Gerichtskosten (<ref-law>) sind ausgangsgemäss vom Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 6. Juni 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Keel Baumann