Sachverhalt:
A. Der 1962 geborene I._ arbeitete vom 1. März 2002 bis 31. Oktober 2005 als Metzger/Geschäftsführer bei der X._ GmbH. Das Arbeitsverhältnis wurde aus wirtschaftlichen Gründen von der Arbeitgeberin aufgelöst. I._ meldete sich am 6. März 2006 bei der Arbeitslosenversicherung zum Leistungsbezug an. Mit Verfügung vom 12. Juli 2006 stellte das Amt für Wirtschaft und Arbeit des Kantons Zürich (AWA) den Versicherten mit Beginn vom 30. Mai 2006 für die Dauer von 36 Tagen in der Anspruchsberechtigung ein, da er Weisungen nicht befolgt habe. Konkret habe er sich auf eine ihm am 29. Mai 2006 zugewiesene Stelle bei der Y._ AG zwar beworben, es sei aber wegen den Lohnvorstellungen des Versicherten zu keinem Vertragsabschluss gekommen. Die dagegen geführte Einsprache lehnte das AWA ab (Einspracheentscheid vom 17. August 2006).
B. Das Sozialversicherungsgericht des Kantons Zürich wies die dagegen erhobene Beschwerde ab (Entscheid vom 13. März 2008).
C. I._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der vorinstanzliche Gerichtsentscheid und der Einspracheentscheid seien aufzuheben; eventuell sei die Dauer der Einstellung in der Anspruchsberechtigung auf ein angemessenes Mass zu reduzieren.
Das AWA und das Staatssekretariat für Wirtschaft verzichten auf eine Vernehmlassung.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Eine unvollständige Sachverhaltsfeststellung stellt eine vom Bundesgericht ebenfalls zu korrigierende Rechtsverletzung im Sinne von <ref-law> dar (Seiler/von Werdt/Güngerich, Kommentar zum Bundesgerichtsgesetz, Bern 2007, N. 24 zu <ref-law>). Vom Bundesgericht frei überprüfbar ist hingegen namentlich die falsche Rechtsanwendung (Seiler/von Werdt/Güngerich, a.a.O., N. 9 zu <ref-law>).
2. Die Vorinstanz hat die Bestimmungen über die Pflichten des Versicherten (<ref-law>), insbesondere die Pflicht, eine vermittelte zumutbare Arbeit anzunehmen (<ref-law>), und die Einstellung in der Anspruchsberechtigung bei Nichtbefolgen der Weisungen des Arbeitsamtes ohne entschuldbaren Grund (<ref-law>) sowie die Qualifikation der Ablehnung einer zumutbaren Arbeitsstelle ohne entschuldbaren Grund als schweres Verschulden (<ref-law>) zutreffend dargelegt. Darauf wird verwiesen.
3. 3.1 Die Vorinstanz hat in Würdigung der Aktenlage festgestellt, dass sich der Beschwerdeführer am 6. Juni 2006 auf die ihm am 29. Mai zugewiesene Stelle beworben habe, dass es gemäss Rückmeldung der Y._ AG aber wegen dessen Lohnvorstellungen nicht zu einer Anstellung gekommen sei. Diese habe von einem Vorstellungsgespräch abgesehen, nachdem er anlässlich eines Telefongesprächs angegeben habe, zuletzt einen Lohn von Fr. 5'600.- erhalten zu haben. Ob der Versicherte die Arbeitsstelle bei einem Lohn von Fr. 4'600.- angenommen hätte, könne nicht beurteilt werden. Auf Grund der Angaben des Beschwerdeführers zu diesem Telefongespräch sei erstellt, dass er zwar die ihm angebotene Stelle wegen des im Vergleich zu seiner letzten Arbeitsstelle tieferen Verdienstes nicht abgelehnt habe, dass er hingegen keine klare und vorbehaltlose Bereitschaft zum Abschluss des Arbeitsvertrages bekundet habe. Vielmehr habe er der Y._ AG nur mitgeteilt, dass er sich bezüglich des Lohnes noch mit seiner Kundenberaterin des RAV besprechen müsse, und dass er anschliessend sehen werde, ob das Stellenangebot diesbezüglich in Ordnung sei. Damit habe er seine Schadenminderungspflicht verletzt.
3.2 Eine arbeitslose Person darf eine unzumutbare Arbeit ohne versicherungsrechtlich nachteilige Folgen ablehnen (<ref-law> e contrario; <ref-ruling>). Die Frage der Zumutbarkeit der Arbeit beurteilt sich angesichts des identischen Begriffs nach <ref-law>. Bei lohnmässig unzumutbarer Arbeit im Sinne von <ref-law> muss sie die Stelle annehmen, wenn sie Kompensationszahlungen nach <ref-law> erhält (Thomas Nussbaumer, in Schweizerisches Bundesverwaltungsrecht, Soziale Sicherheit, Rz. 843 S. 2431).
3.2 Eine arbeitslose Person darf eine unzumutbare Arbeit ohne versicherungsrechtlich nachteilige Folgen ablehnen (<ref-law> e contrario; <ref-ruling>). Die Frage der Zumutbarkeit der Arbeit beurteilt sich angesichts des identischen Begriffs nach <ref-law>. Bei lohnmässig unzumutbarer Arbeit im Sinne von <ref-law> muss sie die Stelle annehmen, wenn sie Kompensationszahlungen nach <ref-law> erhält (Thomas Nussbaumer, in Schweizerisches Bundesverwaltungsrecht, Soziale Sicherheit, Rz. 843 S. 2431).
3.3 3.3.1 Vorliegend hat das kantonale Gericht keine tatsächlichen Feststellungen darüber getroffen, ob dem Beschwerdeführer ein auch hinsichtlich des Lohnes zumutbares Angebot gemacht worden war. Den Akten lässt sich entnehmen, dass über den von der Firma anvisierten Lohn (Fr. 4'600.- beziehungsweise Fr. 4'600.- bis Fr. 5'200.-) überhaupt nicht gesprochen wurde. Insofern kann dem Beschwerdeführer nicht zum Vorwurf gemacht werden, dass er keine vorbehaltlose Bereitschaft zum Vertragsabschluss bekundete.
3.3.2 Gemäss Beschwerdeführer dauerte das Telefongespräch mit der Verantwortlichen der Y._ AG nur sehr kurz. Er sei direkt gefragt worden, was er an seiner letzten Arbeitsstelle verdient habe. Nach der entsprechenden Auskunft sei ihm mitgeteilt worden, dass er nicht "in unsere Lohnklasse" passe. Darauf habe er zur Antwort gegeben, "Gut, dann muss ich das mit meiner Beraterin vom RAV besprechen, ob das in Ordnung ist". Diese Darstellung divergiert mit der Rückmeldung der Y._ AG zuhanden des RAV vom 20. Juni 2006, worin die Nichtanstellung mit "Lohnvorstellung zu hoch" begründet wurde. Welche Sachverhaltsdarstellung der Realität entspricht kann jedoch dahingestellt bleiben. Auch wenn derjenigen des Beschwerdeführers gefolgt wird, ist davon auszugehen, dass er der Y._ AG in Aussicht stellte, mit dem RAV Kontakt aufzunehmen, und die Angelegenheit zu besprechen. Angesichts seiner Ausführungen war ihm klar, dass sein früherer, relativ hoher Lohn im Zusammenhang mit einem neuen Vertragsabschluss ein Problem darstellte. Er hätte daher aktiv zu erkennen geben müssen, dass er sich auch mit einem tieferen Lohn zufriedengeben würde. Konkret hätte er sich - mit oder ohne Rücksprache mit der RAV-Beraterin - sehr kurze Zeit nach dem Anruf der Firma nochmals mit dieser in Verbindung setzen müssen. Im Weiteren behauptet er selbst nicht, dass er sich unmittelbar nach dem Telefongespräch mit der Y._ AG tatsächlich mit dem RAV in Verbindung gesetzt hätte, um sich beraten zu lassen. Beides hat er unbestrittenermassen nicht getan. Mit diesen Unterlassungen hat er - wie das kantonale Gericht zu Recht ausführt - seine Pflicht zur Schadenminderung verletzt. Eine Nichtannahme zumutbarer Arbeit liegt nämlich nicht nur dann vor, wenn die versicherte Person eine Stelle ausdrücklich zurückweist oder eine nach den Umständen gebotene ausdrückliche Annahmeerklärung unterlässt, sondern dieser Einstellungstatbestand erfasst grundsätzlich jedes Verhalten, welches das Zustandekommen eines Arbeitsvertrages scheitern lässt. Bei den Verhandlungen mit dem künftigen Arbeitgeber ist klar und eindeutig die Bereitschaft zum Vertragsabschluss zu bekunden, um die Beendigung der Arbeitslosigkeit nicht zu gefährden (Nussbaumer, a.a.O., Rz. 844, S. 2431). Durch seine Passivität nach der Kontaktnahme durch die Y._ AG hat sich der Beschwerdeführer nicht ernsthaft um die Aufnahme von Vertragsverhandlungen bemüht und damit den Tatbestand von Art. 17 und 30 Abs. 1 lit. d AVIG erfüllt.
4. Der Beschwerdeführer wendet sich auch gegen die Einstellungsdauer und erachtet diese mit 36 Tagen als übersetzt.
4.1 Die Höhe der Einstellungsdauer ist eine typische Ermessensfrage, in die das Bundesgericht auf Beschwerde hin nur eingreift, wenn die Vorinstanz den gesetzlichen Rahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen bzw. in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (Urteil 8C_22/2008 vom 5. März 2008).
4.2 Die vorinstanzlich bestätigte Einstellungsdauer im unteren Bereich des schweren Verschuldens (<ref-law>) von 36 Tagen ist unter Berücksichtigung der gesetzlichen Vorgabe, wonach die Ablehnung einer zumutbaren Arbeitsstelle ohne entschuldbaren Grund als schweres Verschulden zu qualifizieren ist (<ref-law> in Verbindung mit <ref-law>), nicht zu beanstanden.
5. Die Gerichtskosten sind dem Beschwerdeführer als der unterliegenden Partei aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Arbeitslosenkasse des Kantons Zürich und dem Staatssekretariat für Wirtschaft schriftlich mitgeteilt.
Luzern, 1. Juli 2008
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Schüpfer