Sachverhalt:
A. Der 1952 geborene L._ meldete sich am 16. Februar 2006 bei der Arbeitslosenversicherung zur Stellenvermittlung an mit dem Vermerk, eine Vollzeitstelle zu suchen. Ab 1. Mai 2006 erhob er Anspruch auf Arbeitslosenentschädigung, wobei er angab, er sei bereit und in der Lage, im Umfang von 50 % zu arbeiten. Die Arbeitslosenkasse des Kantons Zürich erbrachte für die Monate Mai bis August 2006 Arbeitslosenentschädigung auf der Grundlage eines anrechenbaren Arbeitsausfalls von 100 %. Nachdem die Arbeitslosenkasse eine Mutationsbestätigung vom 30. Oktober 2006 des Regionalen Arbeitsvermittlungszentrums (RAV) erhielt, worin L._ bestätigte, ab 1. Mai 2006 nur im Umfang von 50 % der Stellenvermittlung zur Verfügung zu stehen, forderte die Kasse verfügungsweise am 1. November 2006 zu viel ausbezahlte Arbeitslosenentschädigung für die Monate Mai bis August 2006 in der Höhe von Fr. 7'214.90 zurück. Daran hielt sie auf Einsprache hin fest (Einspracheentscheid vom 6. Februar 2007).
B. Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 5. Juni 2008 ab.
C. L._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben und beantragen, unter Aufhebung des vorinstanzlichen Entscheids sei festzustellen, dass er keine Arbeitslosenentschädigung zurückzuerstatten habe.
Die Arbeitslosenkasse schliesst auf Abweisung der Beschwerde. Das Staatssekretariat für Wirtschaft hat auf eine Stellungnahme verzichtet.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
1.2 Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde ans Bundesgericht zu prüfen, ob der angefochtene kantonale Gerichtsentscheid in der Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen Bundesrecht, Völkerrecht oder kantonale verfassungsmässige Rechte verletzt (Art. 95 lit. a-c BGG), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>). Hingegen hat unter der Herrschaft des BGG eine freie Überprüfung des vorinstanzlichen Entscheides in tatsächlicher Hinsicht zu unterbleiben. Ebenso entfällt eine Prüfung der Ermessensbetätigung nach den Grundsätzen zur Angemessenheitskontrolle (<ref-ruling> E. 6 S. 81 zu Art. 132 lit. a OG [in der bis 30. Juni 2006 gültig gewesenen Fassung]).
2. Das kantonale Gericht hat die Bestimmungen und die von der Rechtsprechung entwickelten Grundsätze zur Vermittlungsfähigkeit im Allgemeinen (Art. 8 Abs. 1 lit. f in Verbindung mit <ref-law>) und von behinderten Personen im Speziellen (Art. 8 Abs. 1 lit. f in Verbindung mit <ref-law> und <ref-law>), zur Pflicht der Rückerstattung unrechtmässig bezogener Leistungen (<ref-law> in Verbindung mit <ref-law>) und zu den für eine Rückerstattungsforderung verlangten Voraussetzungen für eine Wiedererwägung oder prozessuale Revision der fehlerhaften - auch formlosen - Leistungsgewährung (<ref-ruling> E. 3 S. 368 mit Hinweisen) zutreffend dargelegt. Darauf wird verwiesen. Ergänzend ist festzuhalten, dass der Begriff der Vermittlungsfähigkeit als Anspruchsvoraussetzung graduelle Abstufungen ausschliesst. Entweder ist die versicherte Person vermittlungsfähig, insbesondere bereit, eine zumutbare Arbeit (im Umfang von mindestens 20 % eines Normalarbeitspensums; vgl. <ref-law> und <ref-ruling> E. 4c/aa S. 390) anzunehmen, oder nicht (<ref-ruling> E. 2 S. 126; <ref-ruling> E. 6a S. 58).
3. Streitig sind die Höhe der Arbeitslosenentschädigung ab 1. Mai 2006 und die Frage, ob die Verwaltung auf die formlos erfolgte Leistungszusprechung wiedererwägungs- oder revisionsweise zurückkommen durfte.
3.1 Das kantonale Gericht hat in Würdigung der Aktenlage festgestellt, dass sich der Versicherte am 16. Februar 2006 beim RAV im Umfang von 100 % der Arbeitsvermittlung zur Verfügung gestellt hat, hingegen bei der am 20. April 2006 erfolgten Anmeldung zum Leistungsbezug angab, er sei nur im Umfang von 50 % bereit und in der Lage, zu arbeiten. Die Arbeitslosenkasse habe sich bemüht, diesen Widerspruch zu klären und den Versicherten mit Schreiben vom 16. Juni 2006 aufgefordert, schriftlich mitzuteilen, in welchem Umfang er sich der Arbeitsvermittlung zur Verfügung stelle. Daraufhin habe der Beschwerdeführer gemäss Abklärungsprotokoll vom 19. Juni 2006 telefonisch angegeben, er sei nicht bereit und in der Lage, eine Vollzeitstelle zu suchen und er werde auf gar keinen Fall eine 100 %-Stelle antreten. Ab Juni 2006 habe er eine 50 %-Stelle. Mithin sei das Arztzeugnis des Dr. med. B._, Allgemeine Medizin FMH, vom 27. Januar 2006, worin ihm eine 100%ige Arbeitsfähigkeit für leichte bis mittelschwere, wechselbelastende, nicht überwiegend kälte- oder nässeexponierte Arbeiten attestiert werde, eindeutig falsch. Die Vorinstanz hielt weiter fest, dass Dr. med. G._, Facharzt FMH für Kardiologie und Innere Medizin, im Bericht vom 18. Juli 2006 von einer vollen Arbeitsunfähigkeit für schwere körperliche Arbeiten ausging und leidensadaptierte Tätigkeiten im Umfang von 50 % für zumutbar erachtete. Das Gericht kam gestützt auf die Aktenlage zum Schluss, der Versicherte sei allenfalls bei der Anmeldung zur Stellenvermittlung im Februar 2006 noch von der Suche einer Vollzeitstelle ausgegangen, hingegen sei er im April 2006 zur Überzeugung gelangt, nur im Umfang von 50 % arbeiten zu wollen. Demnach sei die Bemessung des Entschädigungsanspruchs seit der Anmeldung zum Leistungsbezug unrichtig gewesen, da ein volles Taggeld ausgerichtet worden sei und dessen Berichtigung mit einem Betrag von Fr. 7'214.90 von erheblicher Bedeutung, weshalb die Rückforderung rechtens sei.
3.2 Der Beschwerdeführer bringt im Wesentlichen vor, er habe keine missverständlichen Angaben gemacht. Mindestens zweimal (am 20. April 2006 und am 19. Juni 2006) habe er sich klar dazu geäussert, dass er im Umfang von 50 % bereit und in der Lage sei, zu arbeiten. Es obliege jedoch den Ärzten, sich zur Arbeitsfähigkeit zu äussern, welche hier die Arbeitsfähigkeit in einer angepassten Tätigkeit unterschiedlich beurteilt hätten. Dr. med. B._ habe nicht nur am 27. Januar 2006, sondern auch am 23. Juni 2006 festgehalten, dass der Versicherte für eine angepasste, mittelschwere Arbeit vollständig arbeitsfähig sei. Wenn die Kasse bei dieser Sachlage weiterhin ein volles Taggeld ausgerichtet habe, sei dies nicht zu beanstanden. Im Weiteren habe die Invalidenversicherung die Einschätzung des Dr. med. B._ bestätigt und lediglich einen Invaliditätsgrad von 18 % ermittelt. Überdies schliesse der Begriff der Vermittlungsfähigkeit graduelle Abstufungen aus. Der anrechenbare Arbeitsausfall sei von der Kasse und nicht vom Versicherten zu prüfen. Eine zweifellose Unrichtigkeit als Wiedererwägungsvoraussetzung sei nicht gegeben. Schliesslich hätte die Vorinstanz den Entscheid der IV-Stelle abwarten müssen, um zu prüfen, ob die Arbeitslosenversicherung eine rechtmässige Vorleistung erbracht habe. Es sei davon auszugehen, dass die Kasse in Kenntnis aller notwendigen Sachverhalte gehandelt habe und ihrem Versicherten gestützt auf das Zeugnis des Dr. med. B._ und bestätigt durch den IV-Entscheid ein volles Taggeld habe ausrichten wollen.
3.2 Der Beschwerdeführer bringt im Wesentlichen vor, er habe keine missverständlichen Angaben gemacht. Mindestens zweimal (am 20. April 2006 und am 19. Juni 2006) habe er sich klar dazu geäussert, dass er im Umfang von 50 % bereit und in der Lage sei, zu arbeiten. Es obliege jedoch den Ärzten, sich zur Arbeitsfähigkeit zu äussern, welche hier die Arbeitsfähigkeit in einer angepassten Tätigkeit unterschiedlich beurteilt hätten. Dr. med. B._ habe nicht nur am 27. Januar 2006, sondern auch am 23. Juni 2006 festgehalten, dass der Versicherte für eine angepasste, mittelschwere Arbeit vollständig arbeitsfähig sei. Wenn die Kasse bei dieser Sachlage weiterhin ein volles Taggeld ausgerichtet habe, sei dies nicht zu beanstanden. Im Weiteren habe die Invalidenversicherung die Einschätzung des Dr. med. B._ bestätigt und lediglich einen Invaliditätsgrad von 18 % ermittelt. Überdies schliesse der Begriff der Vermittlungsfähigkeit graduelle Abstufungen aus. Der anrechenbare Arbeitsausfall sei von der Kasse und nicht vom Versicherten zu prüfen. Eine zweifellose Unrichtigkeit als Wiedererwägungsvoraussetzung sei nicht gegeben. Schliesslich hätte die Vorinstanz den Entscheid der IV-Stelle abwarten müssen, um zu prüfen, ob die Arbeitslosenversicherung eine rechtmässige Vorleistung erbracht habe. Es sei davon auszugehen, dass die Kasse in Kenntnis aller notwendigen Sachverhalte gehandelt habe und ihrem Versicherten gestützt auf das Zeugnis des Dr. med. B._ und bestätigt durch den IV-Entscheid ein volles Taggeld habe ausrichten wollen.
3.3 3.3.1 Dem Beschwerdeführer ist insofern zuzustimmen, als die Schätzung der verbleibenden Arbeitsfähigkeit den Ärzten obliegt. Er verkennt jedoch, dass die Vermittlungsfähigkeit drei Elemente beschlägt, wovon die Arbeitsfähigkeit und die Arbeitsberechtigung objektiver Natur sind, die hier interessierende Frage der Vermittlungsbereitschaft jedoch subjektiver Natur (THOMAS NUSSBAUMER, Arbeitslosenversicherung, in: Ulrich Meyer [Hrsg.], Schweizerisches Bundesverwaltungsrecht [SBVR], Band XIV, Soziale Sicherheit, 2. Aufl., Basel 2007, Rz. 261) Mit Blick auf die objektive, ärztlicherseits festgehaltene Restarbeitsfähigkeit bestand in der Tat bei der Arbeitslosenkasse aufgrund der widersprüchlichen Einschätzungen der Dres. med. B._ und G._ Unklarheit, sodass sie den Versicherten am 31. Juli 2006 nochmals schriftlich aufforderte, seine Akten hinsichtlich der attestierten Arbeitsfähigkeit mit einem entsprechenden Arztzeugnis über eine Arbeitsfähigkeit (im Umfang von 50 % oder 100 %) zu ergänzen. Dies führte auch, wie der Versicherte beschwerdeweise anmerkte, zu verschiedenen handschriftlichen Bemerkungen bezüglich der Arbeitsfähigkeit, wie beispielsweise auf dem nicht versandten Schreiben vom 12. Juli 2006 oder dem Schreiben vom 4. Oktober 2006 hinsichtlich Aktenergänzung. Inwiefern damit der Grundsatz von Treu und Glauben verletzt sein soll, wie geltend gemacht wird, ist nicht ersichtlich. Die im Schreiben vom 16. Juni 2006 an den Versicherten gerichtete Frage, in welchem Umfang er sich dem Arbeitsmarkt zur Verfügung stelle, beschlägt hingegen das subjektive Merkmal der Vermittlungsbereitschaft. Dieses subjektive Element ist auch bei der Überprüfung der Vermittlungsfähigkeit behinderter Personen zu beachten. Denn eine versicherte Person, die sich bis zum Entscheid der Invalidenversicherung als nicht arbeitsfähig erachtet und weder Arbeit sucht noch eine zumutbare Arbeit annimmt, ist nicht vermittlungsfähig. Dementsprechend bedeutet die Vorleistungspflicht der Arbeitslosenversicherung gemäss der Vermutungsregel des <ref-law> nicht die vorbehaltlose Zusprechung von Arbeitslosenentschädigung bis zum rechtskräftigen Entscheid der Invalidenversicherung oder Unfallversicherung. Zur Vermittlungsfähigkeit gehört, wie erwähnt, die Arbeitsfähigkeit im objektiven Sinne und subjektiv auch die Bereitschaft, die Arbeitskraft entsprechend den persönlichen Verhältnissen während der üblichen Arbeitszeit einzusetzen (ARV 2004 S. 124, C 272/02).
3.3.2 Ausgehend von einem nicht offensichtlich unrichtig oder unvollständig festgestellten Sachverhalt durfte die Vorinstanz angesichts des Dargelegten ohne Bundesrecht zu verletzen zum Schluss gelangen, es fehle an der Bereitschaft des Versicherten, sich für mehr als eine Teilzeitstelle im Umfang von 50 % vermitteln zu lassen, womit die Vermittlungsfähigkeit grundsätzlich zu bejahen ist, da der Begriff keine graduellen Abstufungen kennt (vgl. E. 2; NUSSBAUMER, a.a.O. S. 2258 Rz. 263 mit Hinweisen). Dass aber die Arbeitslosenkasse hinsichtlich des anrechenbaren Arbeitsausfalls nicht bereits anhand der lediglich telefonischen Angaben des Versicherten am 19. Juni 2006 von einer fehlenden Bereitschaft, sich mehr als 50 % dem Arbeitsmarkt zur Verfügung zu stellen, ausging und erst nach Eingang der schriftlichen Bestätigung seitens des zuständigen RAV vom 30. Oktober 2006 diesen Sachverhalt als gewiss ansah, ist ihr nicht anzulasten. Stellte sich der Versicherte somit nur im Umfang von 50 % dem Arbeitsmarkt zur Verfügung, erlitt er lediglich einen hälftigen Arbeitsausfall, weshalb sich der Entschädigungsanspruch entsprechend reduziert.
3.4 Demzufolge war die Ausrichtung der Arbeitslosenentschädigung insoweit gesetzwidrig und damit offensichtlich unrichtig (<ref-ruling> E. 2b/bb), als die Arbeitslosenkasse bei der Bemessung des Entschädigungsanspruchs ab Anmeldung zum Leistungsbezug von einem vollständigen, anstelle eines teilweisen, 50%igen Arbeitsausfalles ausging und die Arbeitslosenentschädigung dementsprechend zu hoch ausfiel (BGE <ref-ruling> E. 6c/aa S. 59; ARV 2004 S. 118). Die Berichtigung ist sodann angesichts der Höhe der zu Unrecht gewährten Leistungen von erheblicher Bedeutung, sodass die Voraussetzungen für ein wiedererwägungsweises Zurückkommen auf die Leistungsausrichtung erfüllt sind, weshalb das kantonale Gericht auch diesbezüglich kein Bundesrecht verletzt hat (vgl. SEILER/VON WERDT/GÜNGERICH, Bundesgerichtsgesetz [BGG], Bern 2007, N. 9 zu Art. 95).
4. Das Verfahren ist kostenpflichtig (<ref-law>). Die Gerichtskosten sind dem Beschwerdeführer als der unterliegenden Partei aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, dem Amt für Wirtschaft und Arbeit des Kantons Zürich und dem Staatssekretariat für Wirtschaft schriftlich mitgeteilt.
Luzern, 11. Februar 2009
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Polla