Sachverhalt:
A.
A.X._ arbeitete bis Ende September 2002 bei der Schweizer Börse als "Quality Management Specialist". Von Oktober 2002 bis August 2003 war er ohne Stelle und bezog Arbeitslosenunterstützung. Unmittelbar nach dem Verlust seiner Arbeitsstelle begann A.X._ mit der Suche einer neuen Beschäftigung. Ab September 2003 war er bei der C._ AG als "Quality Assurance Manager" angestellt.
B.
Das Steueramt der Stadt Winterthur veranlagte das Ehepaar A.X._ und B.X._ für die Steuerperioden 2002 bis 2004 bei den Kantons- und Gemeindesteuern resp. bei der direkten Bundessteuer abweichend von ihren Selbstdeklarationen wie folgt:
Steuer-periode Verfügung Kanton/Gemeinde bzw. Bund Steuerbares Einkommen Steuerbares Vermögen 2002 5.2.2004 Kanton/Gemeinde Fr. 104'400.-- Fr. 557'000.-- 2002 26.3.2004 Bund Fr. 104'900.-- 2003 2.2.2005 Kanton/Gemeinde Fr. 105'800.-- Fr. 801'000.-- 2003 10.1.2005 Bund Fr. 105'800.-- 2004 14.7.2005 Kanton/Gemeinde Fr. 141'800.-- Fr. 1'019'000.-- 2004 15.8.2005 Bund Fr. 141'500.--
Die Abweichungen gegenüber der Steuererklärung ergaben sich, weil gewisse Auslagen (Arbeitszimmer, PC, Drucker, Software, Bewerbungsunterlagen, Telefonspesen, Reisekosten für Vorstellungsgespräche, Beiträge an Berufsorganisationen, Rechtsberatungs- und Anwaltskosten, Prämien für Krankentaggeldversicherung) von 10'334.-- (2002) bzw. Fr. 10'517.-- (2003) nur teilweise als Gewinnungskosten anerkannt wurden. In der Steuererklärung 2004 verlangte das Ehepaar zudem vergeblich einen Abzug von Anwaltskosten, die im Zusammenhang mit der Hausrenovation angefallen waren.
Das kantonale Steueramt hiess die dagegen erhobenen Einsprachen mit Entscheiden vom 15. Juli 2007 teilweise gut und setzte die steuerbaren Einkommen bzw. Vermögen wie folgt fest:
Steuerperiode Kanton/Gemeinde bzw. Bund Steuerbares Einkommen Steuerbares Vermögen 2002 Kanton/Gemeinde Fr. 93'800.-- Fr. 557'000.-- 2002 Bund Fr. 104'900.-- 2003 Kanton/Gemeinde Fr. 103'400.-- Fr. 801'000.-- 2003 Bund Fr. 103'400.-- 2004 Kanton/Gemeinde Fr. 140'300.-- Fr. 1'019'000.-- 2004 Bund Fr. 140'000.--
Die Einzelrichterin der Steuerrekurskommission III des Kantons Zürich hiess mit Entscheiden vom 3. März 2008 Rekurse bzw. Beschwerden der Eheleute X._ betreffend der Steuerperiode 2002 (Staats- und Gemeindesteuer) teilweise gut, indem sie das steuerbare Einkommen um Fr. 100.-- auf Fr. 93'700.-- (Vermögen unverändert) reduzierte und im Übrigen diejenigen betreffend die übrigen Steuerperioden sowie betreffend die direkte Bundessteuer abwies.
Der Einzelrichter des Verwaltungsgerichtes des Kantons Zürich, 2. Abteilung, wies am 2. Juli 2008 die am 11. April 2008 dagegen erhobenen Beschwerden ab.
C.
Gegen diese Urteile des Verwaltungsgerichts des Kantons Zürich vom 2. Juli 2008 erheben A.X._ und B.X._ mit Eingaben vom 15. September 2008 Beschwerden mit den sinngemässen Anträgen, die Urteile seien aufzuheben und sie seien bei der Staats- und Gemeindesteuer wie auch bei der direkten Bundessteuer auf steuerbare Einkommen zu veranlagen, welche den einzelnen, geltend gemachten Kosten Rechnung trügen; eventuell seien die Sachen zu Neuentscheiden an die Vorinstanz zurückzuweisen. Sie rügen diverse Verletzungen des rechtlichen Gehörs sowie Bundesrechtsverletzungen.
D.
Das Kantonale Steueramt Zürich sowie das Verwaltungsgericht des Kantons Zürich beantragen, die Beschwerden abzuweisen. Die Eidgenössische Steuerverwaltung (Hauptabteilung Direkte Bundessteuer, Verrechnungssteuer, Stempelabgaben) schliesst auf Abweisung der Beschwerde betreffend die direkte Bundessteuer und verzichtet auf eine Stellungnahme betreffend die Staats- und Gemeindesteuern.

Erwägungen:
I. Prozessuales
1.
1.1. Die beiden weitgehend gleich lautenden Beschwerden betreffen die gleichen Parteien, richten sich gegen praktisch übereinstimmende Entscheide und werfen dieselben Rechtsfragen auf. Es rechtfertigt sich deshalb, die Verfahren zu vereinigen und die Beschwerden in einem einzigen Urteil zu erledigen (vgl. <ref-law> i.V.m. <ref-law>; <ref-ruling> E. 1 S. 194 mit Hinweisen).
1.2. Bei den angefochtenen Entscheiden handelt es sich um kantonal letztinstanzliche Endentscheide über die direkten Steuern des Kantons und des Bundes. Dagegen steht gemäss <ref-law> in Verbindung mit Art. 146 des Bundesgesetzes vom 14. Dezember 1990 über die direkte Bundessteuer (DBG; SR 642.11) bzw. Art. 73 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden (StHG; SR 642.14), die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht offen. Die Beschwerdeführer sind gestützt auf <ref-law> zur Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert. Auf die frist- und formgerecht eingereichte Beschwerde ist grundsätzlich einzutreten (vgl. aber nachfolgend E. 1.4).
1.3. Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen, und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Das Bundesgericht legt sodann seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (Art. 105 Abs. 2 bzw. <ref-law>).
1.4. Gemäss <ref-law> hat die Rechtsschrift die Begehren und deren Begründung zu enthalten. Im Rahmen der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (<ref-law>). Die Vorbringen müssen sachbezogen sein, damit aus der Beschwerdeschrift ersichtlich ist, in welchen Punkten und weshalb der angefochtene Entscheid beanstandet wird. Dies setzt voraus, dass sich die Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheides auseinandersetzen (<ref-ruling> E. 2.1 S. 245 f.). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>; <ref-ruling> E. 1.4.2 S. 254). Eine diesen Anforderungen genügende Begründung ist in der vorliegenden Beschwerde nur teilweise zu erkennen, insbesondere insoweit die Beschwerdeführer der Vorinstanz mehrfach in pauschaler Weise willkürliches Verhalten sowie die Verletzung des rechtlichen Gehörs vorwerfen. Soweit eine solche qualifizierte Begründung fehlt, kann auf die Beschwerde nicht eingetreten werden.
II. Formelle Rügen
2.
Die Beschwerdeführer rügen eine mehrfache Verletzung ihres Anspruchs auf rechtliches Gehör (<ref-law>).
2.1. Sie machen zunächst geltend, man habe ihnen bei der Akteneinsicht vor der Steuerrekurskommission zugesichert, im Dossier fehlende Akten würden direkt von der Steuerbehörde zugestellt, was aber erst nach Ablauf der Beschwerdefrist der Fall gewesen sei. Die Beschwerdeführer behaupten freilich nicht, es habe sich um von ihnen stammende bzw. von ihnen unterzeichnete Akten gehandelt, für die nach <ref-law> ein uneingeschränktes Akteneinsichtsrecht besteht. Damit handelte es sich offensichtlich um "übrige" Akten, die nach <ref-law> erst aufgrund einer Güterabwägung offengelegt werden dürfen (Urteil 2C_160/2008 vom 1. September 2008 E. 2.4.2).
Das Gesuch um Einsichtnahme wurde offenbar am 3. April 2008 telefonisch eingereicht, und am 7. April 2008 stellte das Steueramt den Beschwerdeführern die entsprechenden Kopien mit B-Post zu. Die Steuerbehörde hat die Herausgabe mithin nicht absichtlich verzögert. Vielmehr sind die Beschwerdeführer in Anbetracht der vorzunehmenden Güterabwägung rasch bedient und behandelt worden. Denn Verfahrensbeteiligte sind grundsätzlich nur berechtigt, die Akten persönlich vor Ort einzusehen (vgl. Urteil 2C_344/2007 vom 22. Mai 2008 E. 2.1). Es wäre ihnen angesichts des bevorstehenden Fristablaufs unbenommen gewesen, die fehlenden Akten direkt bei der Steuerbehörde einzusehen. Eine Verletzung des rechtlichen Gehörs liegt somit nicht vor.
2.2. Weiter machen die Beschwerdeführer einen Verstoss gegen <ref-law> geltend, indem angebotene Beweise (zwei Velotaschen voller Akten, Augenschein) nicht abgenommen wurden. Die Beschwerdeführer legen jedoch nicht dar, inwieweit die angebotenen Beweismittel geeignet gewesen wären, veranlagungsrelevante Tatsachen festzustellen. Im Übrigen kann das Beweisverfahren auch geschlossen werden, wenn die Behörde auf Grund bereits abgenommener Beweise in vorweggenommener Beweiswürdigung annehmen kann, ihre Überzeugung werde durch weitere Beweise nicht mehr geändert (Urteil 2P.4/ 2007 und 2A.10/2007 vom 23. August 2007 E. 3.1). Auch diesbezüglich liegt keine Gehörsverletzung vor.
2.3. Sodann beanstanden die Beschwerdeführer, in der Beschwerdeantwort vom 10. Oktober 2007 habe das kantonale Steueramt "Noven" (im Sinne von neuen Rechtsstandpunkten) eingebracht, wozu sie nicht mehr zur Stellungnahme eingeladen worden seien. Allerdings wird eine solche Eingabe - wie hier mit Übermittlungsschreiben vom 31. Oktober 2007 - normalerweise nur zur Kenntnisnahme zugestellt, und es wird nur ausnahmsweise ein zweiter Schriftenwechsel eröffnet (<ref-ruling> E. 2.2 S. 99). Unzulässig wäre nur, mit der Zustellung der Beschwerdeantwort gleichzeitig den Schriftenwechsel abzuschliessen (Urteil 2C_722/2007 und 2C_723/2007 vom 14. April 2008 E. 2.1 mit Hinweisen). Es obliegt nämlich vorab den Parteien zu entscheiden, ob eine Eingabe neue Elemente enthält, die eine Stellungnahme ihrerseits erfordern (Urteil 2C_688/2007 vom 11. Februar 2008 E. 2.2 mit Hinweisen, s. insb. <ref-ruling> S. 104). Somit durfte die Steuerrekurskommission davon ausgehen, die Beschwerdeführer hätten auf weitere Äusserungen verzichtet, nachdem sie auf die Zustellung der Beschwerdeantwort nicht reagierten. Zu Recht hat damit die Vorinstanz eine Verletzung des Replikrechtes verneint.
2.4. Was die angeblich unzulässige "Aufaddierung von Abzügen" betrifft, setzen sich die Beschwerdeführer in ihrer Eingabe nicht mit der Argumentation der Vorinstanz auseinander. Auf diese Rüge ist daher nicht einzutreten, da eine genügende Begründung fehlt (vgl. E. 1.4).
2.5. Die weiteren Rügen, welche die Beschwerdeführer unter dem Titel "Verweigerung des rechtlichen Gehörs" vorbringen, werfen der Vorinstanz eine Missachtung der aus <ref-law> abgeleiteten Begründungspflicht von Entscheiden vor. Die Begründung soll verhindern, dass sich das Gericht von unsachlichen Motiven leiten lässt, und dem Betroffenen ermöglichen, das Urteil gegebenenfalls sachgerecht anzufechten. In diesem Sinn müssen wenigstens kurz die Überlegungen genannt werden, von denen sich das Gericht hat leiten lassen und auf welche es seinen Entscheid stützt. Dies bedeutet indessen nicht, dass es sich ausdrücklich mit jeder tatbeständlichen Behauptung und jedem rechtlichen Einwand auseinandersetzen muss. Vielmehr kann es sich auf die für den Entscheid wesentlichen Gesichtspunkte beschränken (<ref-ruling> E. 3.1 S. 277 mit Hinweisen). Wenn die Beschwerdeführer mit der Begründung des angefochtenen Urteils nicht einverstanden sind, heisst dies noch keineswegs, die Begründung sei ungenügend. Immerhin erlaubten ihnen die vorinstanzlichen Erwägungen, die Tragweite des Urteils vom 2. Juli 2008 zu erkennen und dieses - weit ausholend - anzufechten. Eine Verletzung der Begründungspflicht ist nicht ersichtlich (vgl. auch Urteil 2A.262/2006 vom 6. November 2006 E. 4, in: StE 2007 B 23.45.2 Nr. 7).
Zusammenfassend ergibt sich daraus, dass die Vorinstanz den Anspruch auf rechtliches Gehör nicht verletzt hat.
Il. Direkte Bundessteuer
3.
3.1. Der direkten Bundessteuer als Einkommenssteuer natürlicher Personen unterliegen alle wiederkehrenden und einmaligen Einkünfte mit Ausnahme der Kapitalgewinne aus der Veräusserung von Privatvermögen (Art. 16 - 23 DBG). Von den gesamten steuerbaren Einkünften sind die Aufwendungen und die allgemeinen Abzüge nach den Art. 26 - 33 DBG absetzbar (<ref-law>). Von den Einkünften aus unselbständiger Erwerbstätigkeit können als Gewinnungskosten u.a. "die übrigen für die Ausübung des Berufes erforderlichen Kosten" sowie "die mit dem Beruf zusammenhängenden Weiterbildungs- und Umschulungskosten", wozu die Praxis auch die sog. Wiedereinstiegskosten rechnet, abgezogen werden (Art. 26 Abs. 1 lit. c und d DBG). Näheres regelt die Verordnung des Eidgenössischen Finanzdepartements über den Abzug von Berufskosten der unselbständigen Erwerbstätigkeit bei der direkten Bundessteuer vom 10. Februar 1993 (VBK, SR 642.118.1; vgl. auch das diesbezügliche Kreisschreiben der Eidgenössischen Steuerverwaltung [KS der EStV] vom 22. September 1995, ASA 64, 692 ff.). Die in <ref-law> für die übrigen Berufskosten vorgesehenen Pauschalabzüge wurden gemäss Art. 3 (sowie Anhang) VBK (Fassung vom 23. Mai 2000 bzw. vom 26. Juni 2002 für die hier massgebenden Steuerperioden 2002 und 2003 [AS 2000 1566, AS 2002 2475]) auf 3 % des Nettolohnes, jedoch nicht unter Fr. 1'900.-- und nicht über Fr. 3'800.--, festgesetzt.
3.2. Diese Pauschalen berücksichtigte das Bundesgericht ebenfalls bei Steuerpflichtigen, die Leistungen der Arbeitslosenversicherung bezogen (Urteil 2A.574/2002 vom 13. Mai 2003 E. 2.1), wobei die Zulässigkeit dieses Vorgehens im zitierten Entscheid offenbar nicht umstritten war. Die Beschwerdeführer machen aber geltend, eine arbeitslose Person dürfe nicht einer unselbständig (bzw. selbständig) erwerbstätigen Person gleichgesetzt werden. Damit sei die Pauschale für übrige Berufskosten von 3 % nicht einfach auf dem Gesamtnettoeinkommen aus Arbeit und aus Arbeitslosenversicherung zu berechnen. Vielmehr seien den Leistungen aus Arbeitslosenversicherung nur die effektiven Gewinnungskosten (ohne Pauschalierung) gegenüberzustellen.
3.3. Vorab ist festzustellen, dass gestützt auf die Generalklausel für organische Abzüge gemäss <ref-law> Gewinnungskosten auch für Einkünfte beansprucht werden können, für die ein Abzug in den <ref-law> nicht ausdrücklich vorgesehen ist ( PETER LOCHER, Kommentar zum DBG, I. Teil, 2001, N. 2 ff. zu <ref-law>; Markus Reich, in: Kommentar zum Schweizerischen Steuerrecht, Band I/2a, 2. Aufl. 2008, N. 11 ff. zu <ref-law>; Felix Richner/Walter Frei/Stefan Kaufmann, Handkommentar zum DBG, 2003, N. 3 zu <ref-law>). Dies gilt insbesondere für die Auslagen bei der Stellensuche von steuerpflichtigen Personen, die Arbeitslosentaggelder beziehen (Bruno Knüsel, in: Kommentar zum Schweizerischen Steuerrecht, Band I/2a, 2. Aufl. 2008, N. 2 am Ende zu <ref-law>; Locher, a.a.O., N. 3 zu <ref-law>; Richner/ Frei/Kaufmann, a.a.O., N. 13 zu Art. 25 bzw. N. 36 zu <ref-law>; vgl. auch Philip Funk, Der Begriff der Gewinnungskosten nach Schweizerischem Einkommenssteuerrecht, 1989, S. 118, S. 235, S. 238). Nach der bundesgerichtlichen Praxis gelten als Gewinnungskosten diejenigen Aufwendungen, deren Vermeidung der steuerpflichtigen Person nicht zumutbar ist (<ref-ruling> E. 3a S. 32) und die wesentlich durch die Erzielung von Einkommen verursacht bzw. veranlasst sind (Urteil 2A.224/2004 vom 26. Oktober 2004 E. 6.3, in: ASA 75 S. 257, mit Hinweisen; vgl. auch Urteil 2P.251/2006 vom 25. Januar 2007 E. 3.1 in: StE 2007 B 22.3 Nr. 93).
3.4. Gemäss Art. 8 Abs. 1 des Bundesgesetzes über die obligatorische Arbeitslosenversicherung und die Insolvenzentschädigung vom 25. Juni 1982 (AVIG; SR 837.0) hat der Versicherte insbesondere Anspruch auf Arbeitslosenentschädigung, wenn er ganz oder teilweise arbeitslos ist. Ganz arbeitslos ist, wer in keinem Arbeitsverhältnis steht und eine Vollzeitstelle sucht. Teilweise arbeitslos ist, wer in keinem Arbeitsverhältnis steht und lediglich eine Teilzeitbeschäftigung sucht oder eine Teilzeitbeschäftigung hat und eine Vollzeit- oder eine weitere Teilzeitbeschäftigung sucht (Art. 10 Abs. 1 und 2 AVIG). Vermittlungsfähig ist der Arbeitslose, wenn er bereit, in der Lage und berechtigt ist, eine zumutbare Arbeit anzunehmen und an Eingliederungsmassnahmen teilzunehmen (<ref-law>). Der Versicherte muss jede zumutbar Arbeit unverzüglich annehmen (<ref-law>). Er wird freilich angehalten, vorübergehend auch sog. Zwischenverdienste zu erzielen, die tiefer sind als die Arbeitslosenentschädigung.
Angesichts dieses engen Konnexes von Leistungen der Arbeitslosenversicherung und Einkünften aus einem Arbeitsverhältnis erscheint es als sachgerecht, die für letztere massgebende Pauschale ebenfalls auf die Leistungen von Arbeitslosenversicherungen auszudehnen (vgl. auch das Urteil des Verwaltungsgerichts des Kantons Freiburg vom 31. August 1998 E. 2c, in: StR 54/1999 S. 342 und StE 1999 B.27.7 Nr. 14). Weil es sich bei den Leistungen aus der Arbeitslosenversicherung nach <ref-law> um Ersatzeinkünfte für eine unselbständige Erwerbstätigkeit handelt (Locher, a.a.O., N. 22 zu <ref-law>), wäre es denkbar, diese den Einkünften aus unselbständiger Erwerbstätigkeit gleichzusetzen und damit für den Gewinnungskostenabzug die für Unselbständigerwerbende geltende Regelung von <ref-law> direkt und nicht analog wie die Vorinstanz anzuwenden. Auf jeden Fall ist das Vorgehen der Vorinstanz, das - wie in E. 3.2 dargelegt - auch vom Bundesgericht praktiziert wurde (vgl. Urteil 2A.574/2002 vom 13. Mai 2003 E. 2.1), nicht zu beanstanden.
3.5. Damit ist im Folgenden zu prüfen, ob die streitigen Auslagen der Beschwerdeführer als "übrige Berufskosten" zu qualifizieren sind. Als solche können die für die Berufsausübung erforderlichen Auslagen für Berufswerkzeuge (inkl. EDV-Hard- und Software), Fachliteratur, privates Arbeitszimmer usw. als Pauschale abgezogen werden. Vorbehalten bleiben der Nachweis höherer Kosten (wobei in diesem Fall die gesamten tatsächlichen Kosten und deren berufliche Notwendigkeit nachzuweisen sind) sowie der Abzug der Weiterbildungs- und Umschulungskosten (Art. 7 Abs. 1 i.V.m. Art. 4 VBK).
Weil es sich um steueraufhebende bzw. -mindernde Tatsachen handelt, sind diese von der steuerpflichtigen Person nicht nur zu behaupten, sondern auch zu belegen, und sie trägt hierfür die Folgen der Beweislosigkeit (<ref-ruling> E. 4.3 S. 158; Urteil 2C_722/2007 und 2C_723/2007 vom 14. April 2008 E. 3.2 mit Hinweisen). Hat die steuerpflichtige Person im Rahmen des Zumutbaren bei der Sachverhaltsermittlung mitgewirkt, ist bei Unmöglichkeit des strikten Nachweises notorisch steuermindernder Tatsachen freilich nicht ausschliesslich nach der erwähnten Beweislastregel zu entscheiden, sondern es ist der mutmassliche Aufwand zu schätzen (Urteil 2C_708/2007 vom 19. Mai 2008 E. 4.1, in: StR 63/2008, S. 890). Werden an sich notwendige Berufswerkzeuge sowohl beruflich als auch privat benutzt, ist eine sachgerechte Aufteilung der Kosten vorzunehmen (Urteil 2A.262/2006 vom 6. November 2006 E. 5.3, in: StE 2007 B 23.45.2 Nr. 7). Dabei ist die Festsetzung eines Privatanteils weitgehend Ermessensfrage (Urteil 2A.60/ 1998 vom 27. Mai 1999 E. 4, in: ASA 69 S. 876 und StE 2000 B 22.3. Nr. 70).
3.5.1. Bezüglich der Kosten für die Benutzung des privaten Arbeitszimmers hat das Bundesgericht die Voraussetzungen umschrieben, die für die Gewährung eines Abzugs erfüllt sein müssen: Ein solcher Abzug kann dann gewährt werden, wenn der Steuerpflichtige regelmässig einen wesentlichen Teil seiner beruflichen Arbeit zu Hause erledigen muss, weil der Arbeitgeber ein geeignetes Arbeitszimmer nicht zur Verfügung stellt und wenn der Steuerpflichtige in seiner Privatwohnung über einen besonderen Raum verfügt, der zur Hauptsache beruflichen und nicht privaten Zwecken dient (Urteil 2A.330/1989 vom 23. August 1990 E. 2d, in: ASA 60 S. 344 f.; Urteil 2A.277/2003 vom 18. Dezember 2003 E. 3.2, in: StE 2004 B 22.3 Nr. 77 mit Hinweisen). Diese Voraussetzungen sind vorliegend nicht erfüllt. Es ist nicht einzusehen, weshalb eine arbeitslose Person über ein privates Arbeitszimmer verfügen muss, um sich für eine Arbeitsstelle zu bewerben bzw. die entsprechende Dokumentation zusammenzustellen. Der Beschwerdeführer hat es aus persönlichen Präferenzen bzw. aus Gründen der Bequemlichkeit bevorzugt, seine Arbeiten in einem separaten Zimmer zu erledigen. "Berufsnotwendig" sind diese Kosten damit aber nicht. Dies gilt umso mehr, als sich ein Grossteil der Tätigkeiten für die Stellensuche (Kontakte mit den regionalen Arbeitsvermittlungszentren, Besuch von Bibliotheken, etc.) ausser Haus abwickelt. Bloss gelegentliche berufliche Arbeiten in der Privatwohnung verursachen keine Mehrkosten und geben daher keinen Anspruch auf einen Abzug (KS der EStV, ASA 64, 695).
3.5.2. Die Vorinstanzen haben die geltend gemachten Auslagen für EDV-Hard- und Software als notwendige Berufsauslagen grundsätzlich anerkannt, allerdings einen Privatanteil wegen ausserberuflicher Nutzung von 50 % angenommen. Die Beschwerdeführer halten eine solche Kürzung des Abzugs unter Hinweis auf das Urteil 2A.574/2002 vom 13. Mai 2003 E. 2.2.1 für verfehlt. Sie übersehen aber, dass im zitierten Entscheid die arbeitslose Person teilzeitlich sog. Zwischenverdienste in ihrem angestammten Tätigkeitsbereich erzielte und hierfür offensichtlich auf einen Computer angewiesen war. Weiter wies das Bundesgericht die Steuerrekurskommission, an welche die Sache zu neuem Entscheid zurückgewiesen wurde, ausdrücklich an zu prüfen, ob nicht ein Privatanteil auszuscheiden sei. Angesichts der Tatsache, dass die Beschwerdeführer im vorliegenden Fall schon früher über einen Computer verfügten, ist nicht einzusehen, weshalb die Ersatzanschaffung im Jahr 2002 ausschliesslich wegen der Arbeitslosigkeit erfolgt sein sollte. Ein Ermessensmissbrauch der Vorinstanz bezüglich der Festsetzung des Privatanteils ist somit nicht ersichtlich.
3.5.3. Die Auslagen für Bewerbungsmappen, Telefonate, Reisespesen und Beiträge an Berufsverbände erachteten die Vorinstanzen - mit Ausnahme der zum Abzug zugelassenen Kosten für Passfotos - zu Recht als nicht genügend substantiiert (vgl. auch Urteil 2A.574/2002 vom 13. Mai 2003 E. 2.2.3), weshalb die Beschwerdeführer die Folgen der Beweislosigkeit zu tragen haben (vgl. E. 3.5). Soweit aber arbeitslose Personen notorisch solche Kosten zu tragen haben, werden diese durch die verbleibende Pauschale für Berufskosten aufgefangen (vgl. E. 3.5.6; dazu auch KS der EStV, ASA 64 S. 695 betreffend Beiträge an Berufsverbände). Bei den Internetkosten wurde zu Recht - wie bei den Kosten für EDV-Hard- und Software - ein Privatanteil von 50 % ausgeschieden.
3.5.4. Die Auslagen für Anwalts- und Gerichtskosten wurden von den Beschwerdeführern vor der Steuerrekurskommission zu wenig hinreichend substantiiert und die erst vor Verwaltungsgericht beigebrachten Beweismittel konnten wegen des Novenverbots (<ref-ruling> E. 2.5 S. 552) nicht mehr berücksichtigt werden. Damit tragen die Beschwerdeführer die Folgen der Beweislosigkeit (vgl. E. 3.5).
3.5.5. Die Prämien für die freiwillige Krankentaggeldversicherung hat die Vorinstanz zu Recht nicht als Berufskosten qualifiziert. Gemäss Art. 67 Abs. 1 des Bundesgesetzes über die Krankenversicherung vom 18. März 1994 (KVG; SR 832.10) können in der Schweiz wohnhafte oder hier erwerbstätige Personen, die das 15., aber noch nicht das 65. Altersjahr zurückgelegt haben, eine freiwillige Taggeldversicherung abschliessen. Die Taggeldversicherung kann nach <ref-law> auch als Kollektivversicherung abgeschlossen werden, und zwar unter anderem von Arbeitgebern für sich und ihre Arbeitnehmerinnen und Arbeitnehmer. Das versicherte Taggeld wird in der Regel im Falle von Krankheit oder Mutterschaft ausgerichtet (<ref-law>). Arbeitslosen ist bei einer Arbeitsunfähigkeit von mehr als 50 Prozent das volle Taggeld und bei einer Arbeitsunfähigkeit von mehr als 25, aber höchstens 50 Prozent das halbe Taggeld auszurichten, sofern die Versicherer auf Grund ihrer Versicherungsbedingungen oder vertraglicher Vereinbarungen bei einem entsprechenden Grad der Arbeitsunfähigkeit grundsätzlich Leistungen erbringen (<ref-law>). Arbeitslose Versicherte haben gegen angemessene Prämienanpassung Anspruch auf Änderung ihrer bisherigen Versicherung in eine Versicherung mit Leistungsbeginn ab dem 31. Tag unter Beibehaltung der bisherigen Taggeldhöhe und ohne Berücksichtigung des Gesundheitszustandes im Zeitpunkt der Änderung (<ref-law>).
Daraus ergibt sich, dass die freiwillige Taggeldversicherung zwar eng auf die Arbeitslosenversicherung abgestimmt werden kann und im Leitfaden für Versicherte der Abschluss einer freiwilligen Krankentaggeldversicherung empfohlen wird. Damit wird aber diese Versicherung nicht zur obligatorischen im Sinne der Arbeitslosenversicherung. Die Prämien sind daher nur im Rahmen des Versicherungsabzuges von Art. 33 Abs. 1 lit. f in Verbindung mit 212 DBG absetzbar (Wolfgang Maute/Martin Steiner/Adrian Rufener, Steuern und Versicherungen, 2. Auflage 1999, S. 234). Andererseits kann der Arbeitgeber die Prämien einer Kollektivtaggeldversicherung zu seinen Gunsten und für seine Belegschaft als geschäftsmässig begründeten Aufwand behandeln (Maute/Steiner/Rufener, a.a.O., S. 234), und beim Arbeitnehmer ist kein Anteil für die vom Arbeitgeber übernommenen Prämien auf dem Lohnausweis auszuweisen (vgl. Erich Bosshard/Sandra Mösli, Der neue Lohnausweis, 2007, S. 177).
Soweit ein Arbeitgeber für sich selbst eine freiwillige Krankentaggeldversicherung abschliesst, lässt sich die Absetzbarkeit der Prämie rechtfertigen, weil die Versicherungsleistung auch der Aufrechterhaltung des Betriebes dient. Die Praxis zu dieser Frage scheint in den Kantonen aber uneinheitlich zu sein (vgl. Mario Lazzarini/Max Ledergerber, Die steuerliche Behandlung von Versicherungsleistungen im Geschäftsbereich, TREX 2007, S. 19). Weil aber die Situation eines Arbeitnehmers mit derjenigen eines Arbeitgebers nicht ohne Weiteres zu vergleichen ist, lässt sich daraus kein Anspruch auf Gleichbehandlung ableiten (Urteil 2A.647/2005 vom 7. Juni 2007 E. 4.1, in: ASA 76, 693 S. 696 f.).
3.5.6. Zusammengefasst ergibt sich, dass es den Beschwerdeführern nicht gelingt, in den Steuerperioden 2002 und 2003 Berufsunkosten nachzuweisen, welche die entsprechenden Pauschalen übersteigen.
4.
Schliesslich machen die Beschwerdeführer für die Steuerperiode 2004 die Berücksichtigung von Anwalts- und Gerichtskosten von Fr. 6'170.10 geltend, die im Zusammenhang mit der Renovation ihres Einfamilienhauses angefallen sind. Auch diese Auslagen wurden vor der Steuerrekurskommission zu wenig substantiiert und die erst vor Verwaltungsgericht beigebrachten Beweismittel konnten wegen des Novenverbots (<ref-ruling> E. 2.5 S. 552) nicht mehr berücksichtigt werden. Damit tragen die Beschwerdeführer die Folgen der Beweislosigkeit (vgl. E. 3.5).
5.
Damit erweist sich die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die direkte Bundessteuer als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann.
III. Kantons- und Gemeindesteuern
6.
6.1. §§ 25 und 26 sowie § 31 Abs. 1 lit. g des Steuergesetzes des Kantons Zürich vom 8. Juni 1997 (StG; LS 631.1) entsprechen (abgesehen von den Höchstbeträgen) Art. 25 und 26 sowie <ref-law>. Daraus folgt, dass die Erwägungen zur direkten Bundessteuer für die kantonalen Steuern analog massgebend sind. Damit ergibt sich für die Staats- und Gemeindesteuern dasselbe Ergebnis wie bei der direkten Bundessteuer.
6.2. Demnach erweist sich die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die Staats- und Gemeindesteuern gleichermassen als unbegründet und ist ebenfalls abzuweisen, soweit darauf eingetreten werden kann.
IV. Kosten und Entschädigung
7.
Dem Verfahrensausgang entsprechend sind die Kosten des bundesgerichtlichen Verfahrens den Beschwerdeführern unter Solidarhaft aufzuerlegen (Art. 65 f. BGG). Eine Parteientschädigung ist nicht auszurichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Verfahren 2C_681/2008 und 2C_682/2008 werden vereinigt.
2.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die direkte Bundessteuer (2C_682/2008) wird abgewiesen, soweit darauf einzutreten ist.
3.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend die Staats- und Gemeindesteuern (2C_681/2008) wird abgewiesen, soweit darauf einzutreten ist.
4.
Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern unter Solidarhaft auferlegt.
5.
Dieses Urteil wird den Beschwerdeführern, dem Kantonalen Steueramt Zürich, dem Verwaltungsgericht des Kantons Zürich sowie der Eidgenössischen Steuerverwaltung (Hauptabteilung Direkte Bundessteuer, Verrechnungssteuer, Stempelabgaben) schriftlich mitgeteilt.
Lausanne, 12. Dezember 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Der Gerichtsschreiber: Winiger