Sachverhalt: A. Der 1986 geborene kosovarische Staatsangehörige A._ reiste im Jahr 2005 illegal in die Schweiz ein, weswegen er durch die Staatsanwaltschaft Winterthur mit Strafbefehl vom 31. März 2005 mit einer bedingten Gefängnisstrafe von 45 Tagen sanktioniert wurde. Am 3. April 2005 wurde er aus der Schweiz ausgeschafft. Am 17. August 2010 heiratete A._ eine in der Schweiz niedergelassene kosovarische Landsfrau. Er reiste daraufhin im Juni 2011 in die Schweiz ein und erhielt hier eine bis 16. Juni 2012 gültig gewesene Aufenthaltsbewilligung. Nachdem er bereits Anfang 2012 aus der ehelichen Wohnung ausgezogen war, lehnte der damals zuständige Migrationsdienst des Kantons Bern am 22. Februar 2013 die Verlängerung der Aufenthaltsbewilligung von A._ ab und er setzte ihm eine Frist bis zum 30. April 2013, um die Schweiz zu verlassen. In der Folge liess A._ die Ehe mit seiner Landsfrau am 5. März 2013 im Kosovo scheiden, dies in Abwesenheit beider Gatten. Wenige Tage später, am 15. März 2013, ersuchte A._ den Migrationsdienst um Aufschub der Wegweisung, zumal er nun beabsichtige, die Schweizerin B._ zu heiraten. Nachdem der Migrationsdienst diesem Ersuchen nicht entsprochen hatte, reiste A._ am 28. April 2013 in den Kosovo aus. Am 20. Februar 2015 heiratete A._ im Kosovo die 1970 geborene, d.h. 16 Jahre ältere schweizerische Staatsangehörige B._. B. Am 27. März 2015 ersuchte er das Migrationsamt des Kantons Zürich um Erteilung einer Einreise- und Aufenthaltsbewilligung zwecks Verbleib bei der Gattin. Mit Verfügung vom 9. Oktober 2015 wies das Migrationsamt das Gesuch ab. Die von den Betroffenen hiergegen ergriffenen kantonalen Rechtsmittel wurden von der Sicherheitsdirektion des Kantons Zürich (Rekursentscheid vom 25. Oktober 2016) sowie vom Verwaltungsgericht des Kantons Zürich (Urteil vom 11. Januar 2017) abgewiesen. Sämtliche kantonalen Instanzen gelangten zum Schluss, dass A._ die Ehe einzig deshalb eingegangen sei, um sich in der Schweiz erneut ein Aufenthaltsrecht zu verschaffen. C. Mit Eingabe vom 14. Februar 2017 führen A._ und B._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Sie beantragen im Wesentlichen, A._ eine Einreiseerlaubnis und anschliessend eine Aufenthaltsbewilligung zu erteilen. Die Sicherheitsdirektion und das Verwaltungsgericht des Kantons Zürich verzichten auf Vernehmlassung. Mit Schreiben vom 12. April 2017 wurden den Beschwerdeführern die Stellungnahmen der Vorinstanzen mitgeteilt. Innert der hierfür angesetzten Frist erfolgte keine weitere (fakultative) Eingabe der Beschwerdeführer.