Sachverhalt:
A.
A.a. A.A._ (geb. 1982) ist serbischer Staatsangehöriger. Im Dezember 2000 heiratete er in seiner Heimat die im Kanton Zürich niedergelassene D._ und erhielt daraufhin eine Aufenthaltsbewilligung. Die Ehe wurde am 27. Dezember 2001 geschieden. Mit Verfügung vom 17. Mai 2002 wies das Migrationsamt des Kantons Zürich (hiernach: Migrationsamt) das Gesuch von A.A._ um Verlängerung der Aufenthaltsbewilligung ab und setzte ihm eine Ausreisefrist. Am 15. August 2002 kehrte A.A._ nach Serbien zurück.
A.b. Im Oktober 2003 und im Juli 2007 wurde A.A._ Vater von zwei Töchtern (B.A._ und C.A._), welche aus seiner Beziehung mit der serbischen Staatsangehörigen E._ hervorgingen.
A.c. Am 25. März 2010 heiratete er in Winterthur die hier niedergelassene serbische Staatsangehörige F._, woraufhin ihm eine Aufenthaltsbewilligung erteilt wurde. Am 21. Mai 2010 ging beim Migrationsamt ein anonymes Schreiben ein, laut welchem A.A._ eine Scheinehe führe.
A.d. Am 18. November 2010 stellte A.A._ ein Gesuch um Familiennachzug für seine beiden Töchter aus der Beziehung mit E._.
A.e. Anlässlich eines Augenscheins durch die Stadtpolizei Winterthur in der ehelichen Wohnung am 7. April 2011 wurden die Eheleute sowie der dort anwesende G._ befragt. Dieser gab zu Protokoll, seit einem Jahr der Freund von F._ zu sein. In der Folge stellte das Migrationsamt A.A._ den Widerruf der Aufenthaltsbewilligung in Aussicht. Nachdem die Rechtsvertreterin von A.A._ im Rahmen des rechtlichen Gehörs dem Migrationsamt mitgeteilt hatte, die Ehefrau sei schwanger, verzichtete dieses vorläufig auf den Widerruf der Aufenthaltsbewilligung. Am 18. Oktober 2011 zog F._ aus der ehelichen Wohnung aus. Rund zwei Monate später teilte sie dem Migrationsamt mit, eine Fehlgeburt erlitten zu haben und die Ehe annullieren zu wollen, was sie in einem weiteren Schreiben vom 29. Januar 2012 bestätigte. Am 2. März 2012 ging beim Migrationsamt wiederum ein Schreiben von F._ ein, in welchem diese erklärte, seit Mitte Januar 2012 wieder mit ihrem Ehemann in der gemeinsamen Wohnung zu leben. Am 19. April 2012 wurde A.A._ die Aufenthaltsbewilligung verlängert. Am 23. Dezember 2012 zogen die beiden Töchter von A.A._ in die Schweiz und erhielten eine Aufenthaltsbewilligung.
A.f. Anlässlich einer erneuten polizeilichen Kontrolle in der ehelichen Wohnung am 3. September 2013 traf die Polizei die dort schlafende Mutter der beiden Töchter, E._, an, welche seit dem 5. April 2013 mit dem im Kanton Aargau niedergelassenen portugiesischen Staatsbürger H._ verheiratet ist.
A.g. Am 31. Januar 2014 ersuchten A.A._ und seine Töchter um Verlängerung ihrer Aufenthaltsbewilligungen.
A.h. Seit dem 8. Mai 2014 leben A.A._ und F._ getrennt.
A.i. Am 20. August und 3. November 2014 gingen beim Migrationsamt weitere anonyme Schreiben ein, wonach A.A._ eine Scheinehe führe.
B.
Mit Verfügung vom 29. Mai 2015 verweigerte das Migrationsamt A.A._ und seinen Töchtern die Verlängerung der Aufenthaltsbewilligungen und wies diese aus der Schweiz weg. Zur Begründung gab es an, A.A._ und F._ hätten eine Scheinehe geführt bzw. rechtsmissbräuchlich an der Ehe festgehalten. Den dagegen erhobenen Rekurs wies die Sicherheitsdirektion des Kantons Zürich ab (Entscheid vom 14. April 2016). Mit Urteil vom 21. September 2016 wies das Verwaltungsgericht des Kantons Zürich eine dagegen erhobene Beschwerde ebenfalls ab.
C.
Mit Beschwerde ans Bundesgericht, welche vom 25. Oktober 2016 datiert ist und am 2. November 2016 bei der Post aufgegeben wurde, beantragen A.A._ und seine beiden Töchter die Aufhebung des vorinstanzlichen Urteils. Es seien ihnen die Aufenthaltsbewilligungen zu erteilen.
Während das Migrationsamt, die Sicherheitsdirektion und das Staatssekretariat für Migration (SEM) auf Vernehmlassung verzichten, beantragt das Verwaltungsgericht die Abweisung der Beschwerde.
Mit Verfügung des präsidierenden Mitglieds der II. öffentlich-rechtlichen Abteilung des Bundesgerichts vom 7. November 2016 wurde der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt.

Erwägungen:
1.
1.1. Angefochten ist ein kantonal letztinstanzlicher Endentscheid in einer Angelegenheit des öffentlichen Rechts, der grundsätzlich der Beschwerde in öffentlich-rechtlichen Angelegenheiten unterliegt (vgl. Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Abs. 2 sowie Art. 90 BGG).
1.2. Nach <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide über ausländerrechtliche Bewilligungen ausgeschlossen, auf deren Erteilung weder das Bundes- noch das Völkerrecht einen Rechtsanspruch einräumen. Im vorliegenden Fall beruft sich der Beschwerdeführer 1 auf seine Ehe mit der hier niederlassungsberechtigten F._. Da gemäss den unbestrittenen vorinstanzlichen Sachverhaltsfeststellungen die Eheleute seit Mai 2014 getrennt leben, kann der Beschwerdeführer 1 keinen Anspruch mehr aus Art. 43 Abs. 1 AuG (SR 142.20) ableiten. Ein solcher könnte sich jedoch aus Art. 50 AuG ergeben, welcher dem Ehegatten nach Auflösung der Ehegemeinschaft unter bestimmten Voraussetzungen einen Anspruch auf Verlängerung der Aufenthaltsbewilligung einräumt. Diesfalls hätten auch die Beschwerdeführerinnen 2 und 3 einen abgeleiteten Anspruch auf Verlängerung ihrer Aufenthaltsbewilligung. Ob die Bewilligungsvoraussetzungen tatsächlich gegeben sind, bildet praxisgemäss Gegenstand der materiellen Beurteilung (<ref-ruling> E. 1.1 S. 332; <ref-ruling> E. 1.1 S. 179 f.) und ist keine Eintretensfrage. Folglich ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig.
1.3. Da die Beschwerdeführer als Adressaten des angefochtenen Entscheids gemäss <ref-law> zur Erhebung der Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert sind und die Beschwerde frist- und formgerecht eingereicht wurde (vgl. Art. 42 und 100 Abs. 1 BGG), ist darauf einzutreten.
2.
2.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und Art. 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (<ref-ruling> E. 3 S. 415). In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rüge- und Substanziierungspflicht (<ref-law>; <ref-ruling> E. 2.2 S. 232; <ref-ruling> E. 2.5 S. 314).
2.2. Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 117). Die beschwerdeführende Partei kann die Feststellung des Sachverhalts unter den gleichen Voraussetzungen beanstanden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>).
Zur Sachverhaltsfeststellung gehört auch die auf Indizien gestützte Beweiswürdigung. Die Sachverhaltsfeststellung bzw. Beweiswürdigung erweist sich als willkürlich im Sinn von <ref-law>, wenn das Gericht Sinn und Tragweite eines Beweismittels offensichtlich verkannt hat, wenn es ohne sachlichen Grund ein wichtiges und entscheidwesentliches Beweismittel unberücksichtigt gelassen oder wenn es auf der Grundlage der festgestellten Tatsachen unhaltbare Schlussfolgerungen gezogen hat (<ref-ruling> E. 2.3 S. 265 f.; Urteil 2C_310/ 2014 vom 25. November 2014 E. 1.2). Eine entsprechende Rüge ist substanziiert vorzubringen; auf rein appellatorische Kritik an der Sachverhaltsfeststellung bzw. Beweiswürdigung geht das Bundesgericht nicht ein (<ref-ruling> E. 10.1 S. 444 f.).
3.
Die Beschwerdeführer machen geltend, die Vorinstanz habe den in <ref-law> verankerten Anspruch auf rechtliches Gehör verletzt, weil sie die Ehefrau nicht nochmals einvernommen habe. Diese Rüge ist unbegründet: Zwar umfasst der Anspruch auf rechtliches Gehör u.a. auch das Recht der Betroffenen, mit erheblichen Beweisanträgen gehört zu werden. Jedoch ist dieser Anspruch nicht verletzt, wenn ein Gericht deshalb auf die Abnahme beantragter Beweismittel verzichtet, weil es aufgrund der bereits abgenommenen Beweise seine Überzeugung gebildet hat und ohne Willkür in antizipierter Beweiswürdigung annehmen kann, dass seine Überzeugung durch weitere Beweiserhebungen nicht geändert werde (<ref-ruling> E. 6.3.1 S. 299 mit Hinweisen). Die Beschwerdeführer zeigen nicht auf, welche neuen entscheidrelevanten Erkenntnisse, die sich nicht bereits aus den Akten ergeben würden, durch eine erneute Befragung der Ehefrau hätten gewonnen werden können, zumal diese im Rahmen der Ereignisse bereits mehrmals befragt worden war. Insbesondere ist nicht ersichtlich, inwiefern der Umstand, dass sich die Ehefrau - wie die Beschwerdeführer geltend machen - kürzlich in psychologischer Behandlung befunden habe, ihre nochmalige Befragung erforderlich machen sollte. Die Vorinstanz durfte daher ohne Willkür auf deren erneute Einvernahme verzichten.
4.
4.1. Die Ansprüche nach Art. 43 und 50 AuG erlöschen, wenn sie rechtsmissbräuchlich geltend gemacht werden, namentlich um Vorschriften dieses Gesetzes und seiner Ausführungsbestimmungen über die Zulassung und den Aufenthalt zu umgehen (Art. 51 Abs. 1 lit. a AuG). Hierunter fällt unter anderem die sogenannte Scheinehe oder Ausländerrechtsehe, bei der die Ehegatten von vornherein keine echte eheliche Gemeinschaft beabsichtigen (<ref-ruling> E. 2.2 S. 151; <ref-ruling> E. 4.2 S. 117).
4.2. Ob eine Scheinehe geschlossen wurde bzw. ob die Ehe bloss formell besteht, entzieht sich in der Regel dem direkten Beweis und ist nur durch Indizien zu erstellen (BGE <ref-ruling> E. 10.2 und 10.3 S. 135 f. mit Hinweisen). Diesbezügliche Indizien können unter anderem darin erblickt werden, dass die ausländische Person ohne Heirat keine Aufenthaltsbewilligung erhalten hätte oder diese nicht verlängert worden wäre. Für das Vorliegen einer Ausländerrechtsehe können sodann die Umstände und die kurze Dauer der Bekanntschaft sprechen sowie die Tatsache, dass die Ehegatten keine Wohngemeinschaft aufgenommen oder für die Heirat eine Bezahlung vereinbart haben. Dass die Begründung einer wirklichen Lebensgemeinschaft gewollt war, ergibt sich umgekehrt nicht schon daraus, dass die Gatten während einer gewissen Zeit zusammengelebt und intime Beziehungen unterhalten haben (vgl. <ref-ruling> E. 2b S. 295; Urteil 2C_1008/2015 vom 20. Juni 2016 E. 3.2). Lässt die Indizienlage keinen eindeutigen Schluss zu, ist das Vorliegen einer Scheinehe nicht erstellt. In diesem Fall ist dem ausländischen Ehegatten trotz allenfalls bestehender Zweifel die Aufenthaltsbewilligung zu erteilen, auf das Risiko hin, dass sich die Ehe aufgrund des späteren Verhaltens der Beteiligten (z.B. fehlendes eheliches Zusammenleben in der Schweiz) in Verbindung mit den bereits heute bekannten, in diese Richtung weisenden Indizien als Scheinehe herausstellt und die Aufenthaltsbewilligung gestützt auf die künftigen Erkenntnisse widerrufen werden muss bzw. nicht mehr zu verlängern ist (Urteil 2C_154/2015 vom 17. März 2015 E. 2.4 mit Hinweis).
4.3. Gemäss den Feststellungen der Vorinstanz wurden anlässlich des Augenscheins in der ehelichen Wohnung am 7. April 2011 die Eheleute sowie der in der Wohnung anwesende G._ von der Stadtpolizei Winterthur befragt. Dem betreffenden Polizeirapport vom 2. Mai 2011 lässt sich entnehmen, dass die Eheleute bei ihrer Einvernahme unterschiedliche Angaben über die Art und Weise ihres Kennenlernens, über gemeinsame Hobbys, die Hochzeitsfotos, die Hochzeitsgeschenke und die Schlafzimmeraufteilung gemacht haben. G._ gab zu Protokoll, seit April 2010 eine Beziehung zur Ehefrau des Beschwerdeführers 1 zu unterhalten. Aus dem vorinstanzlich festgestellten Sachverhalt geht weiter hervor, dass die Ehefrau Mitte Oktober 2011 aus der ehelichen Wohnung ausgezogen ist. Mit Schreiben vom 8. Dezember 2011 teilte sie dem Migrationsamt mit, der Beschwerdeführer 1 habe zugegeben, dass er nur die Niederlassungsbewilligung erhalten und seine Ex-Frau mit den Kindern in die Schweiz nachziehen wolle. Sowohl im Schreiben vom 8. Dezember 2011 als auch in einem weiteren Schreiben vom 29. Januar 2012 äusserte die Ehefrau ihre Absicht, die Ehe beenden zu wollen. Sie habe jedoch Angst gehabt, rechtliche Schritte einzuleiten, da von Seiten des Ehemannes Drohungen geäussert worden seien. Am 2. März 2012 teilte die Ehefrau dem Migrationsamt mit, sie habe sich an Silvester 2011 mit ihrem Mann versöhnt und lebe seit Mitte Januar 2012 wieder mit ihm zusammen. Bei einer erneuten polizeilichen Kontrolle in der ehelichen Wohnung am 3. September 2013 wurde die Mutter der Kinder, E._, schlafend im Ehebett angetroffen. Hierzu gab der Beschwerdeführer 1 an, seine Ehefrau sei in den Ferien und die Kindsmutter weile seit drei Wochen bei ihm.
Die Vorinstanz erwog, der Umstand, dass sich die Kindsmutter spätestens nach dem Verreisen der Ehefrau am 23. August 2013 tagelang zusammen mit dem Beschwerdeführer 1 und den gemeinsamen Töchtern in der ehelichen Wohnung aufgehalten habe, lasse auf ein Verhältnis des Beschwerdeführers 1 mit der Kindsmutter schliessen. Eine solche Beziehung werde durch den Umstand, dass sie gemeinsam im Ehebett genächtigt hätten, unterstrichen, welches Verhalten sich nicht mit der infrage stehenden Ehe des Beschwerdeführers 1 in Einklang bringen lasse. Daran ändere auch die von der Kindsmutter angeführte Operation der Tochter nichts, zumal kein Notfall vorgelegen habe, der den Aufenthalt der Kindsmutter in der ehelichen Wohnung rund um die Uhr erfordert hätte, schon gar nicht im Ehebett. Zudem hätten der Ehemann und ein Cousin der Kindsmutter im Kanton Aargau gelebt, sodass nicht erklärbar sei, warum sie nicht dort übernachtet habe. In Anbetracht aller Umstände kam die Vorinstanz zum Schluss, die Ehe des Beschwerdeführers 1 habe nur formell eine Rolle gespielt und ihm zur Verlängerung der Aufenthaltsbewilligung sowie zum Nachzug der Töchter gedient. Ansonsten sei sie inhaltsleer gewesen. Dies ergebe sich auch aus den widersprüchlichen Schreiben der Ehefrau; so habe sie mit Schreiben vom 29. Januar 2012 angekündigt, die Ehe beenden zu wollen, jedoch mit Schreiben vom 2. März 2012 behauptet, seit Mitte Januar 2012 wieder mit ihrem Ehegatten zusammenzuleben. Von einer gelebten ehelichen Beziehung könne nicht ausgegangen werden. Die Ehefrau habe eine solche gegenüber den Behörden nur vorgegeben, weil sie sich unter Druck gesetzt gefühlt habe.
4.4. Was die Beschwerdeführer vor Bundesgericht dagegen vorbringen, ist nicht geeignet, die vorinstanzliche Auffassung zu entkräften. In ihren Ausführungen zum Sachverhalt beschränken sie sich darauf, dem Bundesgericht appellatorisch ihre eigene, abweichende Auffassung zur Fakten- und Beweislage vorzutragen; sie legen aber nicht dar, inwiefern die Sachverhaltsfeststellungen der Vorinstanz offensichtlich unrichtig oder deren Beweiswürdigung willkürlich wäre (vgl. E. 2.2 hiervor). Unbehelflich sind insbesondere die Ausführungen der Beschwerdeführer zur Anwesenheit der Kindsmutter in der ehelichen Wohnung anlässlich der polizeilichen Kontrolle vom 3. September 2013. So ist nicht entscheidend, ob der Beschwerdeführer 1 tatsächlich mit der Kindsmutter im gleichen Bett genächtigt hat. Allein die - unbestrittene - Tatsache, dass die Kindsmutter während der Ferienabwesenheit der Ehefrau in der ehelichen Wohnung im Ehebett angetroffen wurde, legt nahe, dass der Beschwerdeführer 1 und die Kindsmutter (weiterhin) eine Beziehung unterhielten, was vor dem Hintergrund der gesamten Umstände ein gewichtiges Indiz für eine Scheinehe bzw. ein missbräuchliches Festhalten an einer inhaltsleeren Ehe darstellt. Insgesamt genügt die Kritik der Beschwerdeführer am Sachverhalt nicht den Anforderungen an eine im bundesgerichtlichen Verfahren zulässige Sachverhaltsrüge bzw. Rüge der vorinstanzlichen Beweiswürdigung, weshalb darauf nicht weiter einzugehen ist (vgl. <ref-ruling> E. 2.3 S. 266).
Die übrigen Vorbringen der Beschwerdeführer vermögen die vom Verwaltungsgericht gezogenen Schlussfolgerungen nicht als bundesrechtswidrig erscheinen zu lassen. Die Beschwerdeführer versuchen im Wesentlichen, die aufgelisteten Indizien zu relativieren und machen geltend, dass daraus nicht das Bestehen einer Scheinehe abgeleitet werden könne. Sie bringen jedoch nichts vor, was die von der Vorinstanz vorgenommene Würdigung der verschiedenen für eine Scheinehe sprechenden Indizien zu erschüttern vermöchte. Das Verwaltungsgericht ist aufgrund einer Gesamtwürdigung sämtlicher Indizien (u.a. Schreiben der Ehefrau, Aussageverhalten der Beteiligten, Ergebnisse der Polizeikontrollen) zum Schluss gekommen, dass eine inhaltsleere Ehe geführt worden sei, welche in erster Linie zum Ziel hatte, dem Beschwerdeführer 1 und seinen Töchtern ein Anwesenheitsrecht in der Schweiz zu verschaffen. Vor dem Hintergrund der vorstehend aufgeführten Umstände ist dieser Schluss ohne Weiteres nachvollziehbar und verletzt kein Bundesrecht.
4.5. Schliesslich vermögen die Beschwerdeführer aus dem Umstand, dass die Behörde zunächst - trotz gewisser Zweifel - die Bewilligungen erteilt bzw. verlängert hat, nichts zu ihren Gunsten abzuleiten. Eine nachträgliche Prüfung bleibt weiterhin möglich. Geht es um den Widerruf einer bereits bestehenden Bewilligung, ist dazu erforderlich, dass neue Tatsachen vorliegen, die der Behörde im Zeitpunkt der Erteilung noch nicht bekannt waren. Handelt es sich jedoch - wie vorliegend - um die Verlängerung einer abgelaufenen Bewilligung, gelangen nicht die Regeln über den Widerruf rechtskräftiger Bewilligungen zur Anwendung, sondern die Behörde kann aufgrund einer Gesamtwürdigung - unter Einbezug bereits früher bekannter und zusätzlicher neuer Erkenntnisse - das Vorliegen einer Scheinehe bejahen (Urteil 2C_740/2015 vom 10. Februar 2016 E. 3.3 mit Hinweisen).
4.6. Zusammenfassend ist festzuhalten, dass der Beschwerdeführer 1 keinen Anspruch auf Verlängerung der Aufenthaltsbewilligung hat. Damit ist auch kein Verlängerungsanspruch der Beschwerdeführerinnen 2 und 3 ersichtlich. In Bezug auf die Verhältnismässigkeit der Massnahme hat die Vorinstanz zu Recht darauf hingewiesen, dass der Beschwerdeführer 1, welcher im Jahr 2010 mit 27 Jahren in die Schweiz übersiedelte, nicht derart in der Schweiz verwurzelt und seiner Heimat entfremdet ist, dass ihm eine Rückkehr nach Serbien, wo er regelmässig zu Ferienaufenthalten weilte, nicht zuzumuten wäre. Dasselbe gilt für seine im Dezember 2012 nachgezogenen Töchter, welche den Grossteil ihrer Kindheit im Heimatland verbracht haben.
5.
5.1. Nach dem Gesagten erweist sich die Beschwerde als unbegründet und ist abzuweisen.
5.2. Dem Verfahrensausgang entsprechend werden die unterliegenden Beschwerdeführer kostenpflichtig, wobei der Beschwerdeführer 1 auch für den Kostenanteil der minderjährigen Beschwerdeführerinnen 2 und 3 aufzukommen hat (<ref-law>). Es sind keine Parteientschädigungen geschuldet (Art. 68 Abs. 1-3 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer 1 auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 2. Abteilung, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 4. April 2017
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Die Gerichtsschreiberin: Petry