Sachverhalt: A. Der aus dem Kosovo stammende A._ (geb. 1981) heiratete am 23. August 2001 in seiner Heimat die Landsfrau B._ (geb. 1981), die in der Schweiz über eine Niederlassungsbewilligung verfügt. Am 22. August 2003 reiste A._ zu seiner Ehefrau in die Schweiz. Seine Aufenthaltsbewilligung wurde nach Abschluss einer Integrationsvereinbarung am 17. November 2010 letztmals am 1. Dezember 2010 unter gleichzeitiger ausländerrechtlicher Verwarnung bis zum 21. August 2011 verlängert. Die beiden gemeinsamen Kinder, Tochter C._ (geb. 2005) bzw. Sohn D._ (geb. 2010), sind niederlassungsberechtigt. B. Mit Verfügung vom 27. Oktober 2011 verweigerte das Migrationsamt des Kantons St. Gallen A._ eine erneute Verlängerung seiner Aufenthaltsbewilligung. Es machte geltend, dieser habe "das Gastrecht in der Schweiz auf schwerwiegende Weise missachtet" und sein Verhalten (Nichtbeachten der Integrationsvereinbarung, fehlende geregelte Erwerbstätigkeit, Unterstützung der Familie durch die Sozialhilfe, Anhäufung von Schulden) erfülle die Widerrufsgründe von Art. 62 lit. c, d und e AuG (SR 142.20). Am 19. Dezember 2011 trat A._ eine Vollzeitstelle an. Mit Entscheid vom 16. Oktober 2012 wies das Sicherheits- und Justizdepartement des Kantons St. Gallen den von A._ erhobenen Rekurs gegen die Verfügung des Migrationsamtes ab. Das Verwaltungsgericht des Kantons St. Gallen wies mit Urteil vom 2. Juli 2013 die dagegen von A._ erhobene Beschwerde ab. C. Mit Eingabe vom 5. September 2013 erhebt A._ Beschwerde in öffentlich-rechtlichen Angelegenheiten, eventualiter subsidiäre Verfassungsbeschwerde, beim Bundesgericht. Er beantragt, das Urteil des Verwaltungsgerichts vom 2. Juli 2013 sei aufzuheben und seine Aufenthaltsbewilligung zu verlängern. D. Mit Verfügung vom 11. September 2013 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt. Das Verwaltungsgericht und das Sicherheits- und Justizdepartement des Kantons St. Gallen sowie das Bundesamt für Migration beantragen die Abweisung der Beschwerde.