Sachverhalt: A. Der 1978 geborene kosovarische Staatsangehörige X._ reiste 1988 im Rahmen des Familiennachzugs in die Schweiz ein und erhielt hier eine Aufenthaltsbewilligung. Im Jahr 1993 wurde ihm die Niederlassungsbewilligung erteilt. Gemeinsam mit einer im Kanton Aargau lebenden vietnamesischen Staatsangehörigen hat X._ zwei Kinder (geb. 1999 und 2005), welche bei ihrer Mutter leben und ebenfalls über die Niederlassungsbewilligung verfügen. Mit der Kindsmutter ist X._ nicht verheiratet. Dagegen hat er offenbar im Jahr 2002 oder 2003 mit einer im Kosovo lebenden Landsfrau die Ehe geschlossen. Schon als Jugendlicher beging X._ eine Reihe von Straftaten, weswegen ihn das Ausländeramt des Kantons St. Gallen am 15. April 1997 erstmals schriftlich verwarnt und auf die Möglichkeit einer Ausweisung hingewiesen hat. Trotz dieser Verwarnung delinquierte X._ in erheblichem Umfang weiter, sodass ihn das Ausländeramt am 25. Mai 1999 und am 3. Februar 2005 erneut verwarnte und ihm die Ausweisung androhte. Auch diese Verwarnungen vermochten indes eine weitere Delinquenz von X._ nicht zu verhindern. In der Zeit vom 9. Februar 1996 bis zum 22. April 2008 ergingen insgesamt 18 Strafurteile gegen X._, welche Freiheitsstrafen von gesamthaft über drei Jahren sowie zahlreiche Geldstrafen und Bussen zur Folge hatten. Als beachtlich erscheinen insbesondere die Straferkenntnisse des Bezirksgerichts Sargans vom 14. März 2000 und des Kreisgerichts Werdenberg-Sargans vom 17. September 2004. Das Bezirksgericht Sargans sprach X._ des einfachen und bandenmässigen Diebstahls, der mehrfachen Widerhandlung gegen das Betäubungsmittelgesetz (sowohl Handel als auch Konsum), der mehrfachen Sachbeschädigung, des mehrfachen Hausfriedensbruches sowie der mehrfachen Widerhandlung gegen das Strassenverkehrsgesetz schuldig und verurteilte ihn zu einer Gefängnisstrafe von 18 Monaten. Vom Kreisgericht Werdenberg-Sargans wurde X._ wegen bandenmässigem Diebstahl, mehrfachem, teilweise versuchtem Diebstahl, mehrfacher Sachbeschädigung und mehrfachem Hausfriedensbruch zu 15 Monaten Gefängnis verurteilt. Die übrigen Verurteilungen hatten vorwiegend Betäubungsmittel-, Vermögens- und Strassenverkehrsdelikte zum Gegenstand. B. Mit Verfügung vom 5. September 2008 widerrief das Ausländeramt des Kantons St. Gallen die Niederlassungsbewilligung von X._, wobei zur Begründung im Wesentlichen auf dessen kriminelles Verhalten verwiesen wurde. Hiergegen rekurrierte X._ ohne Erfolg beim kantonalen Sicherheits- und Justizdepartement. Eine danach beim Verwaltungsgericht des Kantons St. Gallen erhobene Beschwerde wurde mit Urteil vom 22. September 2009 abgewiesen. C. Mit Eingabe vom 28. Oktober 2009 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt die Aufhebung des vorinstanzlichen Urteils und den Verzicht auf den Widerruf seiner Niederlassungsbewilligung. Das Sicherheits- und Justizdepartement des Kantons St. Gallen, das Verwaltungsgericht des Kantons St. Gallen sowie das Bundesamt für Migration schliessen auf Abweisung der Beschwerde.