Sachverhalt:
A. Der aus dem Kosovo stammende X._ (geb. 1973) reiste 1990 in die Schweiz und stellte ein Asylgesuch. Im September 1991 heiratete er eine Schweizer Bürgerin, worauf er im Rahmen des Familiennachzugs eine Aufenthaltsbewilligung und im Jahre 1998 eine Niederlassungsbewilligung erhielt. Das Asylgesuch wurde infolge Rückzugs abgeschrieben. Die kinderlos gebliebene Ehe ist zwischenzeitlich geschieden. Am 15. Februar 2008 heirateten X._ und die mazedonische Staatsangehörige Y._ (geb. 1979). Aus dieser Beziehung stammt der bereits im August 2005 geborene Sohn Z._.
Namentlich unter Berufung auf eine Verurteilung vom 10. Dezember 2004 zu dreieinhalb Jahren Zuchthaus durch das Obergericht des Kantons Zürich wies das Ausländeramt des Kantons St. Gallen X._ am 6. Juni 2007 für die Dauer von fünf Jahren aus der Schweiz aus. Die von ihm dagegen beim kantonalen Sicherheits- und Justizdepartement sowie anschliessend beim Verwaltungsgericht des Kantons St. Gallen erhobenen Rechtsmittel blieben erfolglos.
B. X._ beantragt dem Bundesgericht mit Eingabe vom 21. Juli 2008, das Urteil des Verwaltungsgerichts des Kantons St. Gallen vom 17. Juni 2008 teilweise aufzuheben und die Dauer der Ausweisung auf zwei Jahre oder eventualiter auf eine Dauer nach richterlichem Ermessen herabzusetzen. Subeventualiter sei die Sache zur Neuprüfung im Sinne der Erwägungen an die Vorinstanzen zurückzuweisen. Das kantonale Justiz- und Sicherheitsdepartement sowie das Verwaltungsgericht und das Bundesamt für Migration stellen den Antrag, die Beschwerde abzuweisen. Das kantonale Ausländeramt hat sich nicht vernehmen lassen.
C. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat dem im Strafvollzug befindlichen Beschwerdeführer mit Verfügung vom 8. September 2008 die Möglichkeit eingeräumt, den Kostenvorschuss in Raten bis zum 5. Januar 2009 einzuzahlen.

Erwägungen:
1. Da sich vorliegend die Beschwerde in öffentlich-rechtlichen Angelegenheiten als zulässig erweist, ist auf die vom Beschwerdeführer "ergänzend" erhobene subsidiäre Verfassungsbeschwerde nicht einzutreten (vgl. <ref-law>; Urteil 2C_701/2008 vom 26. Februar 2009 E. 3).
2. Der Beschwerdeführer hat dem Bundesgericht mit Eingaben vom 24. Oktober 2008, 28. Januar und 14. März 2009 Unterlagen zu Tatsachen in Aussicht gestellt bzw. vorgelegt, die erst nach dem Ergehen des angefochtenen Urteils aufgetreten sind. Mit Blick auf die Grundsätze zum Novenrecht sind diese Tatsachen und Beweismittel jedoch aus dem Recht zu weisen. Es ist namentlich auf den Sachverhalt im Zeitpunkt des Entscheids des Verwaltungsgerichts abzustellen (vgl. Art. 99 und 105 BGG; <ref-ruling> E. 5.1.3 S. 103; <ref-ruling> E. 2 S. 343 f.; <ref-ruling> E. 3 S. 395). Das gilt im Grundsatz auch für die mit der Beschwerde eingereichten Dokumente vom 20. und 27. Juni 2008.
3. Sämtliche Beteiligten gehen richtig davon aus, dass vorliegend materiell noch das bis zum 31. Dezember 2007 geltende Ausländerrecht gilt (vgl. Art. 126 Abs. 1 AuG; SR 142.20; Urteil 2C_745/2008 vom 24. Februar 2009 E. 1.2). Die Vorinstanzen haben die Ausweisung auf Art. 10 Abs. 1 lit. a des Bundesgesetzes vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG; BS 1 121, in der Fassung vom 8. Oktober 1948, AS 1949 I 221) gestützt. Demnach kann ein Ausländer ausgewiesen werden, wenn er wegen eines Verbrechens oder Vergehens (dazu <ref-law>) gerichtlich bestraft wurde. Der Beschwerdeführer bestreitet nicht das Vorliegen eines Ausweisungsgrundes. Vor Bundesgericht wendet er sich auch nicht mehr gegen die Ausweisung als solche. Er macht aber geltend, die verfügte Dauer von fünf Jahren sei zu lang und damit unverhältnismässig und willkürlich festgelegt.
4. 4.1 Der Beschwerdeführer wurde zwischen 1990 und 2000 mehrfach wegen kleineren Delikten strafrechtlich belangt. Deswegen hatte das Ausländeramt ihn im Oktober 1993 verwarnt. Wegen einer Verurteilung zu fünf Monaten Gefängnis unter Gewährung des bedingten Strafvollzugs im Jahre 1994 verweigerte es ihm im September 1996 vorläufig die Niederlassungsbewilligung. Das Obergericht des Kantons Zürich verurteilte den Beschwerdeführer am 10. Dezember 2004 wegen Raubes zu dreieinhalb Jahren Zuchthaus. Acht Monate nach dieser Verurteilung beging der Beschwerdeführer erneut einen Raubüberfall. Deswegen wurde er mit Urteil des Bezirksgerichts Uster vom 1. November 2006 zu 18 Monaten Gefängnis unbedingt bestraft. Auf Berufung des Beschwerdeführers hin bestätigte das Obergericht des Kantons Zürich am 11. September 2007 die Verurteilung. Es hielt fest, dass sogar eine deutlich höhere Strafe angemessen gewesen wäre; wegen des Verschlechterungsverbots sei es aber an das Strafmass der Vorinstanz gebunden (S. 11 des Obergerichtsurteils). Das Obergericht bemerkte, dass der Beschwerdeführer eine erhebliche kriminelle Energie entwickelt habe. Sein subjektives Tatverschulden wiege schwer.
4.2 Demnach besteht ein gewichtiges Interesse an der Fernhaltung des Beschwerdeführers. Dieser macht aber vor allem eine Verletzung des Anspruchs auf Achtung des Privat- und Familienlebens geltend. Die Interessen von ihm und von seiner Familie an seinem Aufenthalt in der Schweiz seien nicht hinreichend berücksichtigt worden. Auch sei die Annahme der Vorinstanz, bei ihm sei eine Rückfallgefahr gegeben, "völlig abwegig" und nicht begründet worden.
4.3 Der Beschwerdeführer ist im Jahre 1990 als Siebzehnjähriger und seine Ehefrau im Jahre 1991 als Zwölfjährige in die Schweiz eingereist. Es ist somit bei beiden von einer relativ langen Anwesenheitsdauer auszugehen. Die Ehefrau mag hier weitgehend integriert sein. Angesichts des wiederholten deliktischen Verhaltens des Beschwerdeführers ist das bei ihm weniger der Fall. Auch hat er seine gesamte Schul- und die prägende Jugendzeit in der Heimat verbracht, wo auch noch Geschwister und seine Mutter leben. Da die Ehefrau über eine Niederlassungsbewilligung verfügt, steht es ihr frei, bei Ausweisung des Beschwerdeführers in der Schweiz zu bleiben oder ebenfalls auszureisen. Zwar hat sie nie im Kosovo gelebt, sie hat jedoch selber erklärt, sich der albanischen Volksgruppe zuzurechnen und albanisch als Muttersprache zu beherrschen. Der im Jahre 2005 geborene Sohn befindet sich noch in einem anpassungsfähigen Alter.
4.4 Den privaten Interessen am Verbleib in der Schweiz bzw. an einer kürzeren Ausweisung sind die öffentlichen Interessen an der Fernhaltung des Beschwerdeführers, die - wie ausgeführt - erheblich sind, gegenüberzustellen (vgl. Art. 11 Abs. 3 ANAG). Das Verwaltungsgericht legt unter Hinweis auf die Ausführungen des kantonalen Departements und des Obergerichts des Kantons Zürich, das dem Beschwerdeführer "keine besonders günstige Prognose" stellte, überzeugend dar, warum beim Beschwerdeführer eine erhebliche Rückfallgefahr anzunehmen ist. Dieser liess sich immer schwerere Straftaten zuschulden kommen. Weder die schon gelebte Beziehung mit seiner heutigen Ehefrau noch die bevorstehende Geburt seines Sohnes hielten ihn von den Raubdelikten ab. Nicht einmal Untersuchungshaft sowie die Verurteilung zu dreieinhalb Jahren Zuchthaus wegen des ersten Raubes vermochten ihm als Lehre zu dienen.
Nichts Gutes erahnen lässt auch die bisherige Haltung des Beschwerdeführers. Noch im Rekursverfahren vor dem kantonalen Departement bestritt er den bereits rechtskräftig abgeurteilten ersten Raub. An therapeutischen oder deliktsspezifischen Gesprächen im Strafvollzug ist er nicht interessiert. Vor Bundesgericht versucht er immer noch, die begangenen Delikte zu verharmlosen, indem er etwa behauptet, es habe sich nur um eine "minimale Gewaltausübung" gehandelt, die Qualifizierung des Verschuldens als schwer sei eine blosse "Floskel" und die Geschädigten hätten sich - wegen angeblich am ersten Tatort betriebener Glücksspiele - selbst "ins Risiko und in die Illegalität begeben". Letzteres trifft für den zweiten Raub jedoch sicherlich nicht zu und zeigt, dass sich der Beschwerdeführer auch nicht scheut, unbescholtene Bürger zu schädigen. Er ist zwar nicht wegen qualifizierten Raubes verurteilt worden. Das Obergericht hielt aber klar und nachvollziehbar fest, dass und warum sein "unverfrorenes und kühnes" Vorgehen in die Nähe des qualifizierten Tatbestandes von <ref-law> zu rücken sei. Die Geschädigten wurden mit Schusswaffen eingeschüchtert und bedroht sowie teilweise gefesselt.
Selbst wenn der letzte Raub drei Jahre zurückliegt und der Beschwerdeführer seither keine Delikte mehr begangen hat, will das somit nicht heissen, dass von ihm heute keine Gefahr mehr ausgeht. Schon zwischen den beiden Raubdelikten lagen drei Jahre. Zudem befand er sich seit der letzten Straftat zumeist in Haft. Entscheidend ist letztlich aber das Verhalten in Freiheit, wenn nicht die gleich strenge und regelmässige Aufsicht stattfindet. Mithin ist sein (Wohl-)Verhalten in den letzten drei Jahren bzw. während der Haft nicht geeignet, zu einer für den Beschwerdeführer günstigeren Beurteilung zu führen. Die Vorinstanzen mussten mit dem Ausweisungsentscheid dementsprechend auch nicht das Ende des Strafvollzugs abwarten.
Nach dem Dargelegten erscheint die Ausweisung für fünf Jahre, die ab der Haftentlassung vollzogen wird, als verhältnismässig. Der Beschwerdeführer wird sich wegen seiner wiederholten und zunehmend schweren Delinquenz eine längere Zeit ausserhalb der Schweiz zu bewähren haben. Sein Vergleich mit anderen vom Kanton oder vom Bundesgericht beurteilten Fällen ist unbehelflich. Für die Dauer der Ausweisung gemäss Art. 10 Abs. 1 lit. a ANAG ist nämlich das Verhalten im Zusammenhang mit den begangenen Delikten massgebend und weniger der Umstand, wie unterschiedlich die Betreibungssituation ausfällt. Aus den erwähnten Vergleichsfällen ergibt sich zudem, dass die St. Galler Behörden - entgegen der Behauptung des Beschwerdeführers - die Dauer der Ausweisung sehr wohl je nach Einzelfall bestimmen. Eine erneute fremdenpolizeiliche Verwarnung nach dem ersten Raub war nicht notwendig. Im Übrigen hatte der Beschwerdeführer noch vor dem kantonalen Departement erklärt, die bereits 1993 erfolgte Verwarnung sei "bloss ein Papier" gewesen. Das von ihm angerufene Übereinkommen vom 20. November 1989 über die Rechte des Kindes (UNO-Kinderrechtskonvention; SR 0.107) steht der angefochtenen Massnahme auch nicht entgegen (vgl. Urteile 2A.526/2005 vom 17. Februar 2006 E. 3.3 und 2A.539/2002 vom 9. Juli 2003 E. 4.5). Lediglich ergänzend sei schliesslich bemerkt, dass die Ehefrau sowohl im Zeitpunkt der Heirat als auch des Einlassens auf die Schwangerschaft damit rechnen musste, dass sie ihre Beziehung mit dem Beschwerdeführer nicht ungehindert in der Schweiz würde leben können. Sie selber war im Zusammenhang mit dem ersten Raub bereits im April 2003 wegen versuchter Begünstigung verurteilt worden. Ergänzend wird auf die zutreffenden Ausführungen in den Entscheiden des Verwaltungsgerichts und des kantonalen Departements verwiesen.
5. Da sich die Ausweisung für fünf Jahre als verhältnismässig erweist, ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten abzuweisen. Diesem Ausgang entsprechend hat der Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen, welche mit Blick auf seine Einkommens- und Vermögenssituation reduziert festgesetzt werden (Art. 65 und 66 Abs. 1 BGG). Parteientschädigungen werden nicht geschuldet (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'200.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Ausländeramt, dem Sicherheits- und Justizdepartement sowie dem Verwaltungsgericht des Kantons St. Gallen und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 28. April 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Merz