Sachverhalt: A. Der aus Serbien und Montenegro stammende AX._ (geb. 1963) hielt sich ab dem Jahr 1985 als Saisonnier in der Schweiz auf. Im Jahr 1991 wurde seine Saisonbewilligung in eine Aufenthaltsbewilligung umgewandelt und im Jahr 1997 erhielt er die Niederlassungsbewilligung. Seine Ehefrau BX._ (geb. 1965) zog im Mai 1992 zu ihm nach und kam zunächst in den Genuss einer Aufenthaltsbewilligung. Zuvor hatte sie in der Heimat die gemeinsamen Töchter C._ (geb. September 1986) und D._ (geb. September 1989) sowie den Sohn E._ (geb. Oktober 1990) zur Welt gebracht. Die Eltern nahmen die Kinder nicht zu sich, sondern liessen sie bei den Grosseltern mütterlicherseits zurück. Seit Februar 2002 verfügt auch BX._ über eine Niederlassungsbewilligung. B. Am 4. Dezember 2007 reichten die Eheleute AX._ und BX._ ein Gesuch um Familiennachzug für ihren Sohn E._ ein. Am 13. Februar 2008 teilte das Amt für Migration des Kantons Zug ihnen mit, der beantragte Familiennachzug werde abgelehnt. Es bot ihnen an, das Gesuch zurückzuziehen. Dem kamen die Eheleute mit Schreiben vom 29. Februar 2008 nicht nach. Im Übrigen bezeichneten sie ihre Eingabe von diesem Tage zusätzlich als "neues Gesuch", das im Gegensatz zum Antrag vom 4. Dezember 2007 nach der am 1. Januar 2008 in Kraft getretenen Rechtsänderung zu beurteilen sei. Mit Verfügung vom 11. Juni 2008 wies das Amt für Migration das Nachzugsgesuch sowohl nach altem als auch nach neuem Recht ab. Es führte zur Begründung an, der Familiennachzug werde zweckwidrig und damit rechtsmissbräuchlich geltend gemacht. Die dagegen von den Eheleuten AX._ und BX._ im Kanton erhobenen Rechtsmittel blieben erfolglos. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 26. Februar 2010 beantragen die Eheleute AX._ und BX._ dem Bundesgericht, das in dieser Sache zuletzt ergangene Urteil des Verwaltungsgerichts des Kantons Zug vom 28. Januar 2010 aufzuheben und den "beantragten Nachzug" des Sohnes E._ zum Verbleib bei seinen Eltern zu bewilligen. Die Sicherheitsdirektion des Kantons Zug beantragt namens des Zuger Regierungsrates die Abweisung der Beschwerde. Das Verwaltungsgericht stellt den Antrag, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Das Bundesamt für Migration hat darauf verzichtet, einen Antrag zu stellen. Das kantonale Amt für Migration hat sich nicht vernehmen lassen.