Sachverhalt:
A. Der aus dem Kosovo stammende X._ (geb. 1974) reiste 1990 im Rahmen des Familiennachzugs in die Schweiz ein und erhielt eine Aufenthaltsbewilligung. Am 2. September 1999 heiratete er die kurz zuvor eingereiste Landsfrau Z._, die ihm am 14. Juli 1999 den gemeinsamen Sohn Y._ geboren hatte. Ehefrau und Sohn kehrten mangels Erteilung einer Aufenthaltsbewilligung in den Kosovo zurück. Auch X._ hatte sich damals in der Heimat aufgehalten, weshalb seine Aufenthaltsbewilligung von den Luzerner Migrationsbehörden mit Verfügung vom 24. Januar 2002 als erloschen betrachtet und er - seit Mitte 2002 rechtskräftig - aus der Schweiz weggewiesen wurde. Am 7. September 2004 liess er sich in der Heimat scheiden, nachdem er dort zum zweiten Mal Vater geworden war. Ein Gesuch um Wiedereinreise in die Schweiz scheiterte.
B. Nach trotzdem erfolgter illegaler Einreise heiratete X._ am 24. März 2005 W._ (geb. 1983), welche das Schweizer Bürgerrecht besitzt. Gestützt auf diese Ehe erhielt er schliesslich eine bis zum 24. März 2006 gültige Aufenthaltsbewilligung, dies obwohl die Eheleute bloss ein von der Ehefrau gemietetes Zimmer in Cham als gemeinsame Wohnung angegeben hatten und noch am 20. Juni 2005 bei einer Befragung übereinstimmend erklärten, sie dürften erst zusammenleben, wenn sie nach muslimischem Brauch in Weiss geheiratet hätten. Eine solche Hochzeit hat dann aber - nach Angabe der Eheleute aus finanziellen Gründen - nie stattgefunden. Am 25. August 2006 gebar W._ den Sohn V._. Als dessen Vater gilt aufgrund der gesetzlichen Vermutung von Art. 255 ZGB X._.
C. Am 3. Oktober 2006 liess sich X._ in seiner Heimat das alleinige Sorgerecht für den Sohn Y._ übertragen. Dieser war von seiner Mutter im September 2006 zu den Eltern von X._ nach Wolhusen gebracht worden. Am 15. Februar 2007 erhielt Y._ von den Zuger Migrationsbehörden eine Aufenthaltsbewilligung zum Verbleib bei seinem Vater, nachdem das Ehepaar X._-W._ auf den 1. Dezember 2006 eine Wohnung in Unterägeri gemietet hatte. Dort besuchte Y._ ab März 2007 auch den Kindergarten.
D. Am 22. Februar 2008 teilte X._ der Schulbehörde Unterägeri mit, Y._ werde künftig in Wolhusen zur Schule gehen und dort von der Grossmutter betreut werden. Er selber sei dazu aus gesundheitlichen Gründen nicht in der Lage. Daraufhin sahen sich die Zuger Migrationsbehörden veranlasst, die Eheleute im Juni 2008 erneut zu befragen. Trotz gewisser Widersprüche und Ungereimtheiten in der Befragung verlängerte das Migrationsamt des Kantons Zug am 9. April 2009 die Aufenthaltsbewilligungen von X._ und seinem Sohn Y._. W._ war zu diesem Zeitpunkt allerdings von einem Dritten schwanger: Nachdem sie am 15. Mai 2009 noch die definitive Trennung von ihrem Mann gemeldet hatte, gebar sie am 19. Juli 2009 den Sohn U._. Der Vater ist ihrer Ansicht nach T._, mit welchem sie gemäss Befragung vom 22. September 2009 "seit ca. September/Oktober 2008" eine Beziehung führte.
Auf Klage von X._ hob das Amtsgericht Luzern Land am 22. September 2009 das Kindesverhältnis zwischen diesem und U._ auf. Die Ehe X._-W._ wurde am 7. Dezember 2009 rechtskräftig geschieden. Für den - vermutungsweise (vgl. vorne lit. B) - gemeinsamen Sohn V._ erhielt X._ ein gerichtsübliches Besuchsrecht zugesprochen. Einen Vaterschaftstest hatte er verweigert.
E. X._ ist psychisch krank. Mit Verfügung der Eidgenössischen Invalidenversicherung vom 10. Februar 2009 erhielt er rückwirkend auf den 1. Juni 2007 eine ganze Invalidenrente sowie - für Y._ und V._ - zwei Kinderrenten zugesprochen.
F. Nachdem das Amt für Migration des Kantons Zug hiezu das rechtliche Gehör gewährt hatte, verlängerte es mit Verfügung vom 18. November 2010 die Aufenthaltsbewilligungen von X._ und Y._ nicht mehr und wies diese aus der Schweiz weg. Das Amt erwog im Wesentlichen, X._ könne sich für sein Aufenthaltsrecht nicht (mehr) auf die Ehe mit einer Schweizerin berufen. Ausserdem habe er sich zumindest die beiden letzten Verlängerungen der Aufenthaltsbewilligungen mittels Verschweigen wesentlicher Tatsachen erschlichen.
Die gegen diese Verfügung erhobene Beschwerde beim Regierungsrat des Kantons Zug blieb erfolglos, und mit Urteil vom 27. September 2011 wies das Verwaltungsgericht die gegen den regierungsrätlichen Beschluss vom 5. April 2011 erhobene Beschwerde ebenfalls ab.
G. Mit gemeinsamer Eingabe vom 10. November 2011 führen X._ und Y._ - unter Vorlage neuer ärztlicher Zeugnisse - Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit den Anträgen, das letztgenannte Urteil sowie die ihm vorangegangenen Erkenntnisse aufzuheben und die Aufenthaltsbewilligung angemessen zu verlängern, eventuell sei die Sache "zur Beweisergänzung" an die Vorinstanz zurückzuweisen.
Das Amt für Migration des Kantons Zug hat sich nicht vernehmen lassen. Die Sicherheitsdirektion des Kantons Zug verweist - für den Regierungsrat - auf den angefochtenen Entscheid. Das Verwaltungsgericht des Kantons Zug beantragt - wie das Bundesamt für Migration - Abweisung der Beschwerde.
Mit Eingaben vom 5. März 2012 und 11. Mai 2012 hat sich X._ noch einmal geäussert und dem Bundesgericht weitere neue ärztliche Zeugnisse vorgelegt.
Erwägungen:
1. Auf dem Gebiet des Ausländerrechts ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide ausgeschlossen, welche Bewilligungen betreffen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumen (Art. 83 lit. c Ziff. 2 BGG). Für das Eintreten genügt, wenn der Betroffene in vertretbarer Weise dartut, dass potenziell ein Anspruch auf die Bewilligung besteht; ob die jeweiligen Voraussetzungen tatsächlich gegeben sind, bildet Gegenstand der materiellen Beurteilung (BGE 136 II 177 E. 1.1 S. 179 f., 497 E. 3.3 S. 500 f.).
Gemäss Art. 42 Abs. 1 des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG, SR 142.20) haben ausländische Ehegatten und ledige Kinder unter 18 Jahren von Schweizerinnen und Schweizern Anspruch auf Erteilung der Aufenthaltsbewilligung, wenn sie mit diesen zusammenwohnen. Der Bewilligungsanspruch besteht trotz Auflösens bzw. definitiven Scheiterns der Ehegemeinschaft fort, wenn diese mindestens drei Jahre gedauert und die betroffene ausländische Person sich hier zudem erfolgreich integriert hat (Art. 50 Abs. 1 lit. a AuG, BGE 136 II 113 E. 3.3.3). Überdies hat der Gesetzgeber als nachehelichen ausländerrechtlichen Härtefall (vgl. dazu BGE 137 II 345) einen Rechtsanspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung auch für den Fall vorgesehen, dass "wichtige persönliche Gründe" einen "weiteren Aufenthalt in der Schweiz erforderlich machen" (Art. 50 Abs. 1 lit. b AuG).
Der Beschwerdeführer 1 äussert sich nicht ausdrücklich zur Zulässigkeit der Beschwerde, beruft sich aber in der Begründung in vertretbarer Weise auf Art. 50 AuG. Insoweit ist auf das Rechtsmittel einzutreten. Nicht eingetreten werden kann auf die Beschwerde hingegen, soweit damit die Aufhebung des Verwaltungsbeschwerdeentscheides (vom 5. April 2011) bzw. der diesem zugrunde liegenden Verfügung vom 16. November 2010 verlangt wird (Devolutiveffekt, vgl. BGE 134 II 142 E. 1.4 S. 144).
2. 2.1 Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es legt seinem Urteil die Sachverhaltsfeststellungen der Vorinstanz zugrunde (Art. 105 Abs. 1 BGG). Mit einer Beschwerde in öffentlich-rechtlichen Angelegenheiten können diese nur dann gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich sind (BGE 133 II 249 E. 1.2.2 S. 252; 133 III 393 E. 7.1 S. 398) oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG (beispielsweise durch Missachtung des Anspruchs auf rechtliches Gehör) beruhen. Zudem ist vom Beschwerdeführer aufzuzeigen, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Demzufolge genügt es nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten. Vielmehr ist in der Beschwerdeschrift darzulegen, inwiefern diese Feststellungen willkürlich bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen sind (BGE 133 II 249 E. 1.4.3 S. 254).
Der Beschwerdeführer begnügt sich über weite Strecken damit, in der Eingabe an das Bundesgericht lediglich seine Sicht der Dinge wiederzugeben und an den eigenen Sachverhaltsdarlegungen vor dem Verwaltungsgericht festzuhalten. Insoweit genügt er seiner Rügepflicht nicht, und auf entsprechende Ausführungen ist nicht weiter einzugehen.
2.2 Das Vorbringen von neuen Tatsachen oder Beweismitteln ist nur insofern möglich, als erst der Entscheid der Vorinstanz dazu Anlass gegeben hat (Art. 99 Abs. 1 BGG, vgl. BGE 135 I 143 E. 1.5 S. 146 f.). Tatsachen oder Beweismittel, welche sich auf das vorinstanzliche Prozessthema beziehen, sich jedoch erst nach dem angefochtenen Entscheid ereigneten oder entstanden sind, können von vornherein nicht durch das angefochtene Urteil veranlasst worden sein (vgl. Urteil 2C_94/2009 vom 16. Juni 2009, E.2.2). Soweit sich der Beschwerdeführer auf solche Beweismittel beruft (es betrifft dies namentlich jene zu seinem aktuellen Gesundheitszustand, vgl. vorne lit. G, am Ende), handelt es sich um so genannte "echte Noven", welche im bundesgerichtlichen Verfahren in jedem Fall unzulässig sind (BGE 133 IV 342 E. 2.1 S. 344).
2.3 Im Bereich der Beweiswürdigung steht dem Sachgericht ein erheblicher Ermessensspielraum zu (BGE 120 Ia 31 E. 4b S. 40). Nach der Rechtsprechung kann es ausserdem das Beweisverfahren schliessen, wenn die Beweisanträge eine nicht erhebliche Tatsache betreffen oder offensichtlich untauglich sind oder wenn es aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener Beweiswürdigung annehmen kann, dass seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde. Das Bundesgericht greift nur ein, wenn die Beweiswürdigung offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, auf einem offensichtlichen Versehen beruht oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 130 II 425 E. 2.1 S. 428; 124 I 208 E. 4a S. 211).
Der Beschwerdeführer rügt, das Verwaltungsgericht hätte nicht auf die beantragte Einvernahme des Hauswartes (in Unterägeri) sowie der Ehefrau und deren Eltern verzichten dürfen. Dies wird nach den soeben dargelegten Grundsätzen zur vorweggenommenen Beweiswürdigung nachfolgend zu prüfen sein.
3. Soweit sich der Beschwerdeführer auf Art. 6 Abs. 3 lit. d EMRK (Recht auf ein faires Verfahren/Ladung und Vernehmung von Entlastungszeugen) beruft, tut er dies offensichtlich zu Unrecht: Diese Bestimmung gilt nur für strafrechtliche Anklagen (vgl. Art. 6 Abs. 1 und Abs. 3 [Ingress] EMRK); um eine solche handelt es sich hier nicht. Soweit er - mit hinreichender Begründung (vgl. dazu vorne E. 2.1) - eine Verletzung von Art. 29 Abs. 2 BV (Anspruch auf rechtliches Gehör) geltende macht, ist dies im Zusammenhang mit den einzelnen Vorbringen (dazu nachfolgend E. 4 und 5) zu prüfen.
4. 4.1 Nach Art. 50 Abs. 1 lit. a AuG ist nach Auflösung der Ehe oder der Familiengemeinschaft der Anspruch des Ehegatten auf Verlängerung der Aufenthaltsbewilligung nach den Art. 42 und 43 u.a. davon abhängig, ob die Ehegemeinschaft mindestens drei Jahre bestanden hat (vgl. vorne E. 1). Für die Berechnung der Dreijahresfrist ist vor allem auf die Dauer der nach aussen wahrnehmbaren ehelichen Wohngemeinschaft abzustellen. Diese manifestiert sich in der gemeinsamen Wohnung (vgl. Urteil 2C_544/2010 vom 23. Dezember 2010, E. 2.2).
Das Verwaltungsgericht stellte vorliegend fest, das eheliche Zusammenleben habe weniger als drei Jahre gedauert; es habe nämlich nicht vor dem 1. Dezember 2006 (Datum des Bezugs der gemeinsamen Wohnung in Unterägeri) begonnen und es sei ca. im Sommer 2008 beendet worden.
Diese Feststellungen sind nicht offensichtlich unrichtig: Zwar waren die Eheleute bereits seit dem 24. März 2005 verheiratet. Das Verwaltungsgericht durfte angesichts der gesamten Umstände (Wohnverhältnisse, übereinstimmende Aussagen der Eheleute, wonach sie erst nach der "Weissen Hochzeit" zusammenleben dürften, Aussage der Ehefrau, dass der im Sommer 2006 geborene Sohn V._ nicht von ihrem Ehemann stamme, vgl. vorne lit. B und D) jedoch willkürfrei davon ausgehen, dass X._ und W._ erst mit dem Bezug der gemeinsamen Wohnung in Unterägeri im Dezember 2006 eine Ehegemeinschaft aufgenommen hatten.
Der Beschwerdeführer rügt als Verletzung seines Anspruchs auf rechtliches Gehör, dass - obwohl ausdrücklich beantragt - der Hauswart in Unterägeri nicht angehört worden sei, welcher bezeugen könne, dass die Eheleute "über Jahre" gemeinsam dort gewohnt hätten.
Der Beschwerdeführer bestreitet nicht, dass die Wohnung in Unterägeri erst ab dem 1. Dezember 2006 angemietet wurde. Der dortige Hauswart hätte also erst ab diesem Zeitpunkt etwas über die Eheleute berichten können. Sodann meldete sich W._ am 15. Mai 2009 - unter Hinweis auf die Trennung vom Ehemann - bei der Einwohnerkontrolle Unterägeri nach Kriens ab. Der Hauswart hätte deshalb auch nur bis zu diesem Zeitpunkt etwas zur Beziehung der Eheleute aussagen können, womit die von Art. 50 Abs. 1 lit. a AuG geforderte dreijährige Ehegemeinschaft aber immer noch nicht erreicht worden wäre.
Unter diesen Umständen durfte die Vorinstanz in zulässiger antizipierter Beweiswürdigung auf die Einvernahme des Hauswartes verzichten (vorne E. 2.3).
Dasselbe gilt mit Bezug auf die beantragte Befragung der Ehefrau bzw. deren Eltern: Die Ehefrau selber war in den Verfahren um Verlängerung der Aufenthaltsbewilligung regelmässig befragt worden, und die Auffassung des Verwaltungsgerichts, es lägen diverse Befragungsprotokolle der unter Wahrheitspflicht stehenden Betroffenen vor, weshalb von einer Anhörung der übrigen angebotenen Zeugen abgesehen werden könne (angefochtener Entscheid S. 17), erscheint nicht unhaltbar. Der Verzicht auf eine persönliche Einvernahme der Ehefrau und deren Eltern durch das Verwaltungsgericht verletzt den Anspruch des Beschwerdeführers auf rechtliches Gehör daher nicht.
4.2 Damit sind die Feststellungen des Verwaltungsgerichts zur Dauer der Ehegemeinschaft für das Bundesgericht verbindlich. Hat diese aber nicht drei Jahre gedauert, besteht kein fortdauernder Anspruch auf Verlängerung der Aufenthaltsbewilligung im Sinne von Art. 50 Abs. 1 lit. a AuG. Ausführungen des Beschwerdeführers, welche das Vorliegen einer Scheinehe bestreiten, sind dafür unerheblich.
5. Es bleibt zu prüfen, ob der Beschwerdeführer einen nachehelichen Härtefall im Sinne von Art. 50 Abs.1 lit. b AuG geltend machen kann, was die Vorinstanz ebenfalls verneint hat.
5.1 Gemäss Art. 50 Abs. 1 lit. b AuG besteht nach Auflösung der Familiengemeinschaft der Anspruch des Ehegatten auf Bewilligung weiter, wenn wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen. Art. 50 Abs. 1 lit. b AuG ist für Situationen gedacht, in denen die Voraussetzungen gemäss Art. 50 Abs. 1 lit. a AuG nicht erfüllt sind, aber - aufgrund sämtlicher weiterer Umstände - eine Härtefallsituation vorliegt, welche früher im Rahmen von Art. 13 lit. f der Verordnung vom 6. Oktober 1986 über die Begrenzung der Zahl der Ausländer (BVO; AS 1986 1791) hätte berücksichtigt werden können.
Die "wichtigen persönlichen Gründe" nach Art. 50 Abs. 1 lit. b AuG müssen den weiteren Aufenthalt "erforderlich" machen. Nach Art. 50 Abs. 2 AuG und der bundesgerichtlichen Rechtsprechung dazu (vgl. BGE 137 II 345 E. 3 S. 346 ff., 136 II 1 E. 5 S. 3 ff.) kann dies namentlich der Fall sein, wenn die ausländische Person mit abgeleitetem Aufenthaltsrecht Opfer ehelicher Gewalt geworden ist oder wenn ihre soziale Wiedereingliederung im Herkunftsland stark gefährdet erscheint. Mögliche weitere Anwendungsfälle bilden (gescheiterte) unter Zwang eingegangene Ehen oder solche im Zusammenhang mit Menschenhandel. Der Verbleib in der Schweiz kann sich zudem auch dann als erforderlich erweisen, wenn der Ehegatte, von dem sich die Aufenthaltsberechtigung ableitet, verstirbt (vgl. BGE 137 II 1 E. 3 und 4 S. 3 ff.).
Entscheidend ist, ob die persönliche, berufliche und familiäre Wiedereingliederung als stark gefährdet zu gelten hat und nicht ob ein Leben in der Schweiz einfacher wäre (Urteil 2C_216/2009 vom 20. August 2009 E. 3). Ein persönlicher, nachehelicher Härtefall setzt aufgrund der konkreten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben der ausländischen Person voraus, die mit ihrer Lebenssituation nach dem Dahinfallen der gestützt auf Art. 42 Abs. 1 bzw. Art. 43 Abs. 1 AuG abgeleiteten Anwesenheitsberechtigung verbunden sind. Da Art. 50 Abs. 1 AuG von einem Weiterbestehen des Anspruchs nach Art. 42 und Art. 43 AuG spricht, muss der Härtefall sich auf die Ehe und den damit verbundenen Aufenthalt beziehen (BGE 137 II 345 E. 3.2.3 S. 350).
Im Rahmen von Art. 50 Abs. 1 lit. b AuG sind auch die Interessen der gemeinsamen Kinder zu berücksichtigen, zu denen eine enge Beziehung besteht und die in der Schweiz gut integriert sind (Botschaft AuG, BBl 2002 3709 Ziff. 1.3.7.6 S. 3754; BGE 2C_784/2010 vom 26. Mai 2011 E. 3.2.2; Urteil 2C_830/2010 vom 10. Juni 2011 E. 3.1.3). Dabei ist den verfassungsrechtlichen bzw. staatsvertraglichen Ansprüchen auf Erteilung bzw. Verlängerung der Aufenthaltsbewilligung (Art. 8 EMRK bzw. Art. 13 BV) Rechnung zu tragen (Urteile 2C_327/2010 vom 19. Mai 2011 E. 2.2, nicht publ. in: BGE 137 I 247; 2C_173/2011 vom 24. Juni 2011 E. 4.3).
Auch der Elternteil, der nicht über das Sorge- oder Obhutsrecht verfügt, kann sich zwar auf Art. 8 EMRK berufen, doch ist im Rahmen der Interessenabwägung zu berücksichtigen, dass er die familiäre Beziehung mit seinen Kindern schon aus zivilrechtlichen Gründen von vornherein nur in einem beschränkten Rahmen leben kann, nämlich durch Ausübung des ihm eingeräumten Besuchsrechts. Hierzu ist grundsätzlich nicht erforderlich, dass er dauernd im gleichen Land wie das Kind lebt und dort über eine Aufenthaltsbewilligung verfügt. Ein Anspruch auf Erteilung einer Aufenthaltsbewilligung ist ausnahmsweise dann zu bejahen, wenn zwischen dem Ausländer und dessen Kindern in wirtschaftlicher und affektiver Hinsicht besonders enge Beziehungen bestehen, die - würde eine Bewilligung verweigert - wegen der Distanz zwischen der Schweiz und dem Land, in welches der Ausländer vermutlich auszureisen hätte, praktisch nicht aufrechterhalten werden könnten. Zudem muss sich der Ausländer tadellos verhalten haben (vgl. Urteil 2C_578/2011 vom 1. Dezember 2011, E. 3.4.3 mit Hinweisen).
5.2 Das Verwaltungsgericht hat, zum Teil unter Verweis auf die vorinstanzlichen Entscheide, eine besonders enge Beziehung zwischen dem Beschwerdeführer und V._ - zu welchem aufgrund der Vermutung von Art. 255 ZGB ein Kindesverhältnis besteht (was als zivilrechtliche Vorgabe von den Migrationsbehörden anzuerkennen ist, so lange sie nicht auf den dort vorgesehenen Rechtswegen abgeändert wurde [vgl. Urteil 2C_234/2010 vom 11. Juli 2011 E. 2.4.2]) - verneint. Der Beschwerdeführer bringt nichts vor, was diese Feststellung als offensichtlich unrichtig erscheinen liesse. Er macht selber geltend (S. 11 der Beschwerdeschrift), dass er - wenn es seine psychische Gesundheit zulasse - das Besuchsrecht "jedes 2. Wochenende" ausübe. Damit kann von einer besonders engen Beziehung zum Kind V._, die in die Härtefallprüfung nach Art. 50 Abs.1 lit. b AuG einfliessen müsste, nicht die Rede sein.
5.3 Der Beschwerdeführer leidet an einer schweren psychotischen Erkrankung und an einer posttraumatischen Belastungsstörung. Bereits vor der Vorinstanz hat er - unter Berufung auf seinen Hausarzt - geltend gemacht, eine adäquate, absolut dringliche Behandlung seiner Krankheit sei im Kosovo schlicht nicht möglich.
Das Verwaltungsgericht hat die Erkrankung des Beschwerdeführers nicht ausser Acht gelassen, aber zu Recht festgehalten, dass im Kosovo auch eine psychiatrische medizinische Versorgung inklusive der notwendigen Medikamente angeboten wird (vgl. Urteile 2D_56/2010 vom 26. Mai 2011, E. 4.3, 9C_329/2011 vom 27. September 2011, lit. A, 8C_567/2011 vom 3. Januar 2012, lit. A.b; ebenso schon das Urteil U 430/04 vom 14. April 2005, lit. A.a). Der blosse Umstand, dass das Gesundheits- oder Sozialversicherungswesen in einem anderen Staat allenfalls nicht mit demjenigen in der Schweiz vergleichbar ist und die hiesige medizinische Versorgung einem höheren Standard entspricht, kann nicht die Unzumutbarkeit der Rückreise zur Folge haben (BGE 128 II 200 E. 5.3, Urteile 2C_833/2011 vom 6. Juni 2011, E. 3.3.2, 2C_113/2009 vom 30. Juni 2009, E. 3.2, und 2C_216/2009 vom 20. August 2009, E. 4.2); soweit die psychiatrische Versorgung im Kosovo allenfalls nicht den gleichen Standard wie hierzulande erreicht, steht damit auch nicht eine starke Gefährdung der Wiedereingliederung im Herkunftsland im Sinne von Art. 50 Abs. 2 AuG in Frage.
5.4 Damit ist ebenso der nacheheliche Härtefall im Sinne von Art. 50 Abs. 1 lit. b in Verbindung mit Art. 50 Abs. 2 AuG zu verneinen, und den vom Beschwerdeführer angestellten Überlegungen zur Verhältnismässigkeit einer Nichtverlängerung der Aufenthaltsbewilligung ist nicht weiter nachzugehen; diese haben neben dem im Rahmen von Art. 50 Abs. 1 lit. b AuG zu prüfenden Umständen keine selbständige Bedeutung.
6. Nach dem Gesagten hat der Beschwerdeführer, dessen Ehe aufgelöst worden ist, keinen fortbestehenden Anspruch auf Verlängerung seiner Aufenthaltsbewilligung im Sinne von Art. 50 AuG. Daher ist irrelevant, ob ein solcher allfälliger Anspruch im Sinne von Art. 51 Abs. 2 lit b in Verbindung mit Art. 62 lit. a AuG (Falschangaben im Bewilligungsverfahren bzw. Verschweigen wesentlicher Tatsachen) erloschen wäre.
Steht dem Beschwerdeführer X._ nach dem Gesagten heute kein Anspruch auf eine Anwesenheitsbewilligung in der Schweiz zu, entfällt auch jede Grundlage für einen entsprechenden Anspruch seines Sohnes Y._, da dieser nur ein vom Vater abgeleitetes Anwesenheitsrecht besitzt (vgl. Art. 44 AuG).
7. Die Beschwerde ist als unbegründet abzuweisen, soweit darauf eingetreten werden kann.
Diesem Ausgang entsprechend haben die Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 f. BGG). Es sind keine Parteientschädigungen geschuldet (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern auferlegt.
3. Dieses Urteil wird den Beschwerdeführern, dem Amt für Migration, dem Regierungsrat und dem Verwaltungsgericht (Verwaltungsrechtliche Kammer) des Kantons Zug sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 22. Juni 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Klopfenstein