Sachverhalt:
A. X._ (geb. 1984), von Serbien und Montenegro, ist in der Schweiz geboren und im Besitz der Niederlassungsbewilligung. Er ist hier aufgewachsen, hat die hiesigen Schulen besucht und spricht neben seiner Muttersprache Albanisch auch Deutsch. Gemäss seinen eigenen Angaben absolvierte er nach der Schule ein Praktikum bei der Firma A._ und arbeitete später als Aushilfe bei der Post. 2009 und 2010 bezog er Taggelder der Arbeitslosenversicherung. Seine letzte Stelle (auf Abruf) bei einer Reinigungsfirma verlor er durch deren Konkurs im Jahre 2011. Er hat Schulden von rund Fr. 35'000.--.
B. X._ hatte am 29. August 2003 die 1985 geborene Y._ geheiratet, welche das Schweizer Bürgerrecht besitzt. Das Paar hat den gemeinsamen Sohn Z._ (geb. 2008).
Am 10. Juli 2010 wurde die Ehe geschieden und Z._ unter die elterliche Sorge der Mutter gestellt. X._ wurde zu Unterhaltszahlungen von monatlich Fr. 500.-- an sein Kind verpflichtet und erhielt ein gerichtsübliches Besuchsrecht zugesprochen.
C. Am 29. September 2010 wurde X._ vom Strafgericht Schwyz - namentlich zum Nachteil der ehemaligen Ehefrau - wie folgt schuldig gesprochen:
der mehrfachen Gefährdung des Lebens (Art. 129 StGB),
der mehrfachen Tätlichkeiten (Art. 126 StGB),
der mehrfachen Drohung (Art. 180 StGB),
der Nötigung (Art. 181 StGB),
der Freiheitsberaubung und Entführung (Art. 183 StGB),
des Vergehens gegen das Waffengesetz und seine Ausführungsvorschriften.
Das Strafgericht Schwyz bestrafte X._ für diese Delikte mit einer Freiheitsstrafe von 2 Jahren und 6 Monaten. Der Vollzug der Freiheitsstrafe wurde im Umfang von 24 Monaten aufgeschoben.
D. Nachdem es hierzu das rechtliche Gehör gewährt hatte, widerrief das Amt für Migration des Kantons Schwyz am 15. März 2011 die Niederlassungsbewilligung von X._ und wies diesen aus der Schweiz weg. Die gegen diese Verfügung beim Regierungsrat des Kantons Schwyz erhobene Beschwerde blieb erfolglos, und mit Urteil vom 23. November 2011 wies das Verwaltungsgericht des Kantons Schwyz die gegen den regierungsrätlichen Beschluss vom 6. September 2011 erhobene Beschwerde im Sinne der Erwägungen ab.
E. Mit Eingabe vom 11. Januar 2011 führt X._ "Beschwerde in öffentlich-rechtlichen Angelegenheiten; evtl. subsidiäre Verfassungsbeschwerde" beim Bundesgericht mit den Anträgen, das letztgenannte Urteil aufzuheben, vom Widerruf der Niederlassungsbewilligung abzusehen (evtl. auf zwei Jahre zu befristen), und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Gleichzeitig wird um unentgeltliche Rechtspflege und Verbeiständung ersucht.
Der Regierungsrat des Kantons Schwyz beantragt, die Beschwerde abzuweisen. Das Verwaltungsgericht des Kantons Schwyz verzichtet auf Vernehmlassung. Das Bundesamt für Migration schliesst auf Abweisung der Beschwerde.
Der Beschwerdeführer hat von der Möglichkeit, sich nochmals zu äussern, keinen Gebrauch gemacht.
F. Mit Verfügung vom 16. Januar 2012 hat der Abteilungspräsident der Beschwerde - antragsgemäss - aufschiebende Wirkung zuerkannt.

Erwägungen:
1. 1.1 Das Bundesgericht prüft seine Zuständigkeit bzw. die Art und Zulässigkeit von Rechtsmitteln von Amtes wegen und mit freier Kognition (vgl. Art. 29 Abs. 1 BGG; <ref-ruling> E. 2 S. 188, 300 E. 1.2 S. 302; je mit Hinweisen). Vorweg ist die Zulässigkeit der Beschwerde in öffentlich-rechtlichen Angelegenheiten gemäss Art. 82 ff. BGG zu prüfen, welche gegenüber der subsidiären Verfassungsbeschwerde das prinzipale Rechtsmittel darstellt (vgl. Art. 113 BGG: "soweit keine Beschwerde nach den Artikeln 72-89 zulässig ist").
1.2 Gemäss Art. 83 lit. c Ziff. 2 BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten auf dem Gebiet des Ausländerrechts unzulässig gegen Entscheide betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt. Ebenso wenig ist sie zulässig gegen die Wegweisung (Art. 83 lit. c Ziff. 4 BGG)
Gegen kantonal letztinstanzliche Entscheide über den Widerruf der Niederlassungsbewilligung ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten hingegen zulässig (Art. 82 lit. a, Art. 83 lit. c Ziff. 2 [e contrario] und Art. 86 Abs. 1 lit. d BGG; <ref-ruling> E. 1.2.1 S. 4), und der Beschwerdeführer ist zur Ergreifung dieses Rechtsmittels befugt (Art. 89 BGG).
Soweit sich der Beschwerdeführer daher gegen den Bewilligungswiderruf wendet, ist seine Eingabe als Beschwerde in öffentlich-rechtlichen Angelegenheiten entgegenzunehmen und zu behandeln; für die subsidiäre Verfassungsbeschwerde besteht insoweit kein Raum (vgl. Art. 113 BGG). Soweit er sich gegen die ihm auferlegte Ausreiseverpflichtung zur Wehr setzt, ist hingegen auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht einzutreten und steht dem Beschwerdeführer diesbezüglich - unter gewissen Voraussetzungen (vgl. <ref-ruling>) - die subsidiäre Verfassungsbeschwerde offen (dazu nachfolgend E. 4).
2. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es legt seinem Urteil die Sachverhaltsfeststellungen der Vorinstanz zugrunde (Art. 105 Abs. 1 BGG). Mit einer Beschwerde in öffentlich-rechtlichen Angelegenheiten können diese nur dann gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich sind (<ref-ruling> E. 1.2.2 S. 252; <ref-ruling> E. 7.1 S. 398) oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen. Zudem ist vom Beschwerdeführer aufzuzeigen, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG).
3. 3.1 Nach Art. 63 Abs. 1 lit. a (in Verbindung mit Art. 62 lit. b) und Art. 63 Abs. 2 des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) kann die Niederlassungsbewilligung auch nach einem - wie hier - länger als 15 Jahre dauernden ununterbrochenen und ordnungsgemässen Aufenthalt in der Schweiz widerrufen werden, wenn der Ausländer zu einer längerfristigen Freiheitsstrafe verurteilt wurde. Als längerfristig gilt eine Freiheitsstrafe von mehr als einem Jahr (<ref-ruling> E. 4.2 S. 379 ff.). Wird diese Grenze erreicht, spielt es keine Rolle, ob die Freiheitsstrafe bedingt, teilbedingt oder unbedingt ausgesprochen wurde (Urteil 2C_515/2009 vom 27. Januar 2010 E. 2.1).
3.2 Wenn ein Ausländer durch sein Verhalten einen Widerrufsgrund gesetzt hat, bleibt zu prüfen, ob diese Massnahme auch als verhältnismässig erscheint. Dabei sind namentlich die Schwere des Verschuldens, der Grad der Integration sowie die dem Betroffenen drohenden Nachteile zu berücksichtigen (<ref-ruling> E. 4.3 ff. S. 381 ff.; vgl. auch Art. 96 Abs. 1 AuG). Nach der Rechtsprechung des Bundesgerichts zu dieser gesetzlichen Regelung und zu den analogen früheren Bestimmungen (Art. 10 Abs. 1 lit. a und Art. 11 Abs. 3 des Bundesgesetzes vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer [ANAG; in Kraft gewesen bis zum 31. Dezember 2007]) sind umso strengere Anforderungen an eine fremdenpolizeiliche Massnahme zu stellen, je länger ein Ausländer in der Schweiz anwesend war. Selbst bei einem Ausländer, der bereits hier geboren ist und sein ganzes bisheriges Leben in der Schweiz verbracht hat (Ausländer der zweiten Generation), sind fremdenpolizeiliche Massnahmen aber nicht ausgeschlossen; bei schweren bzw. wiederholten Straftaten, insbesondere bei Gewalt- und Betäubungsmitteldelikten, besteht hieran ein wesentliches öffentliches Interesse (<ref-ruling> E. 2c S. 436; <ref-ruling> E. 4.4.2 S. 190).
Die Notwendigkeit einer Verhältnismässigkeitsprüfung ergibt sich auch aus Art. 8 Ziff. 2 EMRK: Danach ist ein Eingriff in das von Art. 8 Ziff. 1 EMRK geschützte Privat- und Familienleben dann statthaft, wenn er gesetzlich vorgesehen ist und eine Massnahme darstellt, die in einer demokratischen Gesellschaft für die nationale Sicherheit, die öffentliche Ordnung, das wirtschaftliche Wohl des Landes, die Verteidigung der Ordnung oder zur Verhinderung von strafbaren Handlungen, zum Schutz der Gesundheit und Moral sowie der Rechte und Freiheiten anderer notwendig erscheint. Bei der Interessenabwägung im Rahmen von Art. 8 Ziff. 2 EMRK sind - wie früher bei jener nach Art. 11 Abs. 3 ANAG - die Schwere des begangenen Delikts, der seit der Tat vergangene Zeitraum, das Verhalten des Ausländers während dieser Periode, die Auswirkungen auf die primär betroffene Person sowie deren familiäre Situation zu berücksichtigen (<ref-ruling> E. 4.3 S. 381).
3.3 Der Beschwerdeführer bestreitet das Vorliegen eines Widerrufsgrundes im Sinne von Art. 63 Abs. 1 lit. a in Verbindung mit Art. 63 Abs. 2 AuG zu Recht nicht. Er macht aber eine qualifiziert falsche Interessenabwägung geltend und trägt vor, die Verhältnismässigkeitsprüfung sei "zu einseitig" ausgefallen. So sei die Ursache der strafbaren Handlung, nämlich das Verhalten der damaligen Ehefrau, "völlig ausgeblendet" worden. Es habe sich um "ein Beziehungsdelikt von individuellem Ausmass" gehandelt, "schlicht und einfach um einen Ehekonflikt"; das Gewaltpotential gegenüber der Öffentlichkeit müsse stark relativiert werden. Sodann macht der Beschwerdeführer geltend, er habe seine ganze Kindheit und Jugendzeit in der Schweiz verbracht und sei hier "sehr gut integriert"; wogegen es für ihn "überhaupt nicht zumutbar" erscheine, sich im "Heimatstaat Serbien eine Zukunft aufzubauen". Schliesslich pflege er sehr wohl einen engen Kontakt zu seinem Sohn, wobei die Vorinstanz es rechtswidrig unterlassen habe, offerierte diesbezügliche Beweise (namentlich die Befragung von Nachbarn, Eltern und Geschwistern) abzunehmen.
3.4 Das Bundesgericht hatte sich in letzter Zeit verschiedentlich mit ausländerrechtlichen Massnahmen gegen "Ausländer der zweiten Generation" zu befassen. So hat es etwa die Ausweisung des Betroffenen bzw. den Entzug der entsprechenden Anwesenheitsbewilligung geschützt
im Urteil 2A.30/2005 vom 21. Juni 2005: Hier ging es um einen Italiener, der zwar sein ganzes Leben in der Schweiz verbracht hatte, aber schlecht integriert erschien (Freiheitsstrafen von insgesamt fünf Jahren wegen qualifizierten Betäubungsmitteldelikten und gewerbsmässigem Diebstahl). Das Bundesgericht kam zum Schluss, die Lebensumstände in Italien seien mit denjenigen in der Schweiz vergleichbar.
im Urteil 2C_494/2007 vom 17. Dezember 2007: Dieser Fall betraf einen Mazedonier, der über einen längeren Zeitraum mit zunehmender Intensität zahlreiche wiederholte Delikte begangen hatte, schlecht integriert erschien und nicht über eine Kernfamilie in der Schweiz verfügte.
im Urteil 2C_318/2010 vom 16. Dezember 2010: Betroffen war ein Türke mit mehreren strafrechtlichen Verurteilungen (darunter eine Freiheitsstrafe von viereinhalb Jahren wegen Körperverletzung, Pornographie und Verstössen gegen das BetmG [begangen mit 20 Jahren]), der über keine besonderen Beziehungen zur Schweiz verfügte, kinderlos war und dessen Verwandte in der Heimat lebten.
im Urteil 2C_41/2011 vom 30. Juni 2011: Widerrufen worden war die Niederlassungsbewilligung eines in der Schweiz geborenen Italieners, der 39 Verurteilungen (je bis zu 18 Monate bedingt) wegen Verstössen gegen das BetmG (inkl. Raub, Diebstahl und Körperverletzung) erwirkt hatte.
im Urteil 2C_432/2011 vom 13. Oktober 2011: Hier erachtete das Bundesgericht den Widerruf der Bewilligung wegen besonderer Schwere der Tat für gerechtfertigt (sieben Jahre und drei Monate Freiheitsstrafe wegen Körperverletzung und Raub; Kosovare, ledig, kinderlos, ganze Familie in der Schweiz).
im Urteil 2C_562/2011 vom 21. November 2011: Das Bundesgericht entschied, der Widerruf der Niederlassungsbewilligung eines in der Schweiz geborenen, 43-jährigen Türken (ledig, kinderlos, mehrere Verurteilungen [u.a. Freiheitsstrafe von drei Jahren wegen versuchter vorsätzlicher Tötung in Putativnotwehr]) erweise sich als bundesrechts- und konventionskonform.
im Urteil 2C_839/2011 vom 28. Februar 2012: Bei diesem in der Schweiz geborenen Österreicher blieben sämtliche strafrechtlichen Massnahmen (insgesamt sechseinhalb Jahre Freiheitsstrafe wegen Vermögens- und Urkundendelikten) ohne Erfolg.
im Urteil 2C_714/2011 vom 4. April 2012: Hier erachtete das Bundesgericht die Beschwerde eines ledigen, kinderlosen Kroaten (Freiheitsstrafen von 15 und 16 Monaten [u.a. Verstösse gegen das BetmG, Hausfriedensbruch, Diebstahl]) als offensichtlich unbegründet.
Hingegen hat das Bundesgericht die Angelegenheit zur ergänzenden Abklärung bzw. Feststellung des Sachverhalts zurückgewiesen
im Urteil 2A.247/2005 vom 17. Oktober 2005 wegen ungenügender Abklärung der Lebenssituation des Betroffenen (Türke, wiederholte Verurteilungen [insgesamt fünf Jahre und neun Monate Freiheitsstrafe u.a. wegen Betäubungsmittelhandel, keine Gewaltdelikte]).
im Urteil 2C_18/2009 vom 7. September 2009: In diesem Fall ging es um einen seit seinem 2. Altersjahr in der Schweiz lebenden Mazedonier, der mehrere Verurteilungen wegen jahrelangem deliktischen Verhalten erwirkt hatte (die schwersten aber - Sexualdelikte - im Jugendalter). Das Bundesgericht erachtete die seither eingetretene Besserung (durch Drogenentzug bzw. Therapie) und die berufliche Situation des Betroffenen für zu wenig abgeklärt.
im Urteil 2C_722/2010 vom 3. Mai 2011 wegen ungenügender Abklärung/Nichtberücksichtigung der gesundheitlichen Situation des Betroffenen (herzkranker Kosovare, Freiheitsstrafen von zwei Jahren und zwei Monaten [Diebstahl, Drohung, Körperverletzung]).
3.5 Im Vergleich mit der soeben dargestellten neueren Kasuistik zu ausländerrechtlichen Massnahmen gegenüber den so genannten "Ausländern der zweiten Generation" erscheint die vorliegend zu beurteilende Konstellation als Grenzfall:
3.5.1 Mit dem Beschwerdeführer ist darin übereinzustimmen, dass es sich beim begangenen Delikt wohl in der Tat um ein individuelles Beziehungsdelikt gehandelt hat. Das Delikt selber aber wiegt schwer und zeugt von einem grossen Gewaltpotential: Gemäss der von der Vorinstanz wiedergegebenen Sachverhaltsdarstellung des kantonalen Strafgerichts im Urteil vom 29. September 2010 hat der Beschwerdeführer seine damalige Ehefrau - nachdem er von dieser aufgefordert worden war, aus der gemeinsamen Wohnung auszuziehen - während mehr als vier Stunden schwer drangsaliert, sie mehrfach gewürgt, ihr mit dem Tod gedroht und durch das direkte Ansetzen eines Brotmessers (mit gewelltem Schliff) an ihren Hals eine unmittelbare Lebensgefährdung zumindest in Kauf genommen. Ferner trat er seine Frau in den Rücken, schloss sie - während er zwischenzeitlich alkoholische Getränke holte - in der Wohnung ein, gab ihr später eine "Kopfnuss" und würgte sie erneut.
Dieses Verhalten sprengt den Rahmen eines nachvollziehbaren Ehestreits bei Weitem und offenbart eine erhebliche verbrecherische Gesinnung, die sich auch gegen andere richten könnte.
3.5.2 Zu Lasten des Beschwerdeführers fällt zudem erschwerend ins Gewicht, dass sich dessen deliktisches Verhalten nicht etwa bloss in diesem einmaligen Vorfall erschöpft: Er wurde auch wegen unerlaubten Waffenbesitzes verurteilt, weil bei ihm zwei Gewehre samt Munition (davon ein Kleinkalibergewehr mit Zielfernrohr) sichergestellt worden waren (vgl. letztgenanntes Urteil, S. 5). Auch diese Verurteilung zeigt - unabhängig von der ehelichen Auseinandersetzung - ein rechtswidriges und potentiell gewaltbereites Verhalten, was bei der Prognose zur Rückfallgefahr nicht ausser Acht gelassen werden darf.
3.5.3 Der Beschwerdeführer rügt mit Blick auf Art. 8 EMRK, die Beziehung zu seinem Sohn Z._ - mit dem er aber nicht zusammen lebt - sei ungenügend berücksichtigt worden.
Auch der Elternteil, der nicht über das Sorge- oder Obhutsrecht verfügt, kann sich zwar auf Art. 8 EMRK berufen, doch ist im Rahmen der Interessenabwägung zu berücksichtigen, dass er die familiäre Beziehung mit seinen Kindern schon aus zivilrechtlichen Gründen von vornherein nur in einem beschränkten Rahmen leben kann, nämlich durch Ausübung des ihm eingeräumten Besuchsrechts. Hierzu ist grundsätzlich nicht erforderlich, dass er dauernd im gleichen Land wie das Kind lebt und dort über eine Aufenthaltsbewilligung verfügt. Ein Anspruch auf Erteilung einer Aufenthaltsbewilligung ist ausnahmsweise dann zu bejahen, wenn zwischen dem Ausländer und dessen Kindern in wirtschaftlicher und affektiver Hinsicht besonders enge Beziehungen bestehen, die - würde eine Bewilligung verweigert - wegen der Distanz zwischen der Schweiz und dem Land, in welches der Ausländer vermutlich auszureisen hätte, praktisch nicht aufrechterhalten werden könnten. Zudem muss sich der Ausländer tadellos verhalten haben (vgl. Urteil 2C_578/2011 vom 1. Dezember 2011 E. 3.4.3 mit Hinweisen).
Das Verwaltungsgericht hat, zum Teil unter Verweis auf die vorinstanzlichen Entscheide, eine besonders enge Beziehung zwischen dem Beschwerdeführer und seinem Sohn verneint (S. 9 des angefochtenen Urteils). Der Beschwerdeführer macht selber geltend, es bestehe eine "normale Vater-Sohn-Beziehung (...), wie sie bei nicht sorgeberechtigten Vätern üblich" sei. Damit erweisen sich die tatsächlichen Feststellungen des Verwaltungsgerichts zur Vater-Kind-Beziehung aber nicht als offensichtlich unrichtig, und das Verwaltungsgericht durfte bei dieser Sachlage in zulässiger antizipierter Beweiswürdigung auf weitere Abklärungen (wie etwa die beantragte Einvernahme von Zeugen) verzichten (<ref-ruling> E. 2.1 S. 428).
3.5.4 Aus Art. 8 EMRK (Anspruch auf Schutz des Privatlebens) ergibt sich ein Recht auf Verbleib im Land im Übrigen nur unter besonderen Umständen. Eine lange Anwesenheit und die damit verbundene normale Integration genügen hierzu nicht; erforderlich sind besonders intensive private Beziehungen beruflicher oder gesellschaftlicher Natur (<ref-ruling> E. 3.2.1 S. 286; <ref-ruling> E. 2c S. 384 ff.; <ref-ruling> E. 3b S. 22). Über solche verfügt der Beschwerdeführer, der seine letzte Stelle verloren und Schulden hat, klarerweise nicht (vgl. vorne lit. A). Ebenso wenig hilft ihm der Hinweis auf das Urteil des EGMR in Sachen Emre (N°2) gegen Schweiz vom 11. Oktober 2011 (Beschwerde Nr. 5056/10); im Unterschied zu diesem Fall hat der Beschwerdeführer nicht im Jugendalter, sondern als Erwachsener delinquiert.
3.5.5 Soweit der Beschwerdeführer geltend macht, es sei ihm nicht zuzumuten, sich in Serbien eine Zukunft aufzubauen (vorne E. 3.3), ist ihm entgegenzuhalten, dass ihm dort keine grösseren Hindernisse entgegenstehen, als sie jeder antrifft, der in ein Land auswandert, indem er bisher nie gelebt hat. Der Beschwerdeführer ist noch jung, und seine gewissen - in verschiedenen Tätigkeiten erworbenen - Kenntnisse (vgl. vorne lit. A) können ihm auch in Serbien von Nutzen sein. Im Übrigen hat die Vorinstanz festgestellt, dass die Bevölkerung der Stadt Bujanovac, aus der der Beschwerdeführer bzw. seine Familie ursprünglich stammt, mehrheitlich albanisch spricht, so dass sich dieser mit der Mehrheit verständigen könne. Dies vermag der Beschwerdeführer mit seinem Einwand, er gelte als albanisch sprechender Muslim in der heutigen Republik Serbien als Fremder, nicht in Frage zu stellen.
3.6 Nach dem Gesagten erweist sich der gegenüber dem Beschwerdeführer angeordnete Widerruf der Niederlassungsbewilligung insgesamt als bundesrechts- und konventionskonform. Dies führt zur Abweisung der Beschwerde in öffentlich-rechtlichen Angelegenheiten, soweit darauf eingetreten werden kann (vgl. vorne E. 1.2).
4. Die subsidiäre Verfassungsbeschwerde, mit welcher der Betroffene keine Rügen mehr erheben kann, die Gegenstand des Entscheids über den Widerruf bzw. die Nichtverlängerung der Bewilligung gebildet haben oder hätten bilden müssen (vgl. <ref-ruling> E. 1.1 S. 307), erweist sich im vorliegenden Fall als unbegründet und ist abzuweisen:
Die Wegweisung ist die normale Folge des Widerrufs der Niederlassungsbewilligung (vgl. Art. 64 Abs. 1 lit. c AuG); ist diese verfassungsrechtlich zulässig, gilt dies auch für die Wegweisung. Vollzugshindernisse (vgl. Art. 83 AuG), welche der subsidiären Verfassungsbeschwerde - unter Vorbehalt der qualifizierten Rügepflicht - zugänglich sind (<ref-ruling> E. 3.3 S. 310), macht der Beschwerdeführer nicht geltend.
5. Dem Verfahrensausgang entsprechend hätte der Beschwerdeführer grundsätzlich die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 66 Abs. 1 BGG). Er hat aber um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung ersucht. Die Bedürftigkeit des Beschwerdeführers erscheint als offensichtlich (vgl. vorne lit. A). Angesichts der differenzierten Rechtsprechung des Europäischen Gerichtshofes für Menschenrechte insbesondere in Bezug auf Ausländer der zweiten Generation musste der Beschwerdeführer auch nicht von vornherein davon ausgehen, seine Rechtsbegehren seien aussichtslos. Dem Gesuch um unentgeltliche Rechtspflege und Verbeiständung ist daher stattzugeben (vgl. Art. 64 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen, soweit darauf einzutreten ist.
2. Die subsidiäre Verfassungsbeschwerde wird abgewiesen.
3. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird gutgeheissen:
3.1 Es werden keine Kosten erhoben.
3.2 Rechtsanwalt Jakob Ackermann, Rapperswil-Jona, wird für das bundesgerichtliche Verfahren als unentgeltlicher Rechtsbeistand eingesetzt und aus der Bundesgerichtskasse mit Fr. 2'500.-- entschädigt.
4. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration, dem Regierungsrat und dem Verwaltungsgericht (Kammer III) des Kantons Schwyz sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 18. Juli 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Klopfenstein