Erwägungen:
1. Der am 31. August 1986 geborene X._, Staatsangehöriger von Serbien und Montenegro, reiste am 20. April 1991 im Rahmen des Familiennachzugs zu seinen Eltern in die Schweiz ein. Am 20. April 2001 erhielt er die Niederlassungsbewilligung. X._ ist ledig und hat keine Kinder. Nach der obligatorischen Schulzeit hat er keine Ausbildung absolviert; gegenwärtig arbeitet er jedoch als Giesser in einem Metallbearbeitungsbetrieb.
Während seines Aufenthaltes in der Schweiz wurde X._ in erheblichem Ausmass straffällig:
Am 7. April 2004 wurde er von der Jugendanwaltschaft des Kantons Appenzell Ausserrhoden wegen mehrfachem Diebstahl, mehrfachem Hausfriedensbruch, mehrfacher Sachbeschädigung, Hehlerei, einfacher Körperverletzung, Tätlichkeiten, Drohung, Vergehen gegen das Waffengesetz sowie Fahrens eines Motorfahrrades ohne Führerausweis zu einer Einschliessung von 12 Tagen sowie zu einer Busse verurteilt;
Mit Urteil vom 29. März 2007 sprach das Kantonsgericht von Appenzell Ausserrhoden X._ schuldig des mehrfachen Raubs, des mehrfachen Diebstahls, des mehrfachen Hausfriedensbruchs, der Sachbeschädigung, der Vergehen gegen das Waffengesetz, der mehrfachen Widerhandlung gegen das Betäubungsmittelgesetz, des mehrfachen Fahrens ohne Führerausweis, der mehrfachen Verletzung von Verkehrsregeln, der mehrfachen groben Verletzung von Verkehrsregeln, des mehrfachen pflichtwidrigen Verhaltens nach einem Verkehrsunfall, des Fahrens in angetrunkenem Zustand, der unrechtmässigen Aneignung sowie des mehrfachen betrügischen Missbrauchs einer Datenverarbeitungsanlage. Nach Einholen eines psychiatrischen Gutachtens verurteilte das Kantonsgericht X._ am 23. April 2009 für die obenstehenden Delikte zu einer Freiheitsstrafe von 30 Monaten. Es schob den Vollzug der Strafe einstweilen zugunsten einer ambulanten therapeutischen Massnahme auf;
Am 30. Oktober 2008 sprach ihn das Verhöramt des Kantons Appenzell Ausserrhoden der Vergehen gegen das Waffengesetz schuldig und es verurteilte ihn zu einer Geldstrafe von 10 Tagessätzen sowie zu einer Busse;
Am 22. Juni 2009 sprach ihn das Verhöramt des Kantons Appenzell Ausserrhoden erneut der Vergehen gegen das Waffengesetz schuldig und es verurteilte ihn zu einer Geldstrafe von 10 Tagessätzen;
Am 13. November 2010 überschritt X._ mit seinem Fahrzeug die zulässige Höchstgeschwindigkeit auf der Autobahn um 54 km/h.
Als Folge dieser Straftaten widerrief das Migrationsamt des Kantons Appenzell Ausserrhoden am 13. Januar 2010 die Niederlassungsbewilligung von X._ und es wies diesen aus der Schweiz weg. Die hiergegen ergriffenen Rechtsmittel wurden vom Departement Sicherheit und Justiz (Rekursentscheid vom 29. März 2010) und vom Verwaltungsgericht von Appenzell Ausserrhoden (Urteil vom 24. November 2010) abgewiesen.
2. Gegen Entscheide betreffend den Widerruf der Niederlassungsbewilligung ist die von X._ am 14. Juni 2011 beim Bundesgericht erhobene Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig (<ref-ruling> E. 1.2.1 S. 4). Auf die von X._ mittels der gleichen Eingabe ebenfalls erhobene subsidiäre Verfassungsbeschwerde ist daher nicht einzutreten (<ref-law>).
3. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich als offensichtlich unbegründet, weshalb sie im vereinfachten Verfahren nach <ref-law> mit summarischer Begründung erledigt werden kann:
3.1 Da das Widerrufsverfahren erst nach Inkrafttreten des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) per 1. Januar 2008 eingeleitet wurde (massgeblich ist die Gewährung des rechtlichen Gehörs am 29. Oktober 2009), sind dessen Bestimmungen auf den vorliegenden Fall anwendbar; ob das frühere Recht für den Beschwerdeführer vorteilhafter gewesen wäre, ist entgegen seinen Ausführungen nicht von Bedeutung (vgl. Urteil 2C_367/2009 vom 16. Dezember 2009 E. 2).
3.2 Nach Art. 63 Abs. 1 lit. a AuG (in Verbindung mit Art. 62 lit. b AuG) kann die Niederlassungsbewilligung widerrufen werden, wenn der Ausländer zu einer längerfristigen Freiheitsstrafe verurteilt wurde. Als längerfristig gilt jede Freiheitsstrafe von mehr als einem Jahr (<ref-ruling> E. 4.2 S. 379 ff.). Diese Voraussetzung ist vorliegend offensichtlich erfüllt; besondere Vollzugsformen oder ein einstweiliger Vollzugsaufschub sind in diesem Zusammenhang unbeachtlich.
3.3 Der Beschwerdeführer beruft sich im Wesentlichen darauf, dass die angeordnete Massnahme unverhältnismässig sei und er höchstens mit einer Verwarnung sanktioniert werden dürfe. Die erhobene Rüge geht jedoch fehl: Richtig ist wohl, dass ein Widerruf der Bewilligung aufgrund der gesamten Umstände des Einzelfalls verhältnismässig sein muss. Dies hat das Verwaltungsgericht aber nicht verkannt; vielmehr hat es die diesbezügliche Praxis des Bundesgerichts richtig wiedergegeben (E. 4.1 des angefochtenen Entscheids) und sich mit den Einwendungen des Beschwerdeführers auseinandergesetzt. In sachgerechter Weise hat es sodann die hier massgeblichen öffentlichen Interessen an einer Ausreise des Beschwerdeführers und dessen private Interessen an einem Verbleib in der Schweiz gewürdigt und es für zumutbar erachtet, dass der Beschwerdeführer in seine Heimat zurückkehrt.
Was der Beschwerdeführer dagegen vorbringt, überzeugt nicht: Soweit er ins Feld führt, dass die Strafgerichte von einer guten Prognose ausgegangen seien bzw. dass eine solche aufgrund der vom Strafrichter angeordneten ambulanten therapeutischen Massnahme bestehe, übersieht er, dass Strafrecht und Ausländerrecht unterschiedliche Ziele verfolgen und unabhängig voneinander anzuwenden sind: Der Straf- und Massnahmenvollzug hat nebst der Sicherheitsfunktion eine resozialisierende bzw. therapeutische Zielsetzung, wogegen für die Fremdenpolizeibehörden das Interesse der öffentlichen Ordnung und Sicherheit im Vordergrund steht, woraus sich ein im Vergleich mit den Straf- und Strafvollzugsbehörden strengerer Beurteilungsmassstab ergibt (<ref-ruling> E. 5b S. 132). Dies bedeutet namentlich, dass selbst eine aus der Sicht des strafrechtlichen Massnahmenvollzugs positive Entwicklung nicht ausschliesst, dass eine fremdenpolizeiliche Massnahme angeordnet werden kann (<ref-ruling> E. 4a/bb S. 528); ein "Verstoss gegen den Grundsatz der Einheit der Rechtsordnung" ist darin - entgegen der Auffassung des Beschwerdeführers - nicht zu erblicken. Anders als bei Art. 5 Anhang I des hier nicht anwendbaren Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit (Freizügigkeitsabkommen, FZA; SR 0.142.112.681), wo die Feststellung einer gegenwärtigen Gefährdung eine Grundvoraussetzung für den Erlass von Entfernungsmassnahmen bildet, ist die Prognose über künftiges Wohlverhalten in den übrigen Fällen ohnehin nicht von entscheidender Bedeutung; die Rückfallgefahr wird hier lediglich als ein Faktor unter mehreren in die Interessenabwägung miteinbezogen (<ref-ruling> E. 4.2 S. 185, mit Hinweisen; Urteil 2C_289/2011 vom 12. Oktober 2011 E. 2).
Unzutreffend ist sodann, wenn der Beschwerdeführer behauptet, dass die von ihm verübten strafbaren Handlungen allesamt schon lange Zeit zurückliegen würden und er im Zeitpunkt der Begehung noch unmündig gewesen sei: Das Strafurteil des Kantonsgerichts vom 29. März 2007 bzw. vom 23. April 2009 beruht auf Delikten, welche zwischen November 2002 und Februar 2006 verübt wurden. Insbesondere beging der Beschwerdeführer im Februar 2005, mithin als Mündiger, Raub und Hausfriedensbruch. Im Januar 2006 hob er illegal mit einer gestohlenen Kreditkarte bei einem Bankautomaten Geld ab. Die Vergehen gegen das Waffengesetz, welche mit den Urteilen des Verhöramtes vom 30. Oktober 2008 und vom 22. Juni 2009 sanktioniert wurden, hatten am 16. November 2007 und am 5. April 2009 stattgefunden. Am 13. November 2010 beging der Beschwerdeführer zudem eine grobe Verletzung der Verkehrsregeln. Bei dieser Sachlage muss von einer notorischen Delinquenz des Beschwerdeführers ausgegangen werden, welche jedenfalls bis in die jüngste Vergangenheit angedauert hat.
3.4 Der Beschwerdeführer behauptet ferner eine Verletzung der Garantie des Privat- und Familienlebens i.S.v. Art. 8 EMRK, zumal eine besonders starke Abhängigkeit zu seinem Bruder bestehe. Der Rüge ist jedoch nicht zu folgen, zumal das behauptete Abhängigkeitsverhältnis nicht ersichtlich ist und jedenfalls nicht bereits dadurch begründet wird, dass der Bruder lebensgewandter sei und sich mit behördlichen Dingen besser auskenne. Der längst volljährige, ledige und kinderlose Beschwerdeführer kann sich somit nicht auf den Schutz von Art. 8 EMRK berufen.
3.5 Entgegen den Ausführungen des Beschwerdeführers kann schliesslich auch keine Verletzung des Anspruchs auf rechtliches Gehör (<ref-law>) und auf ein gerechtes Verfahren (<ref-law>) darin erblickt werden, dass die Vorinstanz in ihrem Entscheid auch das damals nicht aktenkundige Strassenverkehrsdelikt vom 13. November 2010 mitberücksichtigt hat: Es ist unbestritten, dass es der Beschwerdeführer selbst war, der dem Verwaltungsgericht vor den Schranken Kenntnis von seiner neuerlichen Straftat gab. Dass das Verwaltungsgericht dieser Erkenntnis im Urteil Rechnung trägt, ist nicht zu beanstanden, zumal die Vorinstanz diesbezüglich ausschliesslich auf die Sachverhaltsdarstellung des Beschwerdeführers abstellte. Soweit sich der Beschwerdeführer in Zusammenhang mit seiner verfahrensrechtlichen Rüge auch auf Art. 6 EMRK beruft, ist ihm zudem entgegenzuhalten, dass Entscheidungen betreffend Einreise, Aufenthalt und Ausschaffung von Ausländern nicht in den Schutzbereich dieser Bestimmung fallen (Unzulässigkeitsentscheid des EGMR vom 26. März 2002 in Sachen Mir gegen die Schweiz, publ. in: VPB 2002 Nr. 116 S. 1322, mit weiteren Hinweisen; Urteil 2C_341/2010 vom 14. Oktober 2010 E. 3.2.4).
4. Aus den genannten Gründen ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten abzuweisen und es kann ergänzend auf die vorinstanzlichen Ausführungen verwiesen werden (<ref-law>). Entsprechend diesem Verfahrensausgang hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt und dem Departement Sicherheit und Justiz des Kantons Appenzell Ausserrhoden, dem Verwaltungsgericht von Appenzell Ausserrhoden, 2. Abteilung, sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 8. Dezember 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Zähndler