Erwägungen:
1. 1.1 Der aus dem Kosovo stammende X._ (geb. 1985) reiste im Juni 1999 mit seiner Mutter und seinen Geschwistern im Rahmen des Familiennachzugs in die Schweiz ein und wurde in der Folge in die Niederlassungsbewilligung seines Vaters einbezogen. Im Jahr 2004 ergingen gegen ihn zwei Strafbefehle wegen Strassenverkehrsdelikten (60 Tage Gefängnis unbedingt und Bussen von insgesamt Fr. 3'400.--). Am 27. Mai 2008 verurteilte ihn das Obergericht des Kantons Aargau zu einer Freiheitsstrafe von drei Jahren - wobei der unbedingte Vollzug nur für ein Jahr angeordnet wurde - wegen Gewaltdarstellungen, gewerbs- und bandenmässigen Diebstahls, mehrfacher Sachbeschädigung, mehrfachen Hausfriedensbruchs, Pornographie, mehrfacher grober Verletzung der Verkehrsregeln und mehrfachen Vergehens gegen das Waffengesetz. Hierauf gestützt widerrief das Migrationsamt des Kantons Aargau am 23. Februar 2009 seine Niederlassungsbewilligung. Die dagegen im Kanton erhobenen Rechtsmittel blieben erfolglos.
1.2 Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 7. Januar 2011 beantragt X._ dem Bundesgericht sinngemäss, das im Kanton zuletzt ergangene Urteil des Rekursgerichts im Ausländerrecht vom 16. November 2010 aufzuheben und auf den Widerruf der Niederlassungsbewilligung zu "verzichten". Eventualiter sei ihm mindestens der weitere Aufenthalt in der Schweiz zu bewilligen. Subeventualiter seien weitere Sachabklärungen vorzunehmen und die Sache hiezu allenfalls an die Vorinstanzen zurückzuweisen.
Das kantonale Migrationsamt, das Rekursgericht im Ausländerrecht sowie das Bundesamt für Migration beantragen Abweisung der Beschwerde.
1.3 Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 12. Januar 2011 antragsgemäss die aufschiebende Wirkung hinsichtlich der Ausreiseverpflichtung zuerkannt.
2. 2.1 Die Vorinstanz hat den vom Migrationsamt verfügten Widerruf der Niederlassungsbewilligung gestützt auf Art. 63 Abs. 1 lit. a in Verbindung mit Art. 62 lit. b AuG geschützt. Der Beschwerdeführer räumt ein, dass er den Widerrufsgrund der Verurteilung zu einer längerfristigen Freiheitsstrafe im Sinne dieser Bestimmungen erfüllt. Er macht jedoch geltend, der Bewilligungswiderruf sei unverhältnismässig. Das öffentliche Interesse an seiner Entfernung sei gegenüber seinem privaten Interesse am Verbleib in der Schweiz zu stark gewichtet worden.
2.2 In diesem Zusammenhang weist er auf zwei im Jahr 2010 in der Tagespresse erwähnte Urteile des Verwaltungsgerichts des Kantons Zürich hin. Danach hätten ein Engländer und ein Norweger, die zu weitaus längeren Freiheitsstrafen wegen eines Gewalt- bzw. eines Sexualdelikts verurteilt worden seien, in der Schweiz bleiben können. Der Beschwerdeführer übersieht indes, dass in den von ihm erwähnten Vergleichsfällen die Anwendung des Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit (Freizügigkeitsabkommen, FZA; SR 0.142.112.681) in Betracht kam. Diesem Abkommen zufolge kann einem davon begünstigten Ausländer der Aufenthalt nur verweigert werden, wenn von ihm eine hinreichend schwere und gegenwärtige Gefährdung der öffentlichen Ordnung ausgeht; dabei dürfen generalpräventive Erwägungen nicht berücksichtigt werden; es ist allein auf das von der betreffenden Person ausgehende Rückfallrisiko abzustellen. Der Beschwerdeführer kann sich als lediger Kosovar nicht auf dieses Abkommen berufen (vgl. Art. 3 und 7 FZA). Bei ihm hat die Vorinstanz daher auch generalpräventiven Gesichtspunkten Rechnung tragen dürfen (vgl. Urteil des Bundesgerichts 2C_36/2009 vom 20. Oktober 2009 E. 2.1). Ob von ihm eine Rückfallgefahr ausgeht, ist ein im Rahmen der Gesamtabwägung zu berücksichtigender Umstand, der aber nicht ausschlaggebend sein muss (vgl. dazu allg. <ref-ruling> E. 4 S. 19 ff.; <ref-ruling> E. 3 S. 179 ff.; je mit Hinweisen).
Im Übrigen kommt es immer auf eine Einzelfallprüfung an, bei der neben dem deliktischen Verschulden namentlich die persönliche und familiäre Situation sowie das Verhalten des Betroffenen vor und nach den Straftaten und Verurteilungen zu berücksichtigen ist. Eine solche Prüfung hat die Vorinstanz vorgenommen und dabei alle relevanten Gesichtspunkte - auch diejenigen, die für einen Verbleib des Beschwerdeführers sprechen - in die Abwägung einbezogen. Die Vorinstanz geht in zutreffender Weise davon aus, dass beim Beschwerdeführer eine ausgeprägte Geringschätzung und Gleichgültigkeit gegenüber der schweizerischen Rechtsordnung gegeben ist. Eine im Jahr 2005 vom Migrationsamt ausgesprochene Verwarnung hielt diesen nicht davon ab, weiter und in noch grösserem Masse über einen längeren Zeitraum zu delinquieren. Auch nachdem er wegen der Delikte, die zum Widerruf der Niederlassungsbewilligung führten, verhaftet bzw. verurteilt worden war, musste er noch zweimal wegen weiterer Verkehrsdelikte bestraft werden (Strafbefehle vom 13. Oktober 2008 und 14. April 2009 wegen Fahrens ohne Führerausweis, Verletzens von Verkehrsregeln und pflichtwidrigen Verhaltens nach einem Verkehrsunfall). Sogar das gegen ihn damals bereits eingeleitete Widerrufsverfahren hatte ihn unbeeindruckt gelassen. Demzufolge entspricht der Schluss der Vorinstanz der bundesgerichtlichen Praxis zur Fernhaltung von strafrechtlich belangten Ausländern, die sich nicht auf das Freizügigkeitsabkommen berufen können (vgl. statt vieler die Urteile des Bundesgerichts <ref-ruling>; 2C_32/2008 vom 25. April 2008, in ZBl 109/2008 S. 497; 2C_832/2009 vom 29. Juni 2010; 2C_578/2009 vom 23. Februar 2010; 2C_515/2009 vom 27. Januar 2010). Deshalb ist es nicht bundesrechtswidrig, dass die Vorinstanz den Widerruf der Niederlassungsbewilligung bestätigt hat. Nach dem Dargelegten geht auch der Einwand fehl, der Entscheid der Vorinstanz sei weder mit Art. 8 noch mit <ref-law> vereinbar.
2.3 Unbehelflich erweist sich schliesslich die Rüge, die Vorinstanzen hätten prüfen müssen, ob anstelle der widerrufenen Niederlassungsbewilligung eine (blosse) Aufenthaltsbewilligung erteilt werden könne. Ein derartiges Vorgehen ist nach der bundesgerichtlichen Rechtsprechung ausgeschlossen (Urteil des Bundesgerichts 2C_254/2010 vom 15. Juli 2010 E. 4.3).
2.4 Die Beschwerde erweist sich mit Blick auf die klare Rechtslage, die erwähnte Praxis und die ausführliche Begründung der Vorinstanz als offensichtlich unbegründet und kann daher im vereinfachten Verfahren nach <ref-law> abgewiesen werden. Auf die Ausführungen im angefochtenen Entscheid wird ergänzend verwiesen.
3. Bei diesem Ausgang hätte der Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen. Angesichts seiner Einkommens- und Vermögensverhältnisse werden ihm diese jedoch erlassen (Art. 65 f. BGG). Sein Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird - soweit nicht gegenstandslos geworden - indes abgewiesen. Wie dargelegt, erwies sich sein Rechtsbegehren nach Ergehen des ausführlichen Entscheids der Vorinstanz als aussichtslos im Sinne von <ref-law>, auch wenn ihm diese noch die unentgeltliche Prozessführung im kantonalen Verfahren bewilligt hatte. Parteientschädigungen werden nicht zugesprochen (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen, soweit es nicht gegenstandslos geworden ist.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Rekursgericht im Ausländerrecht des Kantons Aargau und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 22. März 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Merz