Erwägungen:
1. 1.1 Der aus dem Kosovo stammende X._ (geb. 1979) reiste im August 1994 mit seinen Eltern und Geschwistern in die Schweiz ein. Die Familie stellte ein Asylgesuch, das am 27. März 1995 rechtskräftig abgewiesen wurde. Ihre Wegweisung konnte jedoch nicht vollzogen werden. Im Oktober 1999 heiratete X._ die Schweizer Bürgerin Y._ (geb. 1980), worauf er eine Aufenthaltsbewilligung erhielt. Im Februar 2003 wurde der gemeinsame Sohn Z._ geboren. Im November 2003 trennten sich die Eheleute. Im Juni 2006 wurde X._ die Niederlassungsbewilligung erteilt. Diese wurde von der Einwohnergemeinde Thun, Einwohnerdienste, am 9. September 2009 widerrufen, nachdem X._ am 26. März 2009 zu einer Freiheitsstrafe von 18 Monaten verurteilt worden war (u.a. wegen Widerhandlung gegen das Betäubungsmittelgesetz in einem qualifiziert, mengenmässig schweren Fall). Die gegen den Bewilligungswiderruf im Kanton erhobenen Rechtsmittel blieben erfolglos.
1.2 Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 25. März 2011 beantragt X._ dem Bundesgericht sinngemäss, das in der Sache zuletzt ergangene Urteil des Verwaltungsgerichts des Kantons Bern vom 25. Februar 2011 aufzuheben und vom Widerruf der Niederlassungsbewilligung abzusehen. Zudem sei ihm für das Verfahren beim Verwaltungsgericht die unentgeltliche Prozessführung und Verbeiständung zu gewähren.
Das Bundesamt für Migration, die Polizei- und Militärdirektion (im Folgenden: POM) sowie das Verwaltungsgericht des Kantons Bern beantragen die Abweisung der Beschwerde. Die Einwohnergemeinde Thun hat auf eine Vernehmlassung verzichtet.
2. 2.1 Der Beschwerdeführer macht zunächst geltend, er habe am 7. Oktober 2009 bei der POM Beschwerde gegen die ursprüngliche Verfügung der Einwohnergemeinde Thun vom 9. September 2009 eingereicht. Letztere habe hierauf mit Verfügung vom 29. Oktober 2009 in Anerkennung der Verletzung seines Anspruchs auf rechtliches Gehör ihren Entscheid vom 9. September 2009 aufgehoben und das Verfahren betreffend Widerruf der Niederlassungsbewilligung wieder aufgenommen. Trotz dessen habe die POM die Instruktion des Rechtsmittelverfahrens fortgesetzt und seine Beschwerde schliesslich abgewiesen. Richtigerweise hätte sie das Beschwerdeverfahren aber als erledigt bzw. gegenstandslos abschreiben müssen. Das sei auch vom Verwaltungsgericht verkannt worden. Sie handelten insoweit rechtsungleich, willkürlich sowie gegen Treu und Glauben bzw. gegen den Grundsatz des Vertrauensschutzes. Er dürfe darauf vertrauen, dass sich die Vorinstanzen an das bernische Verwaltungsrechtspflegegesetz halten und den einschlägigen Art. 71 des Gesetzes vom 23. Mai 1989 über die Verwaltungsrechtspflege des Kantons Bern (VRPG/BE; BSG 155.21) korrekt anwenden. Durch das Vorgehen der POM verliere er eine Instanz, was seinen Anspruch auf rechtliches Gehör nach Art. 29 Abs. 2 BV verletze.
2.2 Der Beschwerdeführer macht nicht geltend, die POM habe ihm das rechtliche Gehör nicht gewährt oder entscheide nicht mit derselben Kognition wie die Einwohnergemeinde Thun. Mithin kann eine etwaige Verletzung des Anspruchs auf rechtliches Gehör durch Letztere als geheilt betrachtet werden (vgl. BGE 134 I 140 E. 5.5 S. 150; 133 I 201 E. 2.2 S. 204 f.; 132 V 387 E. 5.1 S. 390). Aus welchem Recht im Sinne von Art. 95 BGG er einen Anspruch auf drei kantonale Instanzen haben soll, die unter Zugrundelegung des vollständigen Sachverhalts entscheiden, legt der Beschwerdeführer nicht dar (vgl. Art. 42 Abs. 2 und 106 Abs. 2 BGG) und ist auch nicht erkennbar. Im Übrigen kennen einige Kantone im Ausländerrecht von vornherein nur zwei Instanzen.
Art. 71 VRPG/BE zufolge kann die erstverfügende Behörde im Beschwerdeverfahren statt einer Vernehmlassung einzureichen, "ganz oder teilweise neu verfügen oder die angefochtene Verfügung aufheben" (Abs. 1). Die Beschwerdeinstanz setzt das Verfahren fort, soweit es durch die neue Verfügung nicht gegenstandslos geworden ist (Abs. 2). Das Verwaltungsgericht führt aus, dass die Zuständigkeit, sich mit dem streitigen Rechtsverhältnis zu befassen, aufgrund der devolutiven Wirkung der Beschwerde grundsätzlich auf die Rechtsmittelinstanz übergehe (vgl. auch Merkli/Aeschlimann/Herzog, Kommentar zum Gesetz über die Verwaltungsrechtspflege im Kanton Bern, 1997, N. 7 f. zu Art. 60 VRPG/BE). Insoweit stelle Art. 71 VRPG/BE einen Einbruch in den Devolutiveffekt dar. Die erstverfügende Behörde solle aus prozessökonomischen Gründen sogleich neu verfügen können, wenn dies möglich sei. Damit sollen unnötiger Aufwand und Kosten im Rechtsmittelverfahren gespart werden. Vorliegend habe die Einwohnergemeinde Thun jedoch nicht definitiv entschieden. Vielmehr sei ihre Verfügung vom 29. Oktober 2009 auf eine weitere Instruktion und anschliessend einen neuen Entscheid, ob die Niederlassungsbewilligung widerrufen werde, hinausgelaufen. Laut Vorinstanz entspreche ein solches Vorgehen nicht dem Zweck von Art. 71 Abs. 1 VRPG/BE, was sich auch aus der Doktrin ergebe (vgl. Merkli/Aeschlimann/Herzog, a.a.O., N. 1 zu Art. 71 VRPG/BE). Daher sei die erwähnte Verfügung bloss als Vernehmlassung entgegenzunehmen und dem Ausspruch über die Aufhebung der Verfügung vom 9. September 2009 keine Wirkung beizulegen.
Inwieweit diese Auslegung bzw. Anwendung von Art. 71 Abs. 1 VRPG willkürlich sein soll, zeigt der Beschwerdeführer - trotz Art. 106 Abs. 2 BGG - nicht auf (dazu allg. BGE 136 I 49 E. 1.4.1 S. 53; 134 II 244 E. 2.2 S. 246). Zudem ist es ein allgemeiner Grundsatz, dass es der erstverfügenden Behörde wegen des Devolutiveffekts grundsätzlich verwehrt ist, nach Einreichung eines Rechtsmittels weitere oder zusätzliche Abklärungen vorzunehmen, um selber neu zu entscheiden. Die Wiedererwägung der angefochtenen Verfügung durch diese Behörde während des hängigen Beschwerdeverfahrens ("lite pendente") führt - falls zulässig - ausserdem nur dann zur Gegenstandslosigkeit, wenn mit der Wiedererwägung dem gestellten Rechtsbegehren vollumfänglich entsprochen worden ist (vgl. BGE 127 V 228 E. 2b S. 233 f.; 103 V 109; Urteile 2C_733/2010 vom 16. Februar 2011 E. 3.2; 9C_683/2009 vom 16. September 2009 E. 2.2.3; je mit Hinweisen). Das ist hier nicht der Fall, da die Einwohnergemeinde Thun das von ihr eingeleitete Widerrufsverfahren mit ihrer Eingabe vom 29. Oktober 2009 nicht abschloss. Mithin ist nicht ersichtlich, dass die POM sowie das Verwaltungsgericht in krass stossender Art und Weise verfahren sind. Der Beschwerdeführer hat schliesslich auch nicht dargelegt, dass die Vorinstanzen in gleichartigen Fällen eine andere Haltung einnehmen würden, woraus sich eine rechtsungleiche Behandlung ergeben könnte.
2.3 Demzufolge hält das Vorgehen der POM und der Vorinstanz in Bezug auf die Eingabe der Einwohnergemeinde Thun vom 29. Oktober 2009 der bundesgerichtlichen Prüfung stand. Keine Rolle spielt in diesem Zusammenhang, dass dem Beschwerdeführer im September 2010 ein neuer Ausländerausweis mit Angabe der Gültigkeitsdauer bis zum Oktober 2013 ausgehändigt worden ist. Solange die Rechtsmittel im Kanton hängig waren, galt aufgrund ihrer aufschiebenden Wirkung (vgl. Art. 68 und 82 VRPG/BE) die Niederlassungsbewilligung noch nicht als widerrufen.
3. Entgegen der Ansicht des Beschwerdeführers ist der Widerrufsgrund der Verurteilung zu einer längerfristigen Freiheitsstrafe gemäss Art. 63 Abs. 1 lit. a i.V.m. Art. 62 lit. b AuG (SR 142.20) eindeutig erfüllt. Insoweit haben die POM und das Verwaltungsgericht zutreffend auf den einschlägigen BGE 135 II 377 verwiesen. Namentlich angesichts der vielen Vorstrafen des Beschwerdeführers sind die Vorinstanzen auch korrekt von einer Rückfallgefahr beim Beschwerdeführer ausgegangen. Weder frühere Verurteilungen noch mehrmonatiger Strafvollzug und eine ausländerrechtliche Verwarnung vom 1. März 2007 haben ihn davon abgehalten, weitere Straftaten zu begehen. Zudem wiegt das Interesse an der Fernhaltung eines Ausländers bei Betäubungsmitteldelikten besonders schwer. Die Vorinstanzen sind auch zutreffend von einer geringen beruflichen, sprachlichen und sozialen Integration des Beschwerdeführers in der Schweiz ausgegangen. Dieser hat ausserdem erhebliche Sozialhilfeleistungen bezogen und keine Nachweise konkreter Arbeitsbemühungen erbracht. Was der Beschwerdeführer gegen die Annahme der Vorinstanzen, er sei mit der Sprache und Kultur seines Heimatlandes vertraut, vorbringt, überzeugt nicht. Immerhin lebte er im Kosovo bis zu seinem 15. Lebensjahr und hatte auch nachher noch regelmässige Kontakte zu Landsleuten. Zwar hat er in der Schweiz ein Kind. Er ist jedoch nicht sorgeberechtigt, übt nur ein beschränktes Besuchsrecht aus und leistet dem Kind keinen Unterhalt. Unter diesen Umständen ist nicht zu beanstanden, dass die POM und das Verwaltungsgericht, welche sich ausdrücklich auf die einschlägige bundesgerichtliche Praxis bezogen haben, den Widerruf der Niederlassungsbewilligung als verhältnismässig betrachten. Es mag zutreffen, dass vom Kosovo aus der Kontakt zum Kind nur noch unter erschwerten Bedingungen möglich sein wird. Das hat sich der Beschwerdeführer jedoch aufgrund seines bisherigen Verhaltens selber zuzurechnen. Seit der Geburt seines Sohnes im Jahr 2003 hat er zudem nicht aufgezeigt, dass er für ihn in angemessener Weise sorgen kann. Deswegen wurde ihm - wie auch der Mutter - das Sorgerecht letztlich entzogen.
4. 4.1 Nach dem Dargelegten erweist sich die Beschwerde gegen den Bewilligungswiderruf als offensichtlich unbegründet. Ergänzend wird auf die umfassenden Ausführungen der POM und des Verwaltungsgerichts verwiesen. Es verstösst auch nicht gegen Art. 29 Abs. 3 BV, dass die Vorinstanz dem Beschwerdeführer keine unentgeltliche Rechtspflege gewährt hat, da sein dortiges Rechtsmittel angesichts des bereits zutreffenden und ausführlich begründeten Entscheids der POM aussichtslos erschien. Das betrifft auch die in Erwägung 2 hievor behandelte Frage. Unentgeltliche Rechtspflege ist im Übrigen nicht schon deshalb zu gewähren, weil diese bei einer früheren Instanz bewilligt wurde. Aus den selben Erwägungen ist dem Beschwerdeführer auch für das bundesgerichtliche Verfahren die unentgeltliche Rechtspflege zu verweigern (vgl. Art. 64 Abs. 1 BGG).
4.2 Mithin ist die Beschwerde im vereinfachten Verfahren nach Art. 109 BGG abzuweisen. Damit würde der Beschwerdeführer kostenpflichtig. Angesichts seiner Einkommens- und Vermögensverhältnisse wird ausnahmsweise auf die Erhebung von Kosten verzichtet (vgl. Art. 66 Abs. 1 BGG). Parteientschädigungen werden nicht zugesprochen (vgl. Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Prozessführung und Verbeiständung wird abgewiesen.
3. Für das bundesgerichtliche Verfahren werden keine Kosten erhoben.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 18. Juli 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Merz