Sachverhalt:
A. X._ ist Eigentümer der Liegenschaft Z._ A._ an der E._-strasse in A._. Vom 21. März 2007 bis Ende 2007 befand er sich in Kroatien. Am 24. Mai 2007 zeigte ihm die Gemeinde A._ an, dass auf seinem Grundstück eine Hecke die Sicht in der Ausfahrt südlich der Parzelle verdecke, weshalb die Verkehrssituation sehr gefährlich sei; in Absprache und mit Zustimmung der Mieterin werde das Bauamt in den nächsten Tagen die Hecke zurückschneiden. In der Folge nahm die Gemeinde diese Vorankündigung wahr.
B. Mit Schadenersatzklage vom 21. April 2008 beantragte X._, die Gemeinde A._ sei zur Bezahlung von Fr. 23'000.-- (23 Bäume zu je Fr. 1'000.--) nebst Zins von 5% seit Juni 2007 zu verurteilen. Am 30. Oktober 2009 wies das Amtsgericht A._ die Klage ab und überband X._ sämtliche Prozesskosten. Dagegen erhob X._ am 24. November 2009 Appellation beim Obergericht des Kantons Luzern, wobei er seine Forderung am 12. Januar 2011 auf Fr. 10'722.90 nebst Zins seit dem 1. Juni 2007 reduzierte. Mit Urteil vom 8. Februar 2011 hiess das Obergericht des Kantons Luzern die Appellation teilweise gut, verurteilte die Gemeinde A._ zur Zahlung von Fr. 6'812.-- nebst Zins seit dem 1. Juni 2007 an X._ und wies die Klage im Übrigen ab. Überdies entschied das Obergericht, dass die Gemeinde A._ als Beklagte ihre eigenen Anwaltskosten vor erster Instanz und X._ als Kläger alle übrigen Prozesskosten, bestehend aus Gerichtskosten von insgesamt Fr. 4'097.90 für beide Instanzen sowie aus Anwaltskosten der beklagten Gemeinde vor dem Obergericht in der Höhe von Fr. 5'136.90, zu übernehmen habe.
C. X._ führt subsidiäre Verfassungsbeschwerde beim Bundesgericht mit dem Antrag, das Urteil des Obergerichts dahingehend abzuändern, dass die Gemeinde A._ die Gerichtskosten sowie die eigenen Anwaltskosten vor Amts- und Obergericht zu bezahlen habe; eventuell seien die gesamten Prozesskosten (Gerichts- und Anwaltskosten) neu je hälftig zu verlegen; subeventuell sei die Sache zur Neubeurteilung der Kostenverlegung an das Obergericht zurückzuweisen. Zur Begründung wird im Wesentlichen eine Verletzung von Art. 9 BV (Willkürverbot) und 29 BV (Anspruch auf gleiche und gerechte Behandlung im Gerichtsverfahren) geltend gemacht.
D. Die Gemeinde A._ und das Obergericht des Kantons Luzern schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten sei.
Erwägungen:
1. 1.1 Dem Streit zugrunde liegt eine Schadenersatzforderung aus Staatshaftung. Dabei handelt es sich um eine öffentlich-rechtliche Angelegenheit. Strittig ist allerdings nicht mehr die Zusprechung und die Höhe der Schadenersatzforderung, sondern lediglich die Verteilung der Gerichts- und Anwaltskosten für beide kantonalen Gerichtsbehörden durch die Vorinstanz. Nach dem Grundsatz der Einheit des Verfahrens folgt die Zulässigkeit der Beschwerde derjenigen der Hauptfrage. Da der Streitwert weniger als Fr. 30'000.-- beträgt, ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht nach Art. 82 ff. BGG ausgeschlossen. Zu Recht erhebt der Beschwerdeführer damit lediglich subsidiäre Verfassungsbeschwerde gemäss Art. 113 ff. BGG.
1.2 Mit subsidiärer Verfassungsbeschwerde kann einzig die Verletzung von verfassungsmässigen Rechten gerügt werden (Art. 116 BGG). Das Bundesgericht prüft eine solche Rüge jedoch nur insoweit, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 in Verbindung mit Art. 117 BGG; BGE 134 I 83 E. 3.2 S. 88; 134 II 349 E. 3 S. 351 f.; je mit Hinweisen).
2. Soweit der Beschwerdeführer einen Verstoss gegen Art. 29 Abs. 1 BV geltend macht, führt er nicht aus, inwiefern der angefochtene Entscheid gegen diese Bestimmung verstossen sollte, weshalb darauf nicht weiter einzugehen ist. Rechtsgenüglich vorgetragen wird hingegen die Willkürrüge.
3. 3.1 Willkür nach Art. 9 BV liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist; dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 134 II 124 E. 4.1 S. 133 mit Hinweisen).
3.2 Für das vorliegend zu beurteilende Verfahren vor der Vorinstanz war noch nicht die Schweizerische Zivilprozessordnung vom 19. Dezember 2008 (ZPO; SR 272), sondern das inzwischen aufgehobene luzernische Gesetz vom 27. Juni 1994 über die Zivilprozessordnung (ZPO-LU) anwendbar. Gemäss § 116 Abs. 1 ZPO-LU setzen sich die Prozesskosten aus den Gerichts- und den Parteikosten zusammen. Nach § 119 ZPO-LU werden die Prozesskosten der unterliegenden Partei auferlegt, soweit das Gesetz nichts anderes bestimmt; unterliegen die Parteien teilweise und liegt keine bloss geringfügige Überklagung vor, werden die Prozesskosten verhältnismässig verteilt. Gemäss § 120 ZPO-LU hat eine Partei für unnötige Prozesskosten aufzukommen, die sie unter Missachtung der zumutbaren Sorgfalt verursacht; dazu zählen insbesondere Prozesskosten, die durch versäumte, verspätete oder fehlerhafte Prozesshandlungen entstehen.
3.3 Nicht strittig ist die betragsmässige Festsetzung der von der Vorinstanz verlegten Prozesskosten. Der Beschwerdeführer erachtet sich hingegen als weitgehend obsiegend und wendet sich daher gegen die vom Obergericht vorgenommene Verteilung der Prozesskosten. Dieses ging davon aus, dass der Beschwerdeführer insgesamt mit rund 30% seiner Forderung durchgedrungen sei. In Anwendung von § 120 ZPO sei ihm jedoch anzulasten, dass er seine Forderung erst im Appellationsverfahren substantiiert habe, obwohl ihm dies schon vorher möglich und zumutbar gewesen sei. Zu seinen Gunsten sei immerhin zu berücksichtigen, dass er in der Grundsatzfrage der Haftung obsiege. Insgesamt rechtfertige es sich daher, dem Beschwerdeführer als Kläger rund vier Fünftel und der beklagten Gemeinde rund einen Fünftel der gesamten Prozesskosten in beiden Instanzen zu überbinden.
3.4 Der Beschwerdeführer ist in der Grundsatzfrage durchgedrungen, obwohl der Amtsgerichtspräsident II von A._ in seiner Verfügung vom 26. August 2008 über die unentgeltliche Rechtspflege noch von der Aussichtslosigkeit der Klage ausgegangen war. Zwar widerspricht es nicht offensichtlich dem Gesetz, wie die Vorinstanz auf den noch appellationsweise geltend gemachten ursprünglichen gesamten Forderungsbetrag von Fr. 23'000.-- abzustellen und die Reduktion der ursprünglichen Klageforderung als teilweisen Klagerückzug zu verstehen, der, in Übereinstimmung mit dem Schrifttum, im entsprechenden Umfang zum Unterliegen führt (vgl. STUDER/RÜEGG/ EIHOLZER, Der Luzerner Zivilprozess, Kriens 1994, N. 1 zu § 119, sowie BÜHLMANN/RÜEGG/EIHOLZER, Ergänzungen zum Luzerner Zivilprozess, Kriens 2002, N. 1 zu § 119). Selbst dann sind aber von den ursprünglich eingeklagten Fr. 23'000.-- dem Beschwerdeführer Fr. 6'812.-- zugesprochen worden, d.h. er hat rund zu 30% obsiegt. Die Vorinstanz hat dies bei der Kostenverlegung im Ergebnis aber nur zu einem Fünftel berücksichtigt.
3.5 Sodann ist es in der konkreten Situation unhaltbar, davon auszugehen, der Beschwerdeführer habe zusätzlichen Prozessaufwand verursacht, indem er seine Forderung erst im Appellationsverfahren substantiierte. Wohl hatte der Beschwerdeführer am 2. Mai 2008 vor dem erstinstanzlichen Amtsgericht zwar um Gewährung der unentgeltlichen Rechtspflege ersucht, selbst aber ausdrücklich auf die Beiordnung eines unentgeltlichen Rechtsbeistandes verzichtet, wie aus dem entsprechenden Verfahrensentscheid des Amtsgerichtspräsidenten II von A._ vom 26. August 2008 hervorgeht. Die erste Instanz hat die Klage des Beschwerdeführers aber nicht nur mangels Substantiierung abgewiesen, sondern auch weil sie fälschlicherweise die Widerrechtlichkeit der Schadenszufügung verneinte. Die Belehrung des Amtsgerichtspräsidenten über die Substantiierungspflicht, die Beweislage, die Beweislast und die Folgen der Beweislosigkeit erfolgte zudem lediglich in abstrakter Weise und erst in der Hauptverhandlung. Einen zusätzlichen Aufwand hat der anwaltlich nicht vertretene Beschwerdeführer dem Gericht jedenfalls nicht verursacht.
3.6 Schliesslich wurde entgegen der Annahme der Vorinstanz das Appellationsverfahren nicht in erster Linie durch die fehlende Substantiierung des Schadens seitens des Beschwerdeführers verursacht, sondern dadurch, dass das Amtsgericht zu Unrecht die Widerrechtlichkeit verneint hatte. Der Beschwerdeführer musste appellieren, damit er zu seinem grundsätzlichen Recht kam. Es ist deshalb willkürlich, dem Beschwerdeführer die gesamten Kosten des Appellationsverfahrens aufzuerlegen.
3.7 Wenn also der Beschwerdeführer schon bei rein proportionaler Betrachtung zu 30% obsiegt hat und die Vorinstanz erklärtermassen das Obsiegen in der grundsätzlichen Frage der Haftung berücksichtigen will, darf der Beschwerdeführer nur mit deutlich weniger als 70% der Gesamtkosten belastet werden. Der angefochtene Kostenentscheid ist demnach willkürlich und aufzuheben. Die Vorinstanz wird über die Kostenverlegung neu zu entscheiden haben.
4. Die Beschwerde erweist sich als begründet und ist gutzuheissen und der angefochtene Entscheid ist im Kostenpunkt aufzuheben. Die Sache ist an die Vorinstanz zurückzuweisen zu neuem Entscheid im Sinne der Erwägungen.
Bei diesem Verfahrensausgang sind die Kosten der Einwohnergemeinde A._, um deren Vermögensinteressen es geht, aufzuerlegen (Art. 66 Abs. 1 und 4 BGG). Diese hat dem obsiegenden Beschwerdeführer eine Parteientschädigung für das bundesgerichtliche Verfahren zu entrichten (vgl. Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die subsidiäre Verfassungsbeschwerde wird gutgeheissen, und Ziff. 2 des Urteils des Obergerichts des Kantons Luzern vom 8. Februar 2011 wird aufgehoben. Die Sache wird an das Obergericht des Kantons Luzern zurückgewiesen zu neuem Entscheid im Sinne der Erwägungen.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Einwohnergemeinde A._ auferlegt.
3. Die Einwohnergemeinde A._ hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird dem Beschwerdeführer sowie der Einwohnergemeinde A._ und dem Obergericht des Kantons Luzern, 1. Abteilung, schriftlich mitgeteilt.
Lausanne, 10. Oktober 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Uebersax