Sachverhalt:
A. X._ sind Eigentümer der Parzelle A._-GBB-191, Z._ der Nachbarparzelle A._-GBB-192. Auf beiden Grundstücken steht ein Einfamilienhaus. Entlang der gemeinsamen Grenze führt eine auf dem Grundstück Z._ angelegte Mauer aus elf Granitblocksteinen mit einer Länge von je 1,4 m und einer Höhe von 50 cm. Die Blocksteine ragen an insgesamt 19 einzelnen Punkten zwischen zwei und neun cm auf das Grundstück X._.
Im Oktober 2005 forderten die Eheleute X._ ihre Nachbarn auf, die Grenzsituation zu korrigieren. Das Ehepaar Z._ berief sich auf ein mündlich gegebenes Einverständnis. In der Folge beschritten erstere den verwaltungsrechtlichen Weg. Mit Entscheid vom 19. Dezember 2007 hielt das Verwaltungsgericht fest, die umstrittenen Blocksteine seien ohne rechtskräftige Baubewilligung aufgestellt worden und eine solche könne auch nachträglich nicht erteilt werden; es wies aber die Sache zur allfälligen Erteilung einer Ausnahmebewilligung an die Politische Gemeinde zurück.
B. Parallel klagte das Ehepaar X._ auf dem Zivilweg mit dem Begehren, dafür zu sorgen, dass die Blocksteine nicht mehr auf ihr Grundstück ragten.
Nach Einholung eines Gutachtens bei dipl. Ing. ETH Y._ hiess der Einzelrichter des Bezirksgerichts Münchwilen die Klage mit Urteil vom 12. Januar 2010 gut und verpflichtete die Eheleute Z._, bis 1. April 2010 die Blocksteine so zu korrigieren, dass sie nicht mehr auf die nachbarliche Parzelle ragten.
Auf Berufung des Ehepaares Z._ hin wies das Obergericht des Kantons Thurgau die Klage mit Urteil vom 31. August 2010 ab.
C. Gegen das obergerichtliche Urteil haben X._ am 15. November 2010 Beschwerde in Zivilsachen, eventuell subsidiäre Verfassungsbeschwerde erhoben mit den Begehren um dessen Aufhebung, um Abweisung der kantonalen Berufung und um Bestätigung des erstinstanzlichen Urteils. Es wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1. Sachenrechtliche Streitigkeiten, namentlich solche im Zusammenhang mit dem Eigentumsrecht, sind grundsätzlich vermögensrechtlicher Natur, was sogar für die Anfechtung von Stockwerkeigentümerbeschlüssen gilt (BGE 108 II 77). Die vorliegende, keinerlei ideelle Komponenten aufweisende Streitigkeit ist entgegen der Auffassung der Beschwerdeführer vermögensrechtlich.
Entsprechend steht die Beschwerde in Zivilsachen nur offen, wenn der Streitwert mindestens Fr. 30'000.-- beträgt (Art. 74 Abs. 1 lit. b BGG). Gemäss Weisungsschein des Friedensrichters, auf welchem der Streitwert mit zwischen Fr. 500.-- und Fr. 8'000.-- liegend angegeben war, reichten die Beschwerdeführer ihre Klage beim nur bis Fr. 8'000.-- zuständigen Bezirksgerichtspräsidium (vgl. § 45 ZPO/TG) ein; die Gegenseite erhob dagegen keine Einwände. Das Obergericht bezifferte den Streitwert im Zusammenhang mit der Rechtsmittelbelehrung auf Fr. 8'000.-- und wies entsprechend auf die subsidiäre Verfassungsbeschwerde hin. Vor Bundesgericht behaupten die Beschwerdeführer nunmehr, dass für den Fall einer vermögensrechtlichen Streitigkeit von einem Fr. 30'000.-- übersteigenden Streitwert auszugehen wäre. Der Nachweis dieser Beschwerdevoraussetzung obliegt nach der ausdrücklichen Regelung in Art. 42 Abs. 2 BGG den Beschwerdeführern; bei fehlendem Nachweis ist auf die Beschwerde nicht einzutreten (BGE 136 III 60 E. 1.1.1 S. 62). Zur Begründung wird einzig angeführt, beim Eigentum handle es sich um ein verfassungsmässiges Recht, weshalb ihnen die Möglichkeit offen stehen müsse, ein diesbezügliches Urteil vom Bundesgericht umfassend überprüfen zu lassen. Damit lässt sich der erforderliche Mindeststreitwert von Fr. 30'000.-- nicht dartun.
Bei tieferem Streitwert ist die Beschwerde in Zivilsachen ausnahmsweise zulässig, wenn sich eine Frage von grundsätzlicher Bedeutung stellt (Art. 74 Abs. 2 lit. a BGG). Die Beschwerdeführer behaupten dies. Eine Rechtsfrage von grundsätzlicher Bedeutung liegt jedoch nur dann vor, wenn diese zu einer erheblichen Rechtsunsicherheit führt und daher dringend einer Klärung durch das Bundesgericht bedarf (BGE 135 III 397 E. 1.2 S. 399 f.); in der Regel wird auch verlangt, dass sich die Frage kaum je mit einem genügenden Streitwert stellen und deshalb mit grosser Wahrscheinlichkeit nie mit voller Kognition geprüft werden könnte (BGE 134 III 267 E. 1.2.3 S. 271). Vorliegend sind diese Voraussetzungen nicht gegeben. Das Obergericht hat bei seinen Erwägungen massgebend auf das fehlende Interesse an der vertikalen Eigentumsausübung der Beschwerdeführer im Luftraum angesichts der konkreten Situation abgestellt. Dabei geht es typischerweise um die Anwendung von Grundsätzen der Rechtsprechung auf den Einzelfall, was nach ständiger Rechtsprechung keine Rechtsfrage von grundsätzlicher Bedeutung ist (BGE 133 III 493 E. 1.2 S. 495 f.; 134 III 115 E. 1.2 S. 117).
2. Nach dem Gesagten steht die Beschwerde in Zivilsachen nicht offen. In diesen Fällen kann subsidiäre Verfassungsbeschwerde erhoben werden (Art. 113 BGG), mit welcher ausschliesslich die Verletzung verfassungsmässiger Rechte gerügt werden kann (Art. 116 BGG). Hierfür gilt aufgrund der Verweisnorm in Art. 117 BGG das strenge Rügeprinzip im Sinn von Art. 106 Abs. 2 BGG. Das bedeutet, dass das Bundesgericht nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Lage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.2 S. 246).
Diesen Begründungsanforderungen vermag die Beschwerde nicht zu genügen: Es wird zwar abstrakt eine Verletzung des Willkürverbotes (Art. 8 BV) und des Rechtsgleichheitsgebotes (Art. 9 BV) gerügt, aber die anschliessende Begründung erschöpft sich in der Darstellung des eigenen Parteistandpunktes, ohne dass ein genügender Zusammenhang mit den als angeblich verletzt gerügten Verfassungsnormen hergestellt würde. Die Ausführungen sind mithin rein appellatorischer Natur, zumal sich die Beschwerdeführer auch nicht in für Verfassungsrügen genügender Substanziierung mit der ausführlichen Begründung des Obergerichtes auseinandersetzen, weshalb im vorliegenden Fall angesichts der konkreten Umstände kein Interesse an der vertikalen Ausübung des Grundeigentums gegeben sei (angebliche Versumpfung des Grundstücks könne nicht auf die bloss 50 cm hohen Steinblöcke zurückzuführen sein; fehlende anderweitige Begründung, inwiefern das minimale Überragen einzelner kleiner Erhebungen der Steinblöcke eine konkrete Betroffenheit, Störung oder Einschränkung bewirken würde; völlige Nutzlosigkeit eines teilweisen Rückversetzens der Steine um wenige Zentimeter, zumal die Beschwerdeführer an der gemeinsamen Grenze Tafeln mit einem richterlichen Betretungsverbot aufgestellt hätten; offensichtlich ausschliesslich schikanöses Begehren der Beschwerdeführer, welches an sich gleichzeitig auch einen Rechtsmissbrauch bedeuten würde, zumal die Blocksteinmauer nötig geworden sei, weil durch die Erweiterung des Kellers der Beschwerdeführer das Terrain der Beschwerdegegner in Mitleidenschaft gezogen wurde).
3. Zusammenfassend ergibt sich, dass auf die Beschwerde in Zivilsachen mangels genügenden Streitwertes und auf die subsidiäre Verfassungsbeschwerde mangels genügender Begründung der angeblichen Verfassungsverletzungen nicht eingetreten werden kann. Die Gerichtskosten sind somit den Beschwerdeführern aufzuerlegen (Art. 66 Abs. 1 BGG). Der obsiegenden Gegenseite ist im bundesgerichtlichen Verfahren kein entschädigungspflichtiger Aufwand entstanden.
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in Zivilsachen sowie auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'500.-- werden den Beschwerdeführern auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 28. März 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Möckli