Sachverhalt:
A. A.a B._ und A._ sind Miteigentümer des Grundstücks Nr. 1 in Z._. A._ ist zudem Eigentümer des östlich angrenzenden Grundstücks Nr. 2. Westlich und südlich der beiden Grundstücke befindet sich das Grundstück Nr. 3 von X._. Die darauf erbaute Villa C._ findet sich im Ortsbildinventar des Kantons St. Gallen, Kategorie schützenswert 1. Entlang der Grenze des Grundstückes Nr. 3 zu den Grundstücken Nr. 1 und Nr. 2 befinden sich verschiedene Pflanzungen, die den Grenzabstand nicht einhalten oder die Maximalhöhe überschreiten.
A.b Am 23. Februar 2005 ersuchte X._ die Gemeinde Z._, über das Areal der Gartenanlage auf den Grundstücken Nr. 3 und Nr. 4 eine Planungszone im Sinne von Art. 106 ff. des kantonalen Gesetzes über die Raumplanung und das öffentliche Baurecht (BauG) zu erlassen.
A.c Am 18. Mai 2005 gelangten B._ und A._ an das Kreisgerichtspräsidium Rorschach und verlangten, X._ sei zu verpflichten, die bezeichneten Bäume und Sträucher zu beseitigen, eventuell einzelne davon zurückzuschneiden. Auf jeden Fall müssten die Bäume und Sträucher auf dem Grundstück Nr. 3 jederzeit so unter Schnitt gehalten werden, dass sie weder im Luftraum noch unter Boden über die Grenze zu ihren Grundstücken ragen. Der Gerichtspräsident lehnte das mit Hinweis auf das Gesuch um Unterschutzstellung der strittigen Pflanzungen eingereichte Sistierungsbegehren von X._ am 23. August 2005 ab.
A.d Mit Entscheid vom 20. April 2006 hiess der Gerichtspräsident die Klage teilweise gut und verpflichtete X._, innert eines Monats ab Rechtskraft des Urteils folgende gemäss beiliegendem Plan bezeichneten Bäume und Sträucher entlang der westlichen und südlichen Grenze der Grundstücke Nr. 1 und Nr. 2 zu beseitigen: A3 gemeine Esche, B5 Scheinzypresse/Sawara-Scheinzypresse, B10 Bergföhre/Harkenkiefer, B13 Weisstanne sowie B15 Kirschlorbeer. Zudem wurde er angehalten, innert gleicher Frist die Eibenhecke A4/B4 auf die Höhe von 1.20 m und die Sträucher A1 Haselnuss und B1 Haselnuss rotlaubig, B8 japanische Scheinquitte und B20 Kirschlorbeer auf 2.40 m zurückzuschneiden und künftig unter Schnitt zu halten. Zudem wurde er verpflichtet, künftig die auf seinem Grundstück angewachsenen Bäume und Sträucher jederzeit so unter Schnitt zu halten, dass sie weder im Luftraum noch unter Boden über die Grenze zu den Grundstücken der Kläger ragen.
B. B.a X._ gelangte dagegen mit Berufung vom 23. Juni 2006 an das Kantonsgericht St. Gallen und beantragte die Aufhebung des erstinstanzlichen Entscheides sowie die Abweisung der Klage. Eventualiter sei der angefochtene Entscheid teilweise zu bestätigen, unter der Bedingung, dass sein Begehren um Unterschutzstellung der strittigen Bäume und Sträucher rechtskräftig abgewiesen werde. Er machte im Wesentlichen rechtsmissbräuchliches und widersprüchliches Verhalten der Kläger geltend und bestritt übermässige Einwirkungen auf deren Grundstücke. Zudem erneuerte er seinen Sistierungsantrag.
B.b Am 1. Mai 2007 beschloss die Gemeinde Z._ dem Ersuchen des Beschwerdeführers entsprechend, über das Areal der Gartenanlage auf den Grundstücken Nr. 3 und Nr. 4 eine Planungszone im Sinne von Art. 106 ff. des kantonalen Gesetzes über die Raumplanung und das öffentliche Baurecht (BauG) zu erlassen. Diese Massnahme wurde befristet bis zum rechtskräftigen Abschluss des Verfahrens betreffend Anpassung der Schutzverordnung, längstens bis am 30. November 2007. Der Beschwerdeführer wurde zur Einreichung eines Parkpflegewerks verpflichtet, aus welchem hervorgehe, wie er während der Dauer der Planungszone seine Gartenanlage fachgerecht zu pflegen und zu erhalten gedenke. Von der genannten Pflege abgesehen, seien sämtliche Eingriffe am Bestand der Bäume und Sträucher untersagt, die den Wert der Gartenanlage beeinträchtigen könnten. Einer allfälligen Einsprache wurde die aufschiebende Wirkung entzogen.
B.c Mit Entscheid vom 13. November 2007 wies der Vizepräsident der I. Zivilkammer des Kantonsgerichts das Sistierungsbegehren von X._ ab und verpflichtete diesen, innert eines Monats ab Rechtskraft des Urteils gemäss beiliegendem Plan die Weisstanne B13 zu beseitigen, die Bergföhre B10 auf eine Höhe von 5.50 m sowie in der seitlichen Ausladung um 1 m zurückzuschneiden und in dieser Höhe und in diesem Umfang unter Schnitt zu halten sowie das Efeu von ihr zu entfernen, die Scheinzypresse B5 auf der gegenwärtigen Maximalhöhe unter Schnitt zu halten sowie den Kirschlorbeer B15 auf 2.40 m zurückzuschneiden und auf dieser Höhe unter Schnitt zu halten. Er bestätigte das erstinstanzliche Urteil in Bezug auf die Eibenhecke, die Haselnuss und den Hasel rotlaubig und hob es betreffend die japanische Scheinquitte, den Kirschlorbeer und das generelle Unter-Schnitt-Halten auf. Die Vorinstanz nahm in ihrem Entscheid auf die obgenannte verwaltungsrechtliche Massnahme ausdrücklich Bezug. Hingegen lehnte sie eine Sistierung des Verfahrens bis zum endgültigen Entscheid über eine Schutzverordnung ab und verwies den Beschwerdeführer auf die Möglichkeit, im Vollstreckungsverfahren etwaige Hindernisse geltend zu machen.
C. Mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde vom 17. Dezember 2007 ist X._ (nachfolgend: Beschwerdeführer) an das Bundesgericht gelangt. Er beantragt die Aufhebung des vorinstanzlichen Entscheides und die Rückweisung der Sache an die Vorinstanz mit der Anweisung, das Verfahren bis zur rechtskräftigen Beendigung des Unterschutzstellungsverfahrens zu sistieren. Eventualiter sei die Klage zur Zeit abzuweisen; subeventualiter sei die Klage abzuweisen. B._ und A._ (nachfolgend: Beschwerdegegner) schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Der Beschwerdeführer nahm am 4. April 2008 dazu Stellung. Die Instruktionsrichterin teilte den Parteien am 9. April 2008 mit, dass sie den Schriftenwechsel damit als abgeschlossen betrachte, welches Schreiben sich mit einer erneuten Eingabe der Beschwerdegegner kreuzte.
D. Mit Verfügung vom 10. Januar 2008 gewährte der Präsident der II. zivilrechtlichen Abteilung der Beschwerde aufschiebende Wirkung.
Erwägungen:
1. 1.1 Anlass zur vorliegenden Beschwerde gibt die Verletzung der für Bäume und Sträucher geltenden kantonalen Vorschriften hinsichtlich Abstand, Höhe und Überragen auf andere Grundstücke, mithin eine Zivilsache mit Vermögenswert (Art. 72 Abs. 1 BGG). Dagegen steht die Beschwerde in Zivilsachen zur Verfügung, soweit die gesetzliche Streitwertgrenze von Fr. 30'000.-- erreicht wird (Art. 74 Abs. 1 lit. b BGG).
1.2 Die Vorinstanz setzte mit Blick auf die innerkantonale Zuständigkeit den Streitwert auf maximal Fr. 20'000.-- fest. Der Beschwerdeführer, der im kantonalen Verfahren den Streitwert auf weit über Fr. 20'000.-- bezifferte, will diesen nun sogar auf über Fr. 30'000.-- festgesetzt haben. Er wirft der Vorinstanz in diesem Zusammenhang vor, nicht vom Wertverlust seiner Liegenschaft ausgegangen zu sein, welche durch das Fällen und Zurückschneiden der Bäume und Sträucher entstehe. Lautet - wie vorliegend - ein Begehren nicht auf Bezahlung einer bestimmten Geldsumme, so setzt das Bundesgericht den Streitwert nach Ermessen fest (Art. 51 Abs. 2 BGG). Für die Berechnung des Streitwertes ist in der Tat nicht auf die Beseitungs- und Schnittkosten abzustellen, sondern vielmehr auf die Wertvermehrung des klägerischen bzw. die Wertverminderung des beklagtischen Grundstücks, falls diese höher ausfällt. Insofern ist der erstmalig erhobene Hinweis auf die bundesgerichtliche Praxis berechtigt (Urteil 5C.200/2005 vom 21. Oktober 2005, E. 1.2, nicht publiziert in BGE 132 III 6). Nun ergeben sich aber aufgrund der allgemeinen Ausführungen des Beschwerdeführers zum Wertverlust seines Grundstückes keine Hinweise darauf, dass der Streitwert tatsächlich die gesetzliche Grenze von Fr. 30'000.-- überschreiten sollte.
1.3 Damit ist die Beschwerde in Zivilsachen nur gegeben, soweit sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt (Art. 74 Abs. 2 lit. a BGG). Dieser Rechtsbegriff wird vom Bundesgericht angesichts der im Verlaufe der parlamentarischen Beratungen eingeführten subsidiären Verfassungsbeschwerde sehr restriktiv ausgelegt, weshalb nicht mehr einfach von den in der Botschaft des Bundesrates erwähnten Anforderungen ausgegangen werden kann (BGE 134 III 115 E. 1.2; 133 III 493 E. 1.1 mit Hinweisen auf die Entstehungsgeschichte). Beruft sich der Beschwerdeführer auf diese Bestimmung, so hat er in seiner Rechtsschrift darzutun, weshalb die Voraussetzungen hiefür gegeben sein sollen (Art. 42 BGG; BGE 133 III 645 E. 2.4). Dass die Vorinstanz nach Ansicht des Beschwerdeführers von der bundesgerichtlichen Rechtsprechung zum Verhältnis von privatrechtlichem Immissionsschutz und kantonalem Verwaltungsrecht abgewichen sein soll, lässt eine Rechtsfrage nicht als von grundsätzlicher Bedeutung erscheinen. In BGE 132 III 6 wurde das Verhältnis öffentlichrechtlicher kantonaler Planungs- bzw. Schutzvorschriften zum zivilrechtlichen Minimalschutz geklärt. Vorliegend geht es - wie der Beschwerdeführers selbst einräumt - um die Anwendung dieser Grundsätze auf den konkreten Fall und damit selbstredend nicht um eine Rechtsfrage von grundsätzlicher Bedeutung. Die Beschwerde in Zivilsachen erweist sich daher unzulässig, weshalb darauf nicht eingetreten werden kann. Zu beurteilen bleibt somit die eventualiter erhobene subsidiäre Verfassungsbeschwerde.
1.4 Mit der Verfassungsbeschwerde kann nur die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Das Bundesgericht prüft die Verletzung eines Grundrechts nur, soweit eine entsprechende Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 117 i.V.m. Art. 106 Abs. 2 BGG). Dabei hat der Beschwerdeführer in der Beschwerde anzugeben, welches verfassungsmässige Recht verletzt worden ist, und substantiiert darzulegen, worin die Verletzung besteht (vgl. der zu Art. 90 OG ergangene BGE 130 I 26 E. 2.1 S. 31, 258 E. 1.3). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 118 BGG). Es weicht davon nur ab, wenn die Sachverhaltsfeststellung unter Verletzung eines verfassungsmässigen Rechts zustande gekommen ist (Art. 118 Abs. 2 und Art. 116 BGG), was der Beschwerdeführer präzise geltend zu machen hat (Art. 117 i.V.m. Art. 106 Abs. 2 BGG; BGE 133 III 439 E. 3.2).
2. 2.1 Die Vorinstanz stützte ihren Entscheid im Wesentlichen auf die in Art. 98 EGZGB/SG in Verbindung mit Art. 688 ZGB festgelegten Grenzabstandsvorschriften für Pflanzen, deren Überschreitung sie als Verletzung des Eigentumsrechts im Sinn von Art. 679 ZGB betrachtete, welche die daselbst vorgesehenen Rechtsfolgen nach sich zöge. Den Klägern (Beschwerdegegnern) könne kein rechtsmissbräuchliches Verhalten vorgeworfen werden, weil sie sich gegen die Beeinträchtigungen wehrten, welche von bestimmten Bäumen und Sträuchern auf dem Nachbargrundstück auf ihre Liegenschaft ausgehen. Weder das hängige öffentlichrechtliche Verfahren noch die vom Gemeinderat Z._ erlassene Planungszone hinderten den Zivilrichter daran, über die zivilrechtlichen Verhältnisse zu entscheiden.
2.2 Der Beschwerdeführer macht geltend, das Kantonsgericht sei in Willkür verfallen, indem es sich über den in diesem Bereich geltenden klaren Vorrang des kantonalen öffentlichen Rechts gegenüber dem Bundesrecht hinweggesetzt habe.
2.3 Der Willkürvorwurf ist begründet. Das Bundesgericht hatte bereits mehrfach Gelegenheit, sich in Zusammenhang mit nachbarrechtlichen Fragen zum Verhältnis von Zivilrecht und öffentlichem Recht, sei es kantonaler oder eidgenössischer Herkunft, auszusprechen. So hat es beispielsweise festgehalten, dass das öffentlichrechtliche Baurecht dem privatrechtlichen Immissionsschutz vorgeht und daher ein Bauvorhaben, welches den raumplanerischen und baureglementarischen Vorschriften entspricht, nicht mit dem Hinweis auf übermässige Immissionen nach Art. 684 ZGB verhindert werden kann (BGE 129 III 161 E. 2.6). Alsdann hat es zum Verhältnis von privatrechtlichem und öffentlichrechtlichem Immissionsschutz bei Grossveranstaltungen auf öffentlichem Grund Stellung genommen (BGE 132 III 49 E. 2) und das Verhältnis zwischen nachbarrechtlichen Abwehransprüchen eines Grundeigentümers und dem Enteignungsrecht eines vom Bund konzessionierten Flughafens geklärt (Urteil 5C.144/2006 vom 18. Dezember 2007 E. 5, zur Publikation bestimmt). Der bundesrechtliche Immissionsschutz im Sinn eines Minimalschutzes und das kantonale Pflanzenrecht sind ebenfalls voneinander abgegrenzt (BGE 126 III 452 E. 3) und den Vorschriften des kantonalen öffentlichen Rechts über die Unterschutzstellung von Bäumen ist der Vorrang vor dem kantonalen Zivilrecht eingeräumt worden (BGE 132 III 6 E. 3).
2.4 Im vorliegenden Fall steht nicht fest, ob und in welchem Umfang die strittigen Bäume und Sträucher dereinst kraft kantonalen Rechts unter Schutz stehen werden (BGE 133 II 220 E. 2.3) und welche Auswirkungen sich daraus auf die Liegenschaft der Beschwerdegegner ergeben. Dem Beschwerdeführer ist aufgrund der kantonalrechtlichen Planungszone bis auf weiteres lediglich untersagt, Eingriffe an den davon erfassten Bäumen und Sträuchern vorzunehmen. Gleichzeitig hat dieser aber auch während der Dauer der Planungszone für eine sachgerechte Pflege der Pflanzen zu sorgen und dabei auf die Interessen der Nachbarn Rücksicht zu nehmen. Zu diesem Zweck wurde er bereits mit Anordnung der Planungszone zur Einreichung eines Parkpflegewerkes verpflichtet, welcher Aufforderung er inzwischen nachgekommen ist. Dem angefochtenen Entscheid lässt sich nicht entnehmen, zu welchen Vorkehren der Beschwerdeführer durch diese Auflage konkret verpflichtet worden ist und wie sie sich zu den zivilrechtlichen Anordnungen der Vorinstanz verhalten. Immerhin geht der Entscheid nicht unwesentlich in Richtung einer Unterhaltsverpflichtung für den Beschwerdeführer. Es drängt sich daher eine Abstimmung der zivilrechtlichen Entscheidfindung auf die verwaltungsrechtlich angeordnete Planungszone samt dem Parkpflegewerk aus. Um dem grundsätzlichen Vorrang des kantonalen öffentlichen Rechts in diesem Bereich zum Durchbruch zu verhelfen (BGE 132 III 6 E. 3), hätte die Vorinstanz die Anträge der Beschwerdegegner in Berücksichtigung dieser während des kantonalen Berufungsverfahrens ergangenen Massnahme beurteilen müssen. Das Kantonsgericht hat dem besagten Vorrang des kantonalen öffentlichen Rechts ohne sachlichen Grund keine Beachtung geschenkt. Der angefochtene Entscheid erweist sich daher als willkürlich.
3. Die Beschwerde ist somit im Sinn der Erwägung 2.4 hiervor gutzuheissen und die Sache zur Neubeurteilung an die erste Instanz zurückzuweisen (Art. 107 Abs. 2 BGG). Dabei wird dem vorübergehenden Charakter der Planungszone Rechnung zu tragen und allenfalls nicht rückgängig zu machende zivilrechtliche Anordnungen bis zum endgültigen Entscheid über die Unterschutzstellung auszusetzen bzw. mit einer entsprechenden Bedingung zu versehen sein (Roos, Pflanzen im Nachbarrecht, Diss. Zürich 2002, S. 232). Damit erübrigt es sich, auf die weiteren Rügen einzugehen.
4. Nach dem Gesagten ist der Beschwerde nur teilweise Erfolg beschieden, da vorliegend (noch) nicht in der Sache entschieden worden ist. Ausgangsgemäss werden die Gerichtskosten je zur Hälfte dem Beschwerdeführer und den Beschwerdegegnern auferlegt und von der Zusprechung einer Parteientschädigung ist abzusehen (Art. 66 Abs. 1 und Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in Zivilsachen wird nicht eingetreten.
2. Die subsidiäre Verfassungsbeschwerde wird gutgeheissen, soweit darauf einzutreten ist. Die Ziffern 2, 3, 4, 5 und 6 des Entscheides des Kantonsgerichts St. Gallen, Vizepräsident der I. Zivilkammer, vom 13. November 2007 werden aufgehoben und die Sache wird zu neuem Entscheid im Sinn der Erwägungen an das Kreisgerichtspräsidium Rorschach zurückgewiesen.
3. Die Gerichtskosten von Fr. 3'000.-- werden je zur Hälfte dem Beschwerdeführer und den Beschwerdegegnern auferlegt.
4. Die Parteikosten werden wettgeschlagen.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, Vizepräsident der I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 2. Juni 2008
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Raselli Zbinden