Faits:
A. A.a Depuis 1981, Y._ est propriétaire, entre autres, des parcelles nos 346 et 349, sises sur le territoire de la Commune de Z._. X._ est propriétaire notamment des parcelles nos 347 et 348, situées dans la même commune.
Tous ces différents fonds sont situés de part et d'autre d'un chemin vicinal reliant le chemin xxx à une grande parcelle, située en zone agricole. Ce chemin vicinal est immatriculé au registre foncier comme formant la parcelle no 3267.
A.b Sur leur côté nord, les parcelles nos 347, 348 et 349 bordent le chemin xxx. La parcelle no 349, appartenant à Y._, est délimitée du talus se situant en contre-bas par un mur, surmonté d'une barrière en fer forgé, qui se prolonge en formant un "L" sur la parcelle no 348, propriété de X._. La parcelle no 348 est ainsi empiétée par une surface triangulaire large de 1,2 mètre environ.
Sur leur côté sud, les parcelles nos 347 et 348 sont séparées de la parcelle no 346 par le chemin vicinal no 3267. Le long dudit chemin, la parcelle no 346 de Y._ est bordée d'un muret, surmonté d'un grillage métallique. A hauteur de la parcelle no 347, appartenant à X._, ce muret s'écarte progressivement de la limite de la parcelle no 346 pour empiéter sur le chemin vicinal séparant les deux parcelles. Cet empiétement se prolonge devant la parcelle no 348, également propriété de X._.
A.c Par courrier du 19 mai 2005, ce dernier a indiqué à Y._ vouloir construire un couvert à voitures sur les parcelles nos 347 et 348, mais que l'empiétement de la parcelle no 349 sur la parcelle no 348 et le muret édifié sur le chemin vicinal le long de la parcelle no 346 l'empêchaient toutefois, selon les normes en matière de cons-truction, de réaliser son projet.
Les pourparlers entre les parties n'ont pas abouti.
B. B.a Le 12 juillet 2006, X._ a formé contre Y._ une action négatoire au sens de l'<ref-law>. X._ a avant tout exposé que la partie du chemin vicinal faisant face aux parcelles nos 347 et 348 lui appartenait, et, qu'en conséquence, le muret construit le long de la parcelle no 346 empiétait sur sa propriété. De même, le mur délimitant la parcelle no 349 du talus situé en contre-bas et se prolongeant en forme de "L" sur la parcelle no 348 empiétait sur celle-ci. X._ a ainsi conclu à ce que Y._ soit condamné à supprimer le mur et le muret à ses frais. Interdiction devait par ailleurs être faite à ce dernier d'emprunter, à pied ou en voiture, la partie du chemin vicinal no 3267 faisant face aux parcelles nos 347 et 348.
Y._ s'est opposé à la demande formée par X._ et a déposé une demande reconventionnelle. Principalement, Y._ concluait à ce qu'il fût constaté qu'en qualité de propriétaire des parcelles nos 346 et 349, il disposait d'un droit de passage nécessaire sur l'entier du chemin vicinal; estimant en outre bénéficier d'une servitude d'empiétement, acquise à titre gratuit par l'écoulement du temps, en faveur de sa parcelle no 346 et grevant la partie du chemin vicinal faisant face aux parcelles nos 347 et 348, il requérait l'inscription d'une telle servitude au registre foncier. Subsidiairement, il demandait la constitution et l'inscription d'une servitude de passage nécessaire sur l'entier du chemin vicinal, au profit de ses parcelles, de même que la constitution et l'inscription, en faveur de la parcelle no 346, d'une servitude d'empiétement sur la partie du chemin vicinal faisant face aux parcelles nos 347 et 348.
B.b Par jugement du 4 octobre 2007, le Tribunal de première instance du canton de Genève a ordonné à Y._ de supprimer les deux empiétements litigieux, dans leur intégralité et à ses frais, et lui a fait interdiction d'emprunter, pour passer à pied ou en voiture, la partie du chemin vicinal bordant les parcelles nos 347 et 348. Le Tribunal de première instance a par ailleurs débouté Y._ de toutes ses conclusions reconventionnelles.
Statuant le 19 septembre 2008 sur recours de Y._, la Cour de justice a annulé le jugement de première instance. Après avoir constaté que X._ était propriétaire de la partie du chemin vicinal no 3267 faisant face aux parcelles nos 347 et 348, les juges cantonaux ont dit que X._ était fondé à démolir les deux empiétements litigieux, mais à ses frais. Ils ont par ailleurs débouté Y._ de ses conclusions en constatation et/ou en constitution de servitudes d'empiétement et déclaré irrecevables ses conclusions en constitution et en inscription, au profit des parcelles dont il était propriétaire, d'une servitude de passage nécessaire sur l'entier du chemin vicinal. Les frais de procédure étaient en outre répartis par moitié entre les parties et leurs dépens compensés.
B.c X._ a formé devant la Cour de justice une demande d'interprétation, subsidiairement un recours en révision contre l'arrêt rendu le 19 septembre 2008, sollicitant que son dispositif soit complété dans le sens des considérants et qu'il comporte, conformément à ses conclusions, l'interdiction pour Y._ de passer, à pied ou en voiture, sur la partie du chemin vicinal no 3267 faisant face aux parcelles nos 347 et 348.
Sa demande a été rejetée par arrêt du 16 janvier 2009.
C. Parallèlement au dépôt de la demande d'interprétation, X._ (ci-après le recourant) interjette un recours en matière civile devant le Tribunal fédéral. Il conclut à l'annulation de l'arrêt rendu par la Cour de justice le 19 septembre 2008, et, notamment, à ce qu'il soit ordonné à Y._ de supprimer les empiétements litigieux, dans leur intégralité et à ses frais, à ce qu'il lui soit fait interdiction d'emprunter, pour passer à pied ou en voiture, la partie du chemin vicinal no 3267 bordant les parcelles nos 347 et 348 et à ce qu'il soit condamné au paiement de l'intégralité des dépens de la procédure cantonale et fédérale. A l'appui de son recours, X._ se plaint de la violation de l'<ref-law>, de l'établissement manifestement inexact des faits par les juges cantonaux (<ref-law>), ainsi que de l'application arbitraire des art. 176 et 178 de la loi de procédure civile genevoise (ci-après LPC; RS GE E 3 05).
Invité à répondre, Y._ (ci-après l'intimé) conclut au rejet du recours et à la confirmation de l'arrêt rendu par la Cour de justice en date du 19 septembre 2008.
La Cour de justice s'est quant à elle référée aux considérants de son arrêt.

Considérant en droit:
1. L'arrêt entrepris est une décision finale (<ref-law>), rendue par une autorité cantonale de dernière instance (<ref-law>) dans une affaire civile (<ref-law>) de nature pécuniaire, dont la valeur litigieuse est supérieure à 30'000 fr. (<ref-law>). Le présent recours a par ailleurs été interjeté dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi, par une partie qui a partiellement succombé dans ses conclusions prises devant l'autorité précédente (<ref-law>). Il est donc en principe recevable.
2. L'intimé prétend avant tout que le recourant aurait pris devant le Tribunal de céans une conclusion nouvelle, irrecevable au sens de l'<ref-law>. Dans ses écritures cantonales, le recourant aurait en effet conclu à ce qu'il soit ordonné à l'intimé "de supprimer, dans leur intégralité et à ses frais, les empiétements situés sur les parcelles nos 347 et 348, feuillet 24 de la commune de Z._" tandis que dans son recours en matière civile, il demande qu'il soit ordonné à l'intimé "de supprimer, dans son intégralité et à ses frais, le mur en forme de 'L' édifié sur la parcelle no 348, ainsi que le muret construit sur la partie du chemin vicinal faisant face aux parcelles nos 347 et 348, feuillet 24 de la commune de Z._". En tant que, devant les instances précédentes, le recourant n'aurait jamais conclu à la suppression du muret se prolongeant sur le chemin vicinal no 3267, ce serait arbi-trairement que la Cour de justice aurait examiné cette question.
A ce grief, déjà présenté devant la cour cantonale, celle-ci a répondu qu'en première instance, le recourant avait demandé tant la suppression du mur en forme de "L" que celle du muret édifié sur le chemin vicinal. Le transport sur place ayant également porté sur ces deux objets, il fallait donc raisonnablement comprendre que les conclusions en suppression des empiétements visaient l'une et l'autre constructions. Cette conclusion se justifiait d'autant plus que l'intimé lui-même concluait à l'inscription d'une servitude d'empiétement sur le chemin vicinal no 3267.
En se contentant d'alléguer, sans autre motivation, que ce serait par inadvertance manifeste que les juges cantonaux se seraient prononcés sur l'empiétement du muret sur le chemin vicinal, l'intimé ne démontre nullement, au moyen d'une argumentation répondant aux exigences de motivation (<ref-law>), que l'autorité précédente aurait versé dans l'arbitraire. Il n'y a donc pas lieu d'entrer en matière sur son grief.
3. Le recourant prétend que les frais liés à la suppression des deux empiétements litigieux doivent être mis à la charge de l'intimé.
3.1 Considérant que l'intimé n'était pas à l'origine des constructions litigieuses, la cour cantonale en a déduit qu'il était dépourvu de la légitimation passive s'agissant de la suppression du trouble. Une telle légitimation devait cependant lui être reconnue en constatation de droit, le recourant ayant en effet un intérêt juridique suffisant. La Cour de justice a ensuite considéré que la partie du chemin vicinal faisant face aux parcelles nos 347 et 348 était propriété exclusive du recourant et que les constructions litigieuses constituaient un trouble de la propriété au sens de l'<ref-law>. L'intimé ne disposait par ailleurs d'aucune servitude d'empiétement - acquise par prescription acquisitive ou selon l'<ref-law> - lui permettant de justifier le trouble à la propriété engendré et l'on ne pouvait déduire du comportement du recourant qu'il aurait consenti aux empiétements. Les juges cantonaux ont ainsi constaté que les constructions devaient être supprimées. Faute toutefois pour l'intimé de posséder la légitimation passive à l'action négatoire, la démolition des empiétements devait être ordonnée aux frais du recourant.
3.2 Le recourant reproche à la cour cantonale d'avoir fait application d'une jurisprudence publiée aux <ref-ruling> dont les circonstances ne seraient pas comparables à celles de la présente cause. Contrairement à l'affaire ayant donné lieu à cette jurisprudence, l'auteur du trouble ne pourrait en l'espèce être recherché, au double motif qu'il serait inconnu des parties à la procédure et de surcroît vraisemblablement décédé, de même que la personne dont l'intimé tenait ses propriétés. En omettant de tenir compte de ces éléments de fait, la cour cantonale aurait établi ceux-ci de manière manifestement inexacte et privé le recourant de ses droits découlant de l'<ref-law>. Il appartiendrait au propriétaire successeur de l'immeuble qui cause le trouble, à savoir l'intimé, de se voir reconnaître la légitimation passive à l'action en cessation du trouble et, ainsi, de payer les frais afférents à la démolition des empiétements constatés.
L'intimé soutient que, dans la mesure où il n'est pas l'auteur du trouble à la propriété, il ne possède pas la légitimation passive à l'action négatoire. Le recourant ne saurait ainsi l'assigner "par défaut" en cessation du trouble. Le fardeau de la preuve et de l'allégation s'agissant de l'auteur véritable et direct du trouble appartiendrait par ailleurs au recourant et, tant que ce dernier ne serait pas en mesure de déterminer l'auteur des constructions litigieuses, il conviendrait de considérer celles-ci non comme des empiétements, mais comme faisant partie intégrante des parcelles du recourant. Celui-ci en serait ainsi devenu propriétaire en acquérant lesdites parcelles.
3.3 Seule demeure en l'espèce litigieuse la question de la prise en charge des coûts liés à la démolition des empiétements.
3.3.1 L'<ref-law> confère au propriétaire, entre autres facultés, le droit de repousser toute usurpation. Il peut ainsi protéger son droit par l'action négatoire, prévue à l'<ref-law> et diriger cette action contre tout perturbateur, notamment contre le propriétaire d'un fonds voisin qui aurait porté atteinte à son droit. Toutefois, les atteintes provenant des voisins n'entrent dans le champ d'application de l'<ref-law> que s'il s'agit d'atteintes directes, c'est-à-dire si le voisin agit directement sur le fonds du demandeur (<ref-ruling> consid. 5.1; <ref-ruling> consid. 2b; arrêt 5C.137/2004 du 17 mars 2004 consid. 2.2 publié in Revue du notariat et du registre foncier [RNRF] 2006, p. 140; Paul-Henri Steinauer, Les droits réels, t. II, 3e éd., 2002, n. 1896 et les références). En revanche si l'atteinte au droit du demandeur n'est que la conséquence indirecte de l'exercice du droit de propriété sur un autre fonds, c'est l'<ref-law> qui s'applique, à l'exclusion de l'<ref-law> (<ref-ruling> consid. 4b; Steinauer, op. cit., n. 1896 et les références citées; HEINZ REY, Die Grundlagen des Sachenrechts und das Eigentum, t. I, 3e éd., 2007, n. 2074 sv.).
En tant qu'elle vise la suppression du trouble, l'action négatoire de l'<ref-law> permet non seulement d'exiger la cessation de l'atteinte, mais également le rétablissement de l'état antérieur (<ref-ruling> consid. 2; Arthur Meier-Hayoz, Commentaire bernois, 5e éd., 1981, n. 109 ad art. 641; Rey, op. cit., n. 2046). En cas d'inexécution de la part de l'auteur du trouble, le lésé pourra faire exécuter la remise en état par une tierce personne, aux frais de l'auteur du trouble (<ref-law>). En revanche, l'action en cessation de l'atteinte prévue par l'<ref-law> tend à la suppression de l'état de choses à l'origine de l'atteinte. Elle a ainsi pour objet la suppression de la cause de l'atteinte sur le fonds d'où elle provient, mais non la remise en l'état du fonds endommagé (ATF <ref-ruling> consid. 2b; <ref-ruling> consid. 3; Steinauer, op. cit., n. 1920 et les références citées). Pour cette raison, l'action en cessation de l'atteinte prévue par l'art. 679 est souvent dou-blée d'une action en dommages-intérêts, qui, elle, permet précisément de supprimer les conséquences des immissions sur le fonds endom-magé (Steinauer, op. cit., n. 1928; Rey, op. cit., n. 2078; ATF <ref-ruling> consid. 2b).
3.3.2 Les constructions litigieuses se situent toutes deux en partie sur les fonds du recourant et en partie sur ceux de l'intimé. Il s'agit donc bien d'empiétements au sens de l'<ref-law> (Steinauer, op. cit., n. 1642 sv.). Pour y mettre fin, le propriétaire lésé peut en principe exiger la suppression matérielle de la partie de la construction qui constitue l'empiétement; il doit alors agir par le biais de l'action négatoire (<ref-law>; arrêt 5A_332/2007 du 15 novembre 2007 consid. 5.1; Steinauer, op. cit., n. 1647; Arthur Meier-Hayoz, Commentaire bernois, 3e éd., 1974, n. 38 ad art. 674). La loi réserve toutefois au constructeur de l'empiétement la possibilité d'obtenir une servitude d'empiétement, moyennant le respect des conditions prévues à l'<ref-law>. Si le propriétaire lésé, après avoir eu connaissance de l'em-piétement, ne s'y est pas opposé en temps utile, l'auteur des constructions peut ainsi demander l'attribution de l'empiétement à condition qu'il soit de bonne foi et que les circonstances le permettent.
S'agissant du muret édifié sur le chemin vicinal, la cour cantonale a refusé d'attribuer à l'intimé une servitude d'empiétement au sens de l'<ref-law>, jugeant qu'il n'avait allégué aucun intérêt particulier au maintien de cette construction. En tant que l'intimé n'a pas recouru contre cette dernière décision qui rejetait sa demande reconventionnelle, la cour de céans ne peut réexaminer les conditions d'octroi d'une telle servitude pour statuer sur les frais de remise en état.
Le litige ne peut donc être tranché que sous l'angle de l'<ref-law>, et ce pour les deux constructions. Or, l'intimé n'étant pas à l'origine de celles-ci, il ne possède pas la qualité pour défendre à cette action et ne peut donc être recherché en suppression du trouble par le propriétaire lésé. Seul peut l'être l'auteur des constructions litigieuses. Que celui-ci soit inconnu ou décédé ne permet pas pour autant au propriétaire lésé de diriger l'action négatoire contre le propriétaire actuel des fonds d'où partent les empiétements.
4. 4.1 Le recourant conclut également à ce qu'il soit fait interdiction à l'intimé d'emprunter, pour passer à pied ou en voiture, la partie du chemin vicinal no 3267 dont la cour cantonale a reconnu qu'il était le propriétaire exclusif.
4.2 Dans la mesure où la cour cantonale a jugé que le recourant était propriétaire de la partie du chemin vicinal no 3267 faisant face à ses parcelles, elle a admis que le passage de l'intimé, à pied ou en voiture, sur cette partie du chemin vicinal, constituait un trouble de la propriété au sens de l'<ref-law>, trouble qui était encore actuel et que le recourant était dès lors fondé à faire cesser. Examinant les motifs justificatifs invoqués par l'intimé, les juges cantonaux sont parvenus à la conclusion qu'il n'était au bénéfice d'aucune servitude de passage selon l'ancien droit genevois, qu'il n'avait pas acquis cette servitude par prescription acquisitive extraordinaire et que ses conclusions tendant à l'octroi d'un droit de passage nécessaire étaient irrecevables. L'interdiction d'emprunter le chemin, prononcée en première instance et demandée par le recourant, n'a toutefois pas été confirmée dans le dispositif de l'arrêt, compte tenu de l'éventuel bien-fondé d'un droit de passage nécessaire. La demande d'interprétation, déposée à cet égard par le recourant devant la cour cantonale, a ainsi été déclarée infondée par cette dernière, de même que sa demande subsidiaire en révision.
4.3 Le recourant soutient que, tant que l'intimé ne bénéficie pas d'un droit de passage nécessaire, le trouble subsiste et il est ainsi fondé à le faire cesser. Il ne lui appartient pas de pâtir du fait que l'intimé n'a pas entrepris les démarches utiles, ni pris des conclusions qui s'imposaient pour prétendre, le cas échéant à un passage nécessaire au sens de l'<ref-law>.
L'intimé ne remet pas en cause le fait que la Cour de justice ait attribué au recourant la propriété exclusive de la partie du chemin vicinal bordant les parcelles nos 347 et 348; il ne conteste pas non plus l'existence du trouble à la propriété constaté par la cour cantonale, ne faisant valoir à cet égard aucun motif justificatif. Il se contente de soutenir que les juges cantonaux n'étaient pas en mesure de prononcer une interdiction de passage à pied ou en voiture à son encontre dans la mesure où l'existence d'un droit de passage nécessaire en faveur de sa parcelle était réservée.
4.4 Le passage de l'intimé sur la partie du chemin vicinal appartenant au recourant constitue un trouble de la propriété. Puisqu'il constitue une atteinte à un droit absolu, ce trouble est en principe illicite. L'illicéité peut toutefois être levée si l'auteur du trouble peut établir un motif justificatif fondé sur la loi ou sur le consentement du lésé (<ref-ruling> consid. 2a; arrêt 5C.137/2004 du 17 mars 2005 consid. 2.3 publié in RNRF 2006, p. 140; Paul-Henri Steinauer, Les droits réels, t. I, 3e éd., 2007, n. 1036 et les références doctrinales citées). La cour cantonale a considéré que l'intimé ne bénéficiait d'aucune servitude de passage selon l'ancien droit genevois et qu'il n'avait pas acquis une telle servi-tude par prescription acquisitive. Si ces derniers motifs justificatifs n'entrent pas en considération, la question du bien-fondé d'un éven-tuel droit de passage nécessaire demeure cependant ouverte. Celle-ci n'a effectivement pas fait l'objet d'un examen au fond par les juges cantonaux, les conclusions de l'intimé ayant été déclarées irrece-vables sur ce point. Néanmoins, faute pour l'intimé de déposer une action en attribution d'une servitude de passage, le trouble à la pro-priété, constaté par la cour cantonale et non contesté par l'intimé, sub-siste. Le recourant n'a pas à supporter l'éventuelle passivité de l'intimé à cet égard. Il convient donc de donner partiellement droit au recourant en prononçant l'interdiction de passage, mais en prévoyant toutefois que celle-ci ne prendra effet que si, dans les trente jours dès la noti-fication d'une expédition complète du présent arrêt, l'intimé n'a pas ouvert action en attribution d'une servitude de passage nécessaire ou si une telle action est définitivement rejetée.
5. Le recours devant être partiellement admis, il convient de renvoyer la cause à l'autorité cantonale pour nouvelle décision sur les frais et dépens de l'instance cantonale. Il est donc superflu d'examiner les griefs du recourant relatifs à l'application arbitraire des art. 176 et 178 LPC par la cour cantonale.
6. En définitive, le recours est partiellement admis en ce qui concerne l'interdiction de passage de l'intimé sur la partie du chemin vicinal appartenant au recourant. Cette interdiction ne prendra toutefois effet que si, dans les trente jours dès la notification d'une expédition complète du présent arrêt, l'intimé n'a pas ouvert action en attribution d'une servitude de passage nécessaire, ou si une telle action est définitivement rejetée. Le recours est rejeté pour le surplus. Les frais judiciaires sont répartis à parts égales entre les parties (<ref-law>) et les dépens compensés. Il appartiendra à l'autorité cantonale de statuer à nouveau sur les frais et dépens de la procédure cantonale (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis et l'arrêt attaqué est réformé en ce sens qu'il est fait interdiction à l'intimé de passer, à pied ou en voiture, sur la partie de la parcelle no 3267 faisant face aux parcelles nos 347 et 348. Cette interdiction ne prendra effet que si, dans les trente jours dès la notification d'une expédition complète du présent arrêt, l'intimé n'a pas ouvert action en attribution d'une servitude de passage nécessaire, ou si une telle action est définitivement rejetée. Le recours est rejeté pour le surplus.
2. Les frais judiciaires, arrêtés à 4'000 fr. sont mis pour moitié à charge du recourant et pour moitié à charge de l'intimé.
3. Les dépens sont compensés.
4. La cause est renvoyée à l'autorité cantonale pour nouvelle décision sur les frais et dépens de l'instance cantonale.
5. Le présent arrêt est communiqué aux parties et à la Chambre civile de la Cour de justice du canton de Genève.
Lausanne, le 14 juillet 2009
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Hohl de Poret