Faits:
A. A.a X._ était propriétaire des anciennes parcelles 7014 (1755 m2) et 2450 (57 m2) de la commune de A._, jouxtant au nord-ouest la parcelle 7820, propriété de son oncle Y._ située le long de la route publique M._.
Au sud-est, l'ancienne parcelle 7014 longe, sur une distance d'environ 25 m, la route publique C._, dont elle est séparée par une haie vive. A cet endroit, elle comporte deux bâtiments d'habitation et l'entrée principale de la propriété, destinée aux piétons, laquelle donne donc sur la route en question.
L'ancienne parcelle 2450 n'avait, quant à elle, aucun accès direct à une route publique. Toutefois, elle bénéficiait d'une servitude de passage depuis 1855, grevant la parcelle 7820. On pouvait ainsi y accéder indirectement depuis la route M._, en longeant la limite entre les parcelles 7820 et 7014.
En 1983, X._ a fait ériger, à cheval entre ses parcelles 7014 et 2450, un garage et un couvert auxquels il accédait depuis la route M._. Pour accéder à ces mêmes bâtiments depuis la route C._, il aurait dû aménager une ouverture plus importante dans sa haie vive, puis traverser son jardin où une piscine avait été aménagée.
A.b En 1995, X._ a fait ériger un mur à la limite des parcelles 7820 d'une part, 7014 et 2450 d'autre part. L'accès au garage se faisait par un portail électrique coulissant d'une longueur de 6 m. Une voiture ne pouvait ainsi entrer sur la parcelle 2450 sans empiéter de quelques mètres sur la parcelle 7014. Pour éviter cet empiétement, il aurait fallu que le mur érigé à la limite de la parcelle 2450 fût déplacé et rapproché de quelques mètres en direction du garage.
A.c De 1983 à 1996, X._ et sa famille ont pu utiliser sans problème le passage grevant la parcelle 7820 pour accéder en voiture à leur garage depuis la route M._, puis rejoindre à pied, à travers le jardin, la zone des habitations de la propriété.
La situation s'est modifiée lorsque Y._ a demandé à son neveu son accord pour la suppression formelle de la servitude de passage au bénéfice de la parcelle 2450, en offrant en contrepartie une simple tolérance du passage vers le garage. X._ n'ayant pas accédé à cette demande, les parties ont entrepris des démarches judiciaires qui ont perduré jusqu'à ce jour.
B. B.a Dans le cadre d'une procédure portant sur l'existence et la nature de la servitude de passage, la Cour de justice du canton de Genève a, par arrêt du 8 septembre 1999, autorisé l'inscription au registre foncier de l'aggravation de la servitude grevant la parcelle 7820 en faveur de la parcelle 2450 pour permettre le passage des véhicules à moteur.
La Cour de justice a toutefois précisé le 12 octobre 2001, dans le cadre d'une procédure en cessation de trouble, que cette servitude n'autorisait l'accès qu'à la seule parcelle 2450, à l'exclusion, tant directement qu'indirectement, de la parcelle 7014. Elle a en outre condamné X._ à supprimer la partie du portail, sur une largeur de 1m 20, ouvrant entre les parcelles 7014 et 7820. Par arrêts du 22 janvier 2002, le Tribunal fédéral a déclaré irrecevables des recours interjetés par X._ contre la décision précitée.
B.b Par acte déposé le 18 décembre 2002 auprès du Tribunal de première instance du canton de Genève, X._ a requis la constitution, et son inscription au registre foncier, d'une servitude de passage à pied et à véhicules à moteur au profit de la parcelle 7014 et grevant la parcelle 7820. Débouté par jugement du 20 novembre 2003, il a saisi la Cour de justice d'un appel.
Celle-ci, par arrêt du 14 mai 2004, a confirmé le jugement de première instance pour les motifs suivants: la parcelle 7014 disposait déjà d'une issue pour piétons sur la route C._; une ouverture plus large permettant le passage de véhicules à moteur était concevable vu la configuration des lieux et l'implantation des bâtiments, et un chemin d'accès au garage pouvait être aménagé à travers le jardin ou un autre garage construit à proximité de la route; c'était donc par pure commodité que l'appelant exigeait un passage chez l'intimé; or, il ne pouvait pas exiger de son voisin un accès supplémentaire à son terrain uniquement pour pouvoir garer ses véhicules automobiles dans des locaux mal placés par rapport à l'espace disponible sur le fonds. En outre, a encore retenu la Cour de justice, on ne pouvait reprocher un abus de droit à l'intimé, car le passage réclamé n'était pas nécessaire.
Par arrêt du 2 septembre 2004, le Tribunal fédéral a déclaré irrecevable le recours de droit public interjeté par X._ contre la décision précitée.
C. Par acte notarié du 12 avril 2006, X._ a créé deux nouvelles parcelles 10765 et 10766, issues d'un redécoupage de son fonds. La parcelle 10766 (214 m2) englobe totalement l'ancienne parcelle 2450, ainsi qu'une partie de l'ancienne parcelle 7014 qui, diminuée d'autant, constitue la nouvelle parcelle 10765 (1586 m2).
La parcelle 10766 n'a pas d'accès à la voie publique. La servitude de passage grevant la parcelle 7820 a été reportée au registre foncier au profit de la nouvelle parcelle 10766, avec l'indication que ce droit était limité à la surface de l'ancienne parcelle 2450.
D. Le 17 novembre 2006, X._ a introduit une nouvelle demande à l'encontre de Y._, tendant à l'inscription d'une servitude de passage à pieds et à véhicules à moteur grevant la parcelle 7820 en faveur de la nouvelle parcelle 10766. Il a conclu également à ce que l'assiette de la servitude soit d'une surface réduite - s'arrêtant à la fin de son portail - par rapport à l'assiette de l'actuelle servitude inscrite au profit de l'ancienne parcelle 2450, afin de se limiter à la surface nécessaire pour permettre l'accès à la parcelle 10766 par l'ouverture d'ores et déjà existante à la limite entre les parcelles 7820 et 10766.
Par jugement du 5 septembre 2007, le Tribunal de première instance a débouté X._ de toutes ses conclusions. Celui-ci a fait appel dudit jugement.
En cours de procédure, X._ a vendu ses parcelles 10765 et 10766.
Statuant sur l'appel le 16 mai 2008, la Cour de justice a d'abord constaté que l'aliénation de ses parcelles par X._ n'empêchait pas la continuation du procès entre ce dernier et Y._; puis elle a confirmé le jugement de première instance. En substance, elle a considéré que la parcelle 10766 n'avait pas d'issue sur la voie publique et que l'accès à ce fonds pouvait se faire par la parcelle 10765, qui disposait d'une issue sur la route C._, son propriétaire pouvant aménager une voie carrossable à travers toute la parcelle pour lui permettre de rejoindre le garage situé sur la parcelle 10766, ou construire un nouveau garage avec couvert plus proche de la route C._ et des bâtiments d'habitation. Selon la cour, un accès à la parcelle 10766 depuis la route M._, par report de la servitude grevant la parcelle 7820, restreindrait la propriété de Y._, ce qu'on ne pouvait imposer à celui-ci, le passage réclamé n'étant pas nécessaire à X._. En outre, la configuration parcellaire actuelle était liée à la décision de ce dernier de constituer les deux nouvelles parcelles 10765 et 10766, la seconde englobant l'ancienne parcelle 2450 à laquelle profitait la servitude de passage litigieuse. C'était ainsi à la suite de la division volontaire de X._ que la parcelle 10766 ne disposait plus d'accès à la voie publique.
E. Par un seul et même acte du 23 juin 2008, X._ a interjeté un recours en matière civile et un recours constitutionnel subsidiaire au Tribunal fédéral. Il conclut à l'annulation de l'arrêt cantonal et reprend pour le surplus ses conclusions formulées en instance cantonale, tendant à l'inscription au registre foncier d'une servitude de passage en faveur de la parcelle 10766 à la charge de la parcelle 7820. A l'appui de son recours en matière civile, il invoque la violation du droit fédéral (art. 694 al. 1 CC et art. 2 al. 2 CC) et, dans son recours constitutionnel subsidiaire, une appréciation arbitraire des preuves (art. 9 Cst.).
Une réponse n'a pas été sollicitée.
Considérant en droit:
1. 1.1 Le jugement attaqué tranche une contestation civile portant sur l'inscription d'une servitude de passage à pieds et à véhicules à moteur au sens de l'art. 694 CC, à savoir sur un droit de nature pécuniaire (ATF 92 II 62; 80 II 311 consid.1; 5C.302/2006 du 20 septembre 2007 consid. 2 non publié in ATF 134 III 49; 5C.246/2004 du 2 mars 2005 du 2 mars 2005 consid. 1 non publié in JdT 2005 I 140).
Le recours en matière civile n'est ouvert que si la valeur litigieuse minimale fixée par la loi, en l'espèce 30'000 fr., est atteinte (art. 74 al. 1 let. b LTF). C'est le montant encore litigieux devant la dernière instance cantonale qui est déterminant (art. 51 al. 1 let. a LTF). L'autorité cantonale de dernière instance doit mentionner la valeur litigieuse dans son arrêt (art. 112 al. 1 let. d LTF). Néanmoins, si les conclusions ne tendent pas au paiement d'une somme d'argent déterminée, le Tribunal fédéral fixe la valeur litigieuse selon son appréciation (art. 51 al. 2 LTF). Il n'est lié pour cela ni par l'estimation de la partie recourante ou un accord des parties (ATF 109 II 491 consid. 1c/ee), ni par une estimation manifestement erronée de l'autorité cantonale. En l'espèce, la cour cantonale a retenu une valeur litigieuse de 40'000 fr. La procédure ne contenant aucun indice permettant de mettre en doute cette valeur, celle-ci sera considérée comme déterminante, de sorte qu'il y a lieu de retenir que le seuil de la valeur litigieuse est atteint.
Pour ce qui est des autres conditions de recevabilité, le présent recours a été interjeté dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi par une partie qui a succombé dans ses conclusions prises devant l'autorité précédente (art. 76 al. 1 LTF). Il est dirigé contre une décision finale (art. 90 LTF) rendue en matière civile (art. 72 al. 1 LTF) par une autorité cantonale de dernière instance (art. 75 al. 1 LTF). Par conséquent, il est recevable.
1.2 Le recourant méconnaît que le choix entre la voie du recours en matière civile et celle du recours constitutionnel subsidiaire dépend de la nature de l'affaire et, si elle est pécuniaire, de la valeur litigieuse (ATF 133 III 446 consid. 3.1), ainsi que, exceptionnellement, de l'existence d'une question juridique de principe (art. 74 al. 2 let. a LTF). Le grief d'arbitraire dans l'appréciation des preuves (art. 9 Cst.) sera donc traité dans le recours en matière civile, dont les conditions de recevabilité sont, comme on vient de le voir (consid. 1.1), remplies en l'espèce.
2. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours pour d'autres motifs que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 133 II 249 consid. 1.4.1; 130 III 136 consid. 1.4 in fine, 297 consid. 3.1). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une juridiction de première instance, toutes les questions juridiques pouvant se poser, lorsqu'elles ne sont plus discutées devant lui (ATF 134 III 102 consid. 1.1; 133 IV 150 consid. 1.2 p. 152). Il ne connaît de la violation de droits fondamentaux ou du droit cantonal que si ce grief a été soulevé et motivé par le recourant (art. 106 al. 2 LTF), les exigences de motivation correspondant à celles de l'ancien art. 90 al. 1 let. b OJ (ATF 133 II 249 consid. 1.4.2; 133 III 393 consid. 6 p. 397).
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF); il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Le recourant qui entend s'écarter des constatations de la juridiction cantonale doit exposer de manière circonstanciée en quoi les exceptions prévues par l'art. 105 al. 2 LTF seraient réalisées (ATF 133 IV 150 consid. 1.3 p. 152; 130 III 138 consid. 1.4 p. 140). Les faits nouveaux et les preuves nouvelles sont prohibés à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
De jurisprudence constante, le Tribunal fédéral se montre réservé en matière de constatation des faits et d'appréciation des preuves, vu le large pouvoir qu'il reconnaît en ce domaine aux juridictions cantonales (ATF 120 Ia 31 consid. 4b p. 40; 104 Ia 381 consid. 9 p. 399 et les arrêts cités). Il n'intervient, du chef de l'art. 9 Cst., que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans raisons objectives de tenir compte de preuves pertinentes ou a effectué, sur la base des éléments recueillis, des déductions insoutenables; encore faut-il que la décision attaquée en soit viciée dans son résultat (ATF 129 I 8 consid. 2.1 p. 9; 127 I 38 consid. 2a p. 41; cf. aussi ATF 133 II 249 consid. 1.4.3 p. 254/255).
3. Dans une formulation peu claire en relation avec le grief d'arbitraire, on peut comprendre que le recourant reproche à l'autorité cantonale de ne pas avoir retenu qu'il avait été convenu avec le précédent propriétaire de la parcelle 7820 que la servitude de passage profiterait également à la parcelle 7014 et que ce n'était qu'à la suite d'une négligence du notaire que cette servitude n'avait pas fait l'objet d'un acte inscrit au registre foncier. Autant que le recourant se réfère à des faits qui ne ressortent pas de l'arrêt entrepris, sans formuler à cet égard une critique motivée conformément aux exigences, son grief est irrecevable.
4. Le recourant reproche à la cour cantonale d'avoir violé l'art. 694 CC en retenant que l'accès à sa parcelle 10766 est suffisant dès lors qu'il peut se faire par la parcelle 10765.
4. Le recourant reproche à la cour cantonale d'avoir violé l'art. 694 CC en retenant que l'accès à sa parcelle 10766 est suffisant dès lors qu'il peut se faire par la parcelle 10765.
4.1 Aux termes de l'art. 694 CC, le propriétaire qui n'a qu'une issue insuffisante sur la voie publique peut exiger de ses voisins qu'ils lui cèdent le passage nécessaire, moyennant pleine indemnité (al. 1); ce droit s'exerce en premier lieu contre le voisin à qui le passage peut être le plus naturellement réclamé en raison de l'état antérieur des propriétés et des voies d'accès, et, au besoin, contre celui sur le fonds duquel le passage est le moins dommageable (al. 2); le passage nécessaire sera fixé en ayant égard aux intérêts des deux parties (al. 3).
Dans une jurisprudence constante, le Tribunal fédéral a fait dépendre l'octroi d'un passage nécessaire de conditions très strictes. De la genèse de l'art. 694 CC, il a déduit que le droit de passage - fondé sur le droit de voisinage - ne peut être invoqué qu'en cas de véritable nécessité: il n'y a nécessité que si une utilisation ou une exploitation conforme à la destination du fonds exige un accès à la voie publique et que cet accès soit fait totalement défaut, soit ne correspond pas aux besoins actuels (ATF 120 II 185 consid. 2a; 117 II 35 consid. 2; 110 II 126 consid. 4; 105 II 178 consid. 3b et les références citées). La simple opportunité d'améliorer une voie d'accès existante, mais qui n'est pas absolument satisfaisante, ne fonde pas le droit au passage nécessaire (ATF 105 II 178 consid. 3b; 85 II 392 consid. 1b; 80 II 311 consid. 2 p. 317 et les références), pas plus que la simple commodité personnelle du propriétaire (ATF 84 II 614 consid. 3 p. 691/620; 93 II 167 consid. 2; 5C.327/2001 du 21 mars 2002 consid. 3a).
Un accès ne fait pas totalement défaut lorsque le propriétaire du fonds dispose d'un droit de servitude sur un fonds voisin ou d'un droit personnel d'utilisation sur celui-ci et qu'il peut l'utiliser, le cas échéant, en l'aménageant sans frais disproportionnés (arrêt 5C.40/2006 du 18 avril 2006 consid. 3.1 et les références).
Le Tribunal fédéral a admis qu'un propriétaire ne saurait réclamer de passage lorsqu'il a lui-même causé l'état de nécessité, qu'il l'a toléré ou s'en est accommodé, ou encore lorsqu'il a adopté un comportement contraire au principe de la bonne foi, par exemple en supprimant un passage existant pour en obtenir un plus commode. Le refus du passage suppose donc que le propriétaire ait provoqué l'état de nécessité en agissant de façon délibérée. Tel n'est pas le cas lorsque, en aliénant un immeuble ou une partie de celui-ci, le propriétaire oublie de se constituer une servitude de passage sur la parcelle aliénée et que son fonds se trouve ainsi privé de liaison avec la voie publique (ATF 134 III 49 consid. 4.1 et les références).
4.2 Il ressort des faits retenus par l'autorité cantonale qu'à la suite du remaniement parcellaire auquel a procédé le recourant, la servitude de passage qui profitait à l'ancienne parcelle 2450 a été reportée sur le feuillet de la nouvelle parcelle 10766 conformément à l'art. 91 al. 3 de l'ordonnance sur le registre foncier (ORF; RS 211.432.1). Il en résulte que la parcelle 10766 dispose (toujours) d'un accès à la voie publique, soit la route M._, par la servitude de passage grevant le fonds 7820, mais dans les limites de l'ancienne parcelle 2450. Dans son arrêt du 8 septembre 1999, la Cour cantonale avait du reste refusé d'ordonner la radiation de cette servitude, qu'elle avait au contraire aggravée en autorisant le passage des véhicules à moteur. Ultérieurement, dans ses décisions des 12 octobre 2001 et 14 mai 2004, l'autorité cantonale a refusé à l'ancien fonds 7014 le bénéfice de la servitude grevant le fonds 7820, au motif qu'il disposait déjà dans sa partie sud d'une issue sur la route C._. De plus, le recourant était sommé de déplacer son portail sur 1m 20 pour éviter que l'accès au garage par ce portail n'empiète sur l'ancienne parcelle 7014, du fait qu'elle ne bénéficiait pas de la servitude profitant à l'ancienne parcelle 2450.
Ainsi, la situation actuelle n'est pas différente de celle qui prévalait antérieurement et le recourant ne fait que redemander, de manière déguisée, ce qu'il requérait déjà en 2002, à savoir le déplacement du tracé et de l'assiette de la servitude en faveur de la portion de terrain de la parcelle 10766 correspondant à l'emplacement du portail de son garage de manière à ne pas avoir à déplacer celui-ci. Or, le remaniement parcellaire auquel a procédé le recourant en avril 2006 ne saurait avoir cette conséquence, aucun élément nouveau ne justifiant de changement au détriment de la parcelle 7820, la simple volonté du recourant d'obtenir un passage plus commode ne suffisant pas (cf. consid. 4.1 ci-dessus).
Le rejet du recours s'imposant pour ce motif, il n'y pas lieu d'examiner l'argumentation du recourant selon laquelle la Cour de justice ne pouvait, sans violer le droit fédéral, considérer que l'accès à la parcelle 10766 devait se faire par la parcelle 10765 dans la mesure où il était constant que si la servitude litigieuse ne profitait que dans une mesure restreinte à la parcelle 10766, c'était à cause de la seule détermination du recourant, qui avait procédé à la division de l'ancienne parcelle 7014 pour élargir la parcelle 10766 nouvellement créée.
4.3 Enfin, le recourant reproche à la cour cantonale de ne pas avoir retenu que l'intimé commettait un abus de droit en cherchant depuis douze ans à faire radier une servitude existante, et à en empêcher ou en limiter à l'excès l'exercice. En tant que le recourant se fonde sur des allégations relatives au comportement de l'intimé qui ne ressortent pas des constatations de l'arrêt cantonal, sa critique est irrecevable. Au demeurant, les modalités de l'exercice de la servitude ne sont pas l'objet du litige, qui est circonscrit à la seule question de l'inscription d'une servitude en faveur du fonds 10766.
5. En conclusion, le recours doit être rejeté dans la mesure de sa recevabilité, par substitution de motifs (cf. consid. 2 et 4.2 ci-dessus).
La charge des frais judiciaires incombe au recourant, qui succombe (art. 66 al. 1 LTF). Il n'y a pas lieu d'allouer de dépens à l'intimé, qui n'a pas été invité à répondre.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Chambre civile de la Cour de justice du canton de Genève.
Lausanne, le 9 septembre 2008
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président: Le Greffier:
Raselli Fellay